Från enkla regler till AI som pratar med oss

Du skriver en fråga och får ett svar som låter som om någon tänkte efter. Hur kom vi hit?

Det skedde genom många forskningsspår, inte en enda uppfinning. En del program följde uttryckliga regler. Andra lärde sig samband från exempel. Metoderna utvecklades parallellt och kombineras fortfarande. Här följer några hållpunkter, sedan tittar vi på vad som händer när en språkmodell tränas.

1956: intelligens som forskningsprojekt

Sommaren 1956 samlades forskare vid Dartmouth College i USA. I förslaget inför projektet, skrivet 1955 av John McCarthy och tre kollegor, användes uttrycket artificiell intelligens. De ville undersöka om bland annat språk och lärande kunde beskrivas så precist att en maskin kunde efterlikna dem. Det var en forskningsidé, inte ett påstående om att uppgiften redan var löst. ¹

Ett sätt att närma sig problemlösning är regler: om detta gäller, gör så här. Tänk på ett mycket enkelt program som sorterar frågor efter vissa ord. Det kan fungera inom sitt smala område. Men skriv ”lampan är stendöd” när regeln bara känner igen ”lampan fungerar inte”, så kan det missa samma vardagsproblem. Exemplet är påhittat för att visa regelns begränsning.

1986: fel används för att justera ett nätverk

I ett uppmärksammat arbete från 1986 beskrev David Rumelhart, Geoffrey Hinton och Ronald Williams hur ett nätverk av beräkningsenheter kunde justera sina kopplingsvikter utifrån fel i svaren. Med bakåtpropagering räknar man baklänges genom nätverket för att se hur små ändringar av dess vikter påverkar felet. Träningsmetoden använder sedan den beräkningen för att justera vikterna. Arbetet var betydelsefullt, men metoden hade föregångare. ^{2, 11, 12}

Tänk dig att ställa in flera rattar tillsammans. Du får ett mått på hur fel resultatet blev och justerar rattarna inför nästa försök. Rattarna motsvarar tal i modellen. Träningen bygger inte på att någon skriver en särskild regel för varje möjligt exempel.

2012: ett stort steg för bildigenkänning

Ett djupt neuralt nätverk gav starka resultat i bildklassificering i ImageNet-tävlingen 2012. Bildklassificering betyder att välja en kategori för en bild, till exempel en sorts föremål. Nätverket använde flera beräkningslager och grafikprocessorer, datorchips som kan göra många beräkningar parallellt. ³

Ordet neuralt syftar på inspiration från nervsystemet. Enheterna i ett sådant nätverk är matematiska beräkningar, inte små levande nervceller.

2017: transformern

Forskarna bakom Attention Is All You Need presenterade 2017 en modellarkitektur som kallas transformer. Arkitektur betyder hur beräkningarna är organiserade. En central del är attention, en metod som väger relationer mellan olika delar av materialet. ⁴

I meningen ”Nyckeln låg i väskan eftersom den var stor” behöver vi avgöra vad ”den” syftar på. Attention hjälper modellen att använda sammanhang mellan textdelar. Exemplet illustrerar sammanhangets betydelse; metoden är ingen garanti för att varje syftning blir rätt. Och attention betyder här en beräkning, inte mänsklig uppmärksamhet eller medvetande.

Gissa, jämför, justera

En vanlig grundträning för genererande språkmodeller är att förutsäga nästa textdel. Texten delas i token, som kan vara ett ord, en del av ett ord eller ett tecken. Modellen använder det föregående sammanhanget, gör en förutsägelse och får sina parametrar justerade utifrån träningens mål. ⁵

Genom många exempel lär den sig samband som kan användas till mer än att fortsätta en mening. GPT-3-studien från 2020 visade hur en stor språkmodell kunde utföra flera uppgifter utifrån instruktioner eller några exempel i själva frågan. Resultaten varierade mellan uppgifterna. ⁵

2022: hjälp att följa instruktioner

Ett arbete om InstructGPT visade hur exempel på önskade svar och människors rangordning av svar kunde användas för vidare träning. Systemet blev bättre på att följa användarens avsikt i de undersökta uppgifterna. Det fortsatte ändå att göra misstag. Dagens system kan använda flera former av efterträning; detta är ett historiskt exempel. ⁶

Den 30 november 2022 släppte OpenAI ChatGPT som en publik forskningsförhandsversion. Där kunde människor föra ett samtal med en modell som hade tränats vidare med mänsklig återkoppling. ⁸

När du sedan frågar en färdig modell används de tränade talen, tillsammans med innehållet i samtalet, för att skapa ett svar. Själva svarandet är inte automatiskt en ny grundträning. En tjänst kan dock spara samtal, använda dem i senare träning eller ha ett separat minne. Det beror på tjänstens funktioner och inställningar. ChatGPT:s dokumentation skiljer till exempel på sparat tjänstminne och användning av samtal för senare modellträning. ^{9, 10}

Språklig rimlighet räcker inte

En modell kan skriva en trovärdig mening utan att uppgiften i den är sann. Den kan också hitta på en hänvisning som liknar en riktig källa. Det brukar kallas hallucination eller konfabulering. Här betyder orden felaktigt eller vilseledande genererat innehåll; de innebär inte att modellen har en mänsklig sinnesupplevelse. ⁷

Sökverktyg och tillgång till dokument kan ge bättre underlag. Men de ersätter inte kontrollen av att källan stöder det som sägs. Ett svar kan vara elegant, begripligt och fel samtidigt. ⁷

Det är kanske det mest användbara att bära med sig från historien: tekniken har lärt sig att göra mycket med språk. Därför måste vi också undersöka vad orden vilar på.

Bara en fråga till: vad händer när ett system får möjlighet att göra mer än att svara?