Generative AI-systemer som producerer tekst-output kaldes sprogmodeller. Dette står i kontrast til f.eks. billedgenererende AI-systemer.

Sprogmodeller begyndte for alvor at tage form efter anden verdenskrig. Den grundlæggende idé er langt hen af vejen i princippet den samme i dag sammenlignet med dengang. Disse tidlige sprogmodeller blev skabt ved brug af såkaldte matematiske N-Gram statistiske modeller.

Claude Shannon udgav i 1948 en videnskabelig artikel om N-Gram, ‘A Mathematical Theory of Communications’, hvori det beskrives, hvordan man matematisk kan beregne sandsynligheden for det næste ord i en sætning.

Der skete for alvor et fremskridt i 1967, hvor forskeren Joseph Weizenbaum udviklede en såkaldt ‘Large Language Model’ (LLM), eller ‘sprogmodel’ på dansk. Joseph Weizenbaum gav modellen et navn – han kaldte den Eliza.

Eliza var et enkelt program, der brugte mønstergenkendelse til at simulere menneskelig samtale ved at omdanne brugerens input til et spørgsmål og generere et svar baseret på et sæt foruddefinerede regler.

Chatbots adskiller sig fra tidligere sprogmodeller ved at være interaktive. Eliza var en af de første modeller, der demonstrerede, at en computer kan indgå i en form for dialog med en menneskelig bruger.

Siden 1967 har chatbots undergået en voldsom udvikling, især med udviklingen af såkaldte Transformer-neurale netværk, som blev introduceret i 2017 i den videnskabelige artikel: ‘Attention Is All You Need’.

Chatbots potentiale blev for alvor alment kendt i slutningen af 2022, hvor det amerikanske selskab OpenAI gjorde en chatbot gratis tilgængelig til enhver, som lavede en bruger på deres hjemmeside. Chatbotten blev kaldt ChatGPT.

ChatGPT tog verden med storm. Programmet nåede 100 millioner brugere hurtigere, end nogen anden applikation havde gjort før – det tog kun 2 måneder.

ChatGPT funktionaliteter

ChatGPT er baseret på sprogmodeller, der går under navnet “Generative Pre-trained Transformer”. OpenAI udvikler løbende nye udgaver af disse GPT-modeller, der har forskellige funktioner, ud over blot at være en chatbot. I det følgende har vi oplistet en oversigt over forskellige funktionaliteter – senere i bogen vil flere blive uddybet.

Søg med Bing

Med denne funktion kan du bede ChatGPT om at søge efter information på internettet. En central fordel er, at man får links til de hjemmesider som ChatGPT har baseret sit svar på. 

Dette kan give større mulighed for at verificere svaret. Spørgsmålet om transparens og præcision i sprogmodellers svar er en central problematik som vi kommer nærmere ind på i indlægget ‘Hvad er sprogmodellers begrænsninger’.

Plugins

Plugins er tilføjelsesprogrammer, der er lavet af tredjepartsudviklere. De kan tilføje diverse ekstra funktionaliteter til ChatGPT, og kan specialisere ChatGPT yderligere til netop dine behov.

Stemmeinteraktion

Det er muligt at have en mundtlig samtale med ChatGPT. Dette kan være en mere uformel måde at interagere med sprogmodellen på. Teknisk set laver man et “opkald” til ChatGPT, så man kan for eksempel gå en tur, mens man har en diskussion med sprogmodellen.

Upload filer til ChatGPT

Når man sender en prompt til ChatGPT, er det muligt at vedhæfte en fil, som ChatGPT kan basere sit output på.  Denne form for prompting kan bruges til såkaldt “grounded prompting”, hvilket du vil lære mere om i kaptilet om prompting.

Lav din egen GPT

ChatGPT giver dig mulighed for at lave en tilpasset GPT med et bestemt formål. Du kan f.eks. uploade PDF’er med relevant information, som den tilpassede GPT vil bruge. Til redigering af denne bog uploadede vi den halvt færdige udgave til en tilpasset GPT og brugte den til at komme med forslag til forbedringer.