AI literacy - at kunne forstå og bruge AI
Her dykkes der ned i vigtigheden af at være AI-kyndig i en verden, hvor AI bliver stadig mere integreret i vores daglige liv. Indlægget giver en grundlæggende forståelse af AI-systemer, deres funktioner, og hvad de kan bruges til, samtidig med at det adresserer risikoen ved ukritisk brug af AI-teknologier. Vigtigheden af AI literacy bliver fremhævet gennem forskning og eksempler, der viser, hvordan uddannelse og oplysning kan formindske angst for teknologien og forbedre interaktionen med AI-værktøjer som ChatGPT.
Det danske digitale opslagsværk Lex.dk afholdte i april 2023 en konference om digital informationssøgning og betydningen af ChatGPT. Konferencen i sin helhed er tilgængelig på YouTube-kanalen “lex dk”.
Som oplægsholder havde lex.dk inviteret Rose Luckin, professor ved UCL Knowledge Lab i London, som talte om AI literacy (AI-dannelse), og hvor vigtigt det bliver i fremtiden:
“We need to make sure that we prioritise AI literacy. From junior school, university and the workplace. We need the population to be AI literate. They need to know how to use AI, how to live with it, how to work with it, how to live and work alongside AI.”
At en person er AI literate, det betyder, at personen besidder en evne til at forstå, anvende og kritisk vurdere AI. Det indebærer en grundlæggende teknologisk forståelse af, hvad et AI-system er, hvordan det fungerer, og hvad det kan bruges til.
Ud over en grundlæggende viden om AI-systemer, så ser Rose Luckin det også for afgørende, at vi for at blive AI literate opnår en forståelse af risikoen for at tage skade af vores brug af AI-systemer:
“They need a non-technical understanding of what AI can do, and what it can’t do, how to benefit from it and how to try and reduce the risk that they are harmed by it.”
Der er et hurtigt voksende behov for grundlæggende viden om AI i befolkningen.
Dette er et presserende behov, som kun kommer til at blive større med tiden – i takt med at teknologi og AI kommer til at blive en større del af mange aspekter af vores liv.
Vejen til AI literacy
EU har i kommende lovgivning (AI-forordningen) udtrykt, at man ønsker at medlemsstaterne skal fremme foranstaltninger til udvikling af et tilstrækkeligt niveau af AI-literacy på tværs af sektorer, herunder gennem uddannelses-, undervisnings-, opkvalificerings- og omskolingsprogrammer. Lovgivningen kan findes på hjemmesiden eur-lex.europa.eu.
EU fastslår i lovgivningen, at et tilstrækkeligt niveau af AI-literacy b.la. kan opnås via undervisning med hensyn til grundlæggende begreber og færdigheder vedrørende AI-systemer, deres funktion, herunder de forskellige produkter og anvendelser, deres risici og fordele.
I studiet ‘Learning to Prompt in the Classroom to Understand AI Limits: A pilot study’, fra september 2023 (offentligt tilgængeligt), peger en række europæiske forskere på, hvad der er at opnå ved at fokusere på AI literacy.
Forskerne gennemførte en pilotundersøgelse med 21 gymnasieelever i Palermo, Italien. Som del af studiet deltog eleverne i en to timer lang workshop, hvor eleverne blev introduceret til grundlæggende koncepter inden for AI og sprogmodeller.
Eleverne udførte praktiske øvelser med ChatGPT, hvor de lærte at anvende forskellige prompting-strategier for at forbedre kvaliteten af deres interaktioner med modellen.
Resultatet af undersøgelsen var, at workshoppen gjorde eleverne mindre angst for teknologien. Deres generelle holdning til teknologien blev generelt mere positiv.
Helt centralt blev der observeret en forbedring i deres forståelse af sprogmodellers begrænsninger. Endelig viste eleverne også forbedret evne til at interagere med ChatGPT efter at have lært om prompting-strategier.
Det er helt tydeligt, at der er meget at hente ved at blive klogere på sprogmodeller – både på et personligt plan, men også på et samfundsplan.
Uden en grundlæggende forståelse af AI kan der udvikles misforståelser om, hvad AI er, og hvad den kan gøre. Dette kan føre til ubegrundet frygt og angst over for teknologien, som kan være en barriere for accept og adoption af AI.
Med en grundlæggende forståelse af, hvordan AI fungerer, bliver folk mindre sårbare over for potentiel misinformation og manipulation, som teknologien kan forårsage.
På et samfundsmæssigt plan kan manglende AI-literacy bl.a. også forværre den såkaldte digitale kløft, hvor dele af befolkningen kan blive efterladt på perronen i den teknologiske udvikling. Dette kan føre til ulige adgang til information og ressourcer samt øge uligheden.
“I en verden, hvor teknologien konstant
udvikler sig”
Det er samtidig vigtigt at kaste lys på nogle uheldige tendenser omkring selve brugen af teknologien. Der er f.eks. bestemte sætninger, som ChatGPT ofte bruger, hvis brugeren har givet den en generelt formuleret prompt. Man kan se sætningerne lidt som ChatGPT’s go-to sætninger, hvis brugeren ikke har været særlig konkret omkring, hvilket output som ønskes.
Nedenfor ses en graf, der viser antallet af Google-resultater på søgningen “i en verden, hvor teknologien konstant udvikler sig” fra 2000 til 2023:
Som man kan se, så var den helt ordrette sætning ikke særlig udbredt i mange år. Første gang at den ordrette sætning optræder i Googles søgemaskine, er i år 2018.
Men i 2023 sker der en pludselig og voldsom ændring i søgeresultaterne. Fra at søgningen gav 1 resultat i 2022, så eksploderer søgningsresultatet til 99 resultater i 2023, i forlængelse af lanceringen af ChatGPT.
ChatGPT har en tendens til at generere svar, som afspejler de mest almindelige formuleringer og strukturer i dens træningsdatasæt. Det betyder, at når brugere stiller vage eller generelle spørgsmål, kan ChatGPT hælde til at give standardiserede svar, snarere end at skabe noget genuint nyt eller tilpasset til den specifikke situation.
Den observerede stigning i anvendelsen af sætningen kan indikere, at brugerne i nogle tilfælde måske ikke fuldt ud overvejer, hvordan de bruger teknologien. Dette kan manifestere sig i en tendens til ukritisk at kopiere eller støtte sig til AI-genererede tekster uden tilstrækkelig overvejelse eller tilpasning.
En sådan uopmærksom brug kan resultere i en manglende originalitet og dybde i tekster, hvilket kan have konsekvenser for den måde, information og viden formidles på.
Når AI-systemer som ChatGPT bruges som en primær kilde til tekstproduktion, uden tilstrækkelig menneskelig redigering eller kritisk vurdering, kan det føre til en vis form for standardisering i kommunikation. Dette kan begrænse diversiteten i udtryk og tankegang, som er afgørende for den menneskelige kreativitet.
Derudover kan et overforbrug af AI-genererede tekster i værste fald også bidrage til spredningen af misinformation, hvis systemerne utilsigtet reproducerer fejlagtige eller forældede oplysninger.
Desuden rejser det spørgsmål om, hvordan vi som samfund og individer forholder os til teknologien. Det er vigtigt at overveje, hvordan vi kan anvende AI på en måde, der fremmer innovation og kreativitet, samtidig med at vi bevarer et kritisk blik på teknologiens begrænsninger, og hvad teknologien kan medføre. En bevidst og reflekteret brug af AI-teknologi er derfor nødvendig for at sikre, at vi udnytter dens fulde potentiale på en ansvarlig og givende måde.
Dette indlæg udforsker ChatGPT’s fundament baseret på kunstige neurale netværk, dets træningsproces med enorme datamængder, og hvordan menneskelig feedback finjusterer dets evne til at forstå og generere sprog. Oplev hvordan ChatGPT efterligner menneskelig intelligens for at revolutionere kommunikation, kreativitet, og interaktion med teknologi.