UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT

Uddannelses- og Forskningsudvalget 2022-23 (2. samling)
UFU Alm.del Bilag 89
Offentligt

VIDENSSØGNING,

UDDANNELSE OG

FORSKNING

- MED KUNSTIG

INTELLIGENS

Hvidbog på baggrund af konference

den 12. april 2023

UFU, Alm.del - 2022-23 (2. samling) - Bilag 89: Hvidbog udarbejdet af lex.dk på baggrund af konference den 12. april 2023 med danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT

Kolofon:

Videnssøgning, uddannelse og forskning - med kunstig intelligens

Hvidbog på baggrund af konferencen den 12. april 2023

Maj 2023

Redaktion:

Erik Henz Kjeldsen

Layout:

Mette Centio, Centio.dk

Tryk:

Christensen Grafisk

Indhold

Forord

..................................................................................4

Resumé

................................................................................5

AI for dummies: Hvad er kunstig intelligens,

ChatGPT, Bart og alle det andet?

Hovedpointer fra Ole Winthers oplæg

...................................

Kunstig intelligens skal styrke undervisningen

Hovedpointer fra Rose Luckins oplæg

..................................9

Hvad skal mennesket vide, når maskinen bliver klogere?

Hovedpointer fra Camilla Mehlsens oplæg

...........................

Kunstig intelligens og højere uddannelse

Hovedpointer fra Thore Husfeldts oplæg

............................

Viden er ikke et meme

Hovedpointer fra Vincent Hendricks’ oplæg

.........................15

Adgangen til troværdig viden er en del af den

demokratiske infrastruktur

Hovedpointer fra Erik Henz Kjeldsens oplæg

.......................17

Hvad er det lovgivningsmæssige perspektiv på

AI – nationalt og europæisk?

Hovedpointer fra Thomas Höppners oplæg

.........................19

Forord

Som et bidrag til en kvalificering af, hvordan vi som samfund både kan bevare og udvikle vores forståelse af,

hvordan viden skabes, tilgængeliggøres og deles, afholdt Danmarks nationalleksikon, lex.dk, i samarbejde med

Danske Universiteter, Danske Professionshøjskoler, Danske Gymnasier og Danske Biblioteker en konference med

danske og udenlandske eksperter om digital informationssøgning i lyset af AI (kunstig intelligens) og ChatGPT.

Konferencen fandt sted den 12. april 2023 på Københavns Universitet, og i denne hvidbog har vi sammenfattet

konferencens konklusioner og anbefalinger.

Det er med stor fornøjelse, at vi allerede nu kan annoncere, at konferencen vil blive en årlig tilbagevendende

begivenhed, som afholdes umiddelbart efter påskeferien. Denne første konference og de enkelte oplæg, kan

genses på mere.lex.dk

Resumé

Hvad skal man tro på?

Ansvarshavende chefredaktør Erik Henz Kjeldsen, lex.dk

Kunstig intelligens kommer til at forandre verden lige

så meget, som internettet har gjort. Det står næppe

til diskussion.

I løbet af de første par måneder efter lanceringen af

OpenAI’s ChatGPT i november 2022 fik servicen mere

end 100 mio. besøg, og den nye teknologi fik med det

samme betydning for både virksomheder, uddannelse,

forskning og måden, vi søger information på inter-

nettet på. OpenAI viste os, hvor langt de er kommet

med maskingenereret information. Og nu foregår der

et kapløb: Hvilke selskaber kan udnytte teknologien

bedst og mest relevant for annoncørerne, og hvordan

kan teknologien optimere arbejdsprocesser, reducere

omkostninger og hæve kvaliteten på alskens produkter

og services?

I undervisningssektoren faldt værdien af flere af de

store undervisningsforlag, og på universiteterne og

ungdomsuddannelserne blev der bl.a. stillet følgende

spørgsmål: Hvad betyder det for undervisningen? Hvor-

dan skal vi eksaminere, når studerende og elever kan få

svaret på opgaverne i løbet af 10 sekunder?

I medierne kan vi læse, at Googles topchef ligger

søvnløs om natten, og om techudviklere, der slår alarm

og advarer mod den nye teknologi. Nogle siger op fra

deres jobs, laver underskriftsindsamlinger og sender

fælles breve, der anbefaler en pause i udviklingen af

teknologien. (Det sidste ved vi ikke kommer til at ske.

Konkurrencen er for stor. Pengene for mange). Og si-

denhen kunne World Economic Forum offentliggøre en

undersøgelse blandt de største virksomheder i verden,

der fremmanede et billede af massive opsigelser og

arbejdsløshed, og pludselig var det ikke bare de lavtud-

dannede, der stod for skud: Nu var det i lige så høj grad

advokater og revisorer, der var truet på deres levebrød.

Efter konferencen på Københavns Universitet står i

hvert fald én ting klart: Vi må som samfund prøve at

ruste os og blive klogere på teknologien, så vi kan

udnytte mulighederne og imødegå de største trusler.

Og det haster, for platformene, der bygger på kunstig

intelligens, udvikler sig i en rasende fart.

Så hvad er det, teknologien kan? Ja, man fristes næsten

til at spørge: Er der noget, teknologien ikke kan?

Fokus for konferencen var teknologiens evne til at

levere beskrivelser, svar og løsninger på komplekse

spørgsmål. Noget, som netop nu er ved at blive ind-

arbejdet i de etablerede søgemaskiner, som de fleste

bruger, når de søger viden. Så kunstig intelligens vil

grundlæggende ændre på den måde, vi får viden på: I

en snarlig fremtid vil det formentligt ikke længere være

muligt at se, hvor den information, vi møder, stammer

fra. Artikler og opslag må forventes at være delvist

maskingenererede (i endnu højere grad end i dag) og

uden kildehenvisninger, genereret med udgangspunkt

i tekster indsamlet fra mio. af artikler og opslag på

internettet. Og en del af de tekster, som AI-systemerne

vil generere, vil være det, som datalogerne menne-

skeliggør og kalder hallucinationer, men som reelt er

sproglige konstruktioner, som er noget vrøvl. Algorit-

misk junk. Misinformation. Eller fake news, som vi har

kaldt det for kort tid siden.

Og det stopper ikke der. Kunstig intelligens vil pro-

ducere nyt indhold: Vi vil se billeder og videoer af

begivenheder, der aldrig har fundet sted; lydklip med

udtalelser, der aldrig er blevet sagt, og musik, som

aldrig er blevet indspillet.

Og allerede nu har mange af os læst artikler og tekst-

stumper, som er skabt uberørt af menneskehånd.

Sammensat af computerens mekaniske logik og base-

ret på mio. af tidligere skrevne tekster. De ligner noget

menneskeskabt og redigeret indhold, men er - som Ole

Winther forklarede på konferencen - blot sprog. Genere-

ret ud fra, hvad der tidligere er skrevet. Uden refleksion.

Uden indsigt. Uden erfaring. Uden at der så at sige er

”nogen hjemme”. For AI, som vi møder den i fx ChatGPT,

er ikke intelligent. Den er en sandsynlighedsalgoritme,

der dygtigt beregner næste oplagte stavelse eller ord i

en tekst.

Faresignalerne er mange - men kunstig intelligens rum-

mer også et potentiale. Hvis vi udnytter den rigtigt og

sikrer, at vi får en åben dialog om muligheder, trusler,

styrker og svagheder. En samtale, vi skal have både i

undervisningssektoren, forskningen og som en bredere

demokratisk samtale i samfundet. Så spørgsmålet er,

hvordan vi får den samtale? Og hvordan koncentreres

samtalen til beslutninger, lokalt, nationalt og globalt?

Viden er for Danmark og den vestlige verden helt

centralt for den demokratiske model og for velfærdssta-

ten, og lykkes det ikke for samfundet at sikre adgangen

til troværdig information, vil det være nødvendigt

at revidere indretningen og de politiske visioner for

videnssamfundet.

Internettet er allerede i dag den altdominerende platform for søgning af viden og information; men som Thomas

Höppner sagde på konferencen, er de centrale aktører ikke længere optaget af nettets oprindelige demokratiske

vision, hvor internettet skulle understøtte uddannelse og fri adgang til den bedste viden. I dag er den domineren-

de forretningsmodel at indsamle viden om brugerne og sælge den videre.

På den måde er AI endnu et wakeupcall, på samme måde som Cambridge Analytica og skandalen omkring Brexit

og det amerikanske valg var det i forhold til betydningen af sociale medier og fake news.

Eksperterne på konferencen havde en række anbefalinger, som vi har sammenfattet i denne hvidbog, og da nogle

af dem går igen, har vi sammenfattet en top-3 nedenfor:

1. Det bliver afgørende nødvendigt at styrke forståelsen af teknologi i skolen

2. Det bliver afgørende nødvendigt at sikre, at borgerne har fri og uhindret adgang til

troværdig viden

3. Det bliver nødvendigt at regulere techgiganternes dominans og brugen af kunstig intelligens.

Ligesom vi aldrig vil tillade ny medicin uden at godkende den, bør vi også

forholde os til ny teknologi

I kredsen bag konferencen vil vi løbende tage initiativer, der kan bidrage til både samtalen og grundlaget for de

nødvendige beslutninger om kunstig intelligens. Det er nyt for os som aktører, at vi skal samarbejde tæt om en

teknologisk udfordring. Og det er måske en af de mange gode ting, som kommer ud af det pludselige nybrud,

som denne teknologi må siges at være.

”

Kunstig intelligens rummer også et potentiale. Hvis vi

udnytter den rigtigt og sikrer, at vi får en åben dialog om

muligheder, trusler, styrker og svagheder. En samtale,

vi skal have både i undervisningssektoren, forskningen

og som en bredere demokratisk samtale i samfundet.

”

AI for dummies: Hvad er kunstig intelligens,

ChatGPT, Bart og alt det andet?

Den teknologiske udvikling går stærkt, og med udviklingen af kunstig intelligens (også kaldet AI) og ChatGPT går

verden mod en fremtid, hvor vi ikke længere kan stole på det, som vi ser og hører online. Vi skal som samfund

forholde os til de nye digitale udfordringer. Første skridt i denne proces er at forstå, hvad kunstig intelligens og

ChatGPT egentlig er. Det forklarede professor Ole Winther på konferencen.

Allerede i 2019 lancerede amerikanske OpenAI en ny

såkaldt sprogmodel, der skabte stor opmærksomhed

blandt fagfolk, fordi den viste helt nye former for krea-

tivitet. Ud fra tekstinput kunne den nye model, GPT2,

digte videre på teksten. Det skete via forudsigelser,

hvor modellen kunne ”huske” konteksten i en længere

række af tekstinput, fortæller Ole Winther, ph.d. og

professor i genomisk bioinformatik ved Biologisk

Institut på Københavns Universitet og professor i

datavidenskab og kompleksitet på DTU. Ole Winther

var den første taler på konferencen, og han forklarede,

hvordan de nye teknologiske gennembrud allerede i

2019 indvarslede en ny tid, hvor fagfolk på en gang var

imponerede og i vildrede over den hastige udvikling af

kunstig intelligens.

Den kreative udvikling i sprogmodellen, som også kan

bruges til at generere billeder, lyd og video, blev særligt

tydelig med den første udgave af OpenAI’s billedgenere-

ringsprogram DALL-E. Sprogmodellen var nu blevet så

kreativ, at den kunne opdigte sin egen virkelighed.

Sprogmodellen kunne fx generere en original billedserie

af en lyssværdskæmpende panda, ud fra tekstinputtet

”An illustration of a baby panda in a tutu wielding a

blue lightsaber. I dag – få år efter – kan sprogmodellen

generere fotorealistiske billeder, som ikke er til at skelne

fra rigtige optagelser. Den kan fx generere et egyptisk

vægmaleri, der viser et ægtepar, der skændes over,

hvem der skal gå ud med skraldet. Det er ganske uskyl-

digt, men allerede nu har vi set eksempler på billeder,

som nærmer sig meget virkelighedstro deepfake som fx

billederne af Barack Obama og Angela Merkel, der leger

og danser på en strand.

”GPT” står for ”Generative Pre-trained Transformer”.

GPT er en kunstig intelligens, der er skabt til naturlig

tekstanalyse. Når man taler om kunstig intelligens, skyl-

des det, at det, der ligger bag GPT’en, er et neuralt net-

værk, der er trænet på store mængder tekst og compu-

terkode fra internettet. I netværket er processorenheder

forbundet i en arkitektur, der er inspireret af hjernens

behandling af information. Ole Winther fortalte, at man i

den neurale netværksarkitektur træner GPT’en.

Den tekniske udvikling inden for billedgenerering muliggør opdigtede fotorealistiske billeder.

I den første proces bliver sprogmodellen trænet med massive mængder tekst hentet fra internettet. I denne før-

ste fase lærer modellen strukturen i sprog. Problemet er, at sprogmodellen selvsagt ikke forstår, hvilke svar der

er ønskværdige (helt bortset fra at sprogmodellen selvfølgelig ingen chance har for at vurdere, om de sproglige

konstruktioner den skaber, er sande). Så i denne første proces kan sprogmodellen mene og fortælle om hvad

som helst, herunder hvordan man bygger bomber og begår det perfekte mord. GPT er en statistisk model, det

betyder, at hver gang den generer en ny tekst, er det bare en sandsynlig sproglig konstruktion, man får som svar.

”

Når man taler om kunstig intelligens, skyldes det, at

netværket består af processorenheder, der er forbundet

i en arkitektur, der er inspireret af hjernens behandling

af information.

Derfor bliver man nødt til at tilføje en efterfølgende proces, hvor svarene bliver justeret.

I justeringsfasen hyrer man en masse mennesker til at vurdere de forskellige svar, der genereres af sprogmodellen.

De, der er hyret til at justere modellen, giver systemet feedback og instrukser om, hvad der er gode svar, og hvad der

er dårlige. Modellens forskellige resultater rangordnes, og modellen “trænes” dermed til den rigtige opførsel. GPT

får med andre ord tæsk, indtil den svarer det, som vurderes at være ansvarligt og korrekt.

”

Ole Winthers anbefalinger

• Stærkere AI kan og vil blive brugt til manipulation. Kun ved at regulere spillereglerne for internettet

og de sociale medier kan vi sikre, at teknologien bliver til gavn

• Skærmene skal fjernes fra folkeskolerne, fordi eleverne bliver distraherede og taber koncentrationen

til sociale medier og andre fristelser

• AI-værktøjer skal udnyttes i undervisning til individualiseret læring, der på pædagogisk vis kan

hjælpe eleverne 24/7

Kunstig intelligens skal styrke undervisningen

Kunstig intelligens er et wakeupcall og giver nye muligheder. Frem for at sidde fast i det gamle uddannelsessystem

må vi med AI acceptere, at der er brug for store ændringer. Det skal ske både i forhold til undervisning og eksamen.

En af de førende forskere, professor ved University College London Rose Luckin, arbejder med, hvordan kunstig

intelligens kan demokratisere og skabe lighed i meget ulige uddannelsessystemer verden over.

ChatGPT er ikke en ny teknologi. Sprogmodeller har

eksisteret i et stykke tid, og AI kan dateres helt tilbage til

1950’erne. Det, der er nyt i dag, er, at den sofistikerede

kunstige intelligens er blevet lettilgængelig for milliar-

der af mennesker. Det kan komme til at have lige så stor

betydning for vores alles hverdag, som da internettet

og Googles søgemaskine blev lanceret, vurderer Rose

Luckin, professor ved UCL Knowledge Lab i London.

Rose Luckin er kommet til København for at holde op-

læg på konferencen, og det er ikke overraskende at hun

frem for alt ser muligheder. Luckin har en baggrund fra

AI og uddannelse og er foruden at være professor også

stifter af EDUCATE Ventures, som driver en forskningsac-

celerator for Educational Technology StartUps i London,

der har fokus på AI og udviklingen af evidensbaserede

måder at kombinere menneskelig og kunstig intelligens

på til gavn for menneskelig læring. Rose Luckin ser såle-

des store muligheder, men mener også, at den hastige

udvikling og udbredelse af AI kræver, at vi tænker os

godt om. Vi står midt i et teknologisk grænseland, hvor

politiske beslutninger bliver vigtige for, om de enkelte

lande drager fordele af AI eller ej.

Rose Luckin understreger, at der allerede er talrige

eksempler på, hvordan kunstig intelligens gør stor

gavn i uddannelsessystemet. For det første muliggør

AI, at vi kan bygge systemer, der kan tilbyde vejledning,

som er tilpasset den enkelte elevs behov. AI’en kan

både tilpasse, hvilken form for hjælp eleven har brug

for, og den kan motivere vedkommende til at starte og

fortsætte skolearbejdet. For det andet kan AI handle

autonomt uden løbende at modtage input fra menne-

sker. Eleverne kan for eksempel skrive med en AI-avatar,

som fungerer som en samtalepartner i undervisningen.

Avataren forstår, hvad eleven siger, og den kan svare

derefter. AI kan også fortolke ansigtsudtryk, og hvad

eleven siger – ikke kun ud fra indholdet, men også ud fra

tonen, stilheden og hastigheden i spørgsmålet. Kombi-

nationen af data fra stemme og ansigt kan lede til meget

præcise fortolkninger af elevens følelser og motivation

og styrke læringen.

For Rose Luckin er det afgørende, at man både som

underviser og borger er forsigtig med de næste skridt,

man tager, hvis vi ønsker, at alle skal drage fordele af

tilgængeligheden af kunstig intelligens. Det største

problem er, at der er meget uvidenhed omkring AI. I

Storbritannien er der for eksempel meget få politikere,

der har en videnskabelig baggrund. De har rådgivere,

som kan hjælpe dem med at forstå den nye teknologi,

men alt for ofte mangler politikerne interesse for emnet.

Det kan få store konsekvenser for samfundet, når folk i

politiske nøglepositioner ikke forstår AI, og udviklingen

samtidig brager af sted. Uvidenheden skaber en stor

ubalance i magten – en ubalance, som techvirksomhe-

derne drager størst fordel af, og som forklarer, hvorfor

techgiganterne allerede har en så stor indflydelse på

samfundet i dag.

”

Der er talrige eksempler på, hvordan kunstig intelligens

gør stor gavn i uddannelsessystemet. For eksempel mulig-

gør AI, at vi kan bygge systemer, der kan tilbyde vejledning,

som er tilpasset den enkelte elevs behov. AI’en kan både

tilpasse, hvilken form for hjælp eleven har brug for, og

den kan motivere vedkommende til at starte og fortsætte

skolearbejdet.

”

At sikre større viden om AI handler ikke om, at politikerne skal forstå den dybere matematik bag deep learning-neu-

rale netværk, men at de skal forstå, hvad disse teknologier kan gøre for samfundet, og hvad de ikke kan. De skal

vide, hvordan AI overordnet set fungerer, slutter Rose Luckin og peger samtidig på, at en af de vigtigste opgaver for

underviserne i den forbindelse er at sikre en generel teknologiforståelse på uddannelsesinstitutionerne.

Rose Luckins anbefalinger

• Vi skal alle have basale AI-færdigheder. Fra folkeskolen til universitetet og på arbejdspladsen

skal vi vide, hvordan vi bruger og lever med AI. Ved at forstå, hvad AI kan gøre, og hvordan man

drager fordele af den, minimerer vi risikoen for de skadelige virkninger

• Vi skal være udstyret med det 21. århundredes læringsfærdigheder. Det vil sige problemløsning,

selvreguleret læring, metakognition og godt samarbejde. At være god til at lære bliver afgørende

i fremtiden

• Vi skal være vidende, og kildekritikken skal styrkes. Vi skal i fremtiden i endnu højere grad

diskutere følgende spørgsmål: Hvad er viden? Hvad er forskellen på viden og information?

Hvor kommer viden fra? Hvad er et godt bevis? Hvornår er noget sandt og falsk?

• Vi skal sætte pris på den menneskelige intelligens og vores evner til at forstå os selv, at sam-

arbejde, at vide, hvad vi er gode til, og hvad vi ikke er gode til. Vi kan sætte mål for os selv, få

sparring blandt venner og kollegaer, og vi har en veludviklet metakontekstuel viden. Alt dette

skal vi værdsætte, for her kan kunstig intelligens ikke konkurrere med os

• Vi skal gentænke vores vurderingssystemer, så de fokuserer på lærefærdighederne

• Vi skal overveje den relation, som vi ønsker, der skal være mellem mennesket og AI. Her skal vi

være forsigtige, fordi mennesket er naturligt dovent, og det er nemt at komme til at overdrage

noget til AI, blot fordi det er bekvemt. - ligesom fx GPS’en har haft negative konsekvenser for

vores stedhukommelse

Hvad skal mennesket vide, når maskinen

bliver klogere?

For alle os, der bruger søgemaskiner og sociale medier, er maskinen allerede en stor del af vores hverdag. Den nye AI

kommer til at fylde meget, og den er allerede meget klogere end os på mange punkter. De kompetencer, der får størst

værdi i fremtiden, er derfor dem, som maskinen har sværest ved, fortalte Camilla Mehlsen, digital medieanalytiker og

forfatter, i sit indlæg på konferencen.

Det er naturligvis vigtigt, at vi får flere digitale kompe-

tencer, men det er endnu vigtigere, at vi værner om

de særligt menneskelige kompetencer, når den ene

techrevolution følger den anden. Det handler om at

sætte fantasien, samarbejdsevnerne og empatien i spil,

siger Camilla Mehlsen.

Med ny teknologi bliver vi klogere, hurtigere og smartere.

Den største fare er ikke digitale teknologier, der trumfer

menneskets styrker, den største fare er digitale teknologi-

er, der udnytter menneskets svagheder. Det ser vi meget

af i dag – og vi kommer til at se endnu mere af det

med den dramatiske udvikling af kunstig intelligens,

fortæller Camilla Mehlsen som er indehaver af Mehlsen

Media med speciale i digital medieadfærd, kompeten-

cer og kommunikation. Mehlsen har et særligt fokus på

børn og unge, og hun vurderer, at faren især ligger i de

teknologier, der udnytter, at den menneskelige hjerne

er doven. Vi lader os nemt forstyrre. Vi lader os opsluge

af noget, der udnytter vores svage punkter. Spørgsmå-

let er, hvem der egentlig styrer os og vores adfærd? Er

det os selv eller teknologien?

”

Med ny teknologi bliver vi klogere, hurtigere og smartere.

Den største fare er ikke digitale teknologier, der trumfer

menneskets styrker, den største fare er digitale teknologier,

der udnytter menneskets svagheder.

”

Der findes to fortællinger om menneskets fremtid med

den teknologiske udvikling: Utopien om det opgrade-

rede menneske og dystopien om det nedgraderede

menneske, siger Camilla Mehlsen. På den ene side

kan man sige, at de nye teknologier er udviklet til at

opgradere mennesket. Vi får nærmest guddommeli-

ge superkræfter, og vi kan simpelthen booste vores

menneskelige evner. Det er drømmen. Det er det, vi

håber, der kommer til at ske. Men på den anden side

kan vi midt i denne begejstring glemme, at der også

er noget, vi bliver dårligere til. Der er noget, vi kan

miste. Vi risikerer at blive til noget, som teknologien

kan udnytte. Vi får svækket vores funktioner, evner og

sanser. Det kan vi blandt andet se i dag, hvor mange

lider af koncentrationsbesvær.

Ifølge Camilla Mehlsen kan det vigtigste, vi skal lære,

særligt børn og unge, opstilles i hendes model ”7 K’er

til fremtiden”. Det er en videreudvikling af det 21.

århundredes kompetencer. Camilla Mehlsens første

model indeholdt 4 K’er: kommunikation, kritisk tænk-

ning, kollaboration og kreativitet. Nu er der tilføjet tre

ekstra K’er: koncentration, kuriositet (evnen til at lære

at lære) og kompetence (karakterdannelse).

Model: 7 K’er til fremtiden

De nye digitale teknologier er med til at presse det 21.

århundredes kompetencer. Derfor er det vigtigt, at vi

værner om dem alle sammen. Camilla Mehlsen laver

tre nedslag:

• Koncentrationsevnen er kommet under pres i den

digitale tidsalder. Det går ud over vores evne til at

komme i flow og arbejde dybt koncentreret. Tekno-

logien stresser mange af os – og det er ikke tilfældigt,

det er fordi de digitale platforme er udviklet til at fan-

ge og fastholde vores opmærksomhed. Mennesket er

et produkt i opmærksomhedsøkonomien, og vores

opmærksomhed bliver behandlet som en råvare.

• Det andet nedslag er kuriositeten, som vi skal

beskytte. Det handler om at lære at stille store

spørgsmål. At lære at lære. Den gamle techdrøm var,

at adgangen til informationer ville skabe lighed og

demokratisering. Men vi har ulige forudsætninger, og

den store teknologiske udviklingshastighed spænder

hele tiden ben for nysgerrigheden.

• Og endelig er kritisk tænkning afgørende i en tid med

fake news, influencere, informationsboom, kunstig

intelligens og algoritmer. Vi skal lære, hvad viden

egentlig er. Vi skal kunne skelne mellem viden og

information. Vi kan let komme til at tro, at tekno-

logierne, der hjælper os i hverdagen, er objektive

og neutrale, men det er de ikke. De indeholder alle

mulige former for bias.

Og har man glemt det, kan man prøve at søge

på Google efter billeder af en ”skolepige” eller

en ”sekretær”.

Grunden til, at man får dette billedudvalg, er, at Google

er kommercielt styret. Billederne henviser alle sam-

men til noget, man kan købe. Udviklingen for kunstig

intelligens kommer formentlig også til at blive styret af

kommercielle interesser

Alle disse idéer om formålet med højere uddannelse

Google billedsøgning på ”skolepige”.

Camilla Mehlsens anbefalinger

• Vi skal blive gode til det, maskinen har sværest ved. Det drejer sig om menneskelige kompetencer

som fantasi, samarbejdsevner og empati

• Vi skal i højere grad værne om de syv K’er: kommunikation, kritisk tænkning, kollaboration, kreati-

vitet, koncentration, kuriositet og karakterdannelse. I den digitale tidsalder kommer de nemt under

pres, og det skal vi forhindre

• Vi skal være opmærksomme på, at når den digitale opmærksomhedsøkonomi trækker på menne-

skets mentale ressourcer, kan det føre til nedgradering og tingsliggørelse af mennesket, fx tab af

privatliv, koncentrationsevne og fri vilje

Kunstig intelligens og højere uddannelse

Hvor Google, Wikipedia, biblioteker og leksika muliggør universel adgang til viden, så automatiserer kunstig

intelligens kernen af det, som er de højere uddannelsers selvbillede, mener professor i datalogi, viceinstitutleder

for undervisning ved IT-Universitetet i København og forsker ved forskningscenteret Basic Algorithms Research

Copenhagen (BARC), Thore Husfeldt.

I 1990’erne kom internettet, og mange har en fore-

stilling om, at vi nu ved meget mere, end vi gjorde

dengang. Men spørgsmålet er, om det er sandt, eller

om sandheden er, at vi blot har fået en mere lemfæl-

dig omgang med indhentningen af kundskab: ”Det

kan man da bare google.” Viden har fået lav status,

mens det at mene noget har fået høj status. Det er

paradoksalt, for samtidigt er det i stigende grad blevet

vanskeligt at navigere i den overflod af information,

der er tilgængelig på internettet uden baggrundsviden.

Alt det vidste vi ikke i 1990’erne, men det gør vi i dag.

Og nu skal der så træffes (nye) vigtige beslutninger om

brugen af kunstig intelligens, der kan automatisere

egenskaber, refleksion og syntese. Det grundlæggende

valg står mellem, om vi som art vil vide mere, eller om

vi vil overlade refleksion og analyse til ChatGPT, siger

Thore Husfeldt. Og valget vil få betydning for kvali-

fikationerne for fremtidige kandidater fra de højere

læreanstalter.

Det vi ser nu, er, at sprogmodeller som fx GPT både

formår at indhente, sammenfatte og præsentere en

syntese af viden, ligesom den kunstige intelligens

opfylder uddannelsernes krav til uklanderlig fremstil-

ling, konformitet, refleksion, analyse, kreativitet og

vid. Præcis de egenskaber, der hidtil har været kernen

for store dele af de højere uddannelsers selvbillede. Så

spørgsmålet for uddannelsesinstitutionerne er både,

hvad vi kan gøre, hvad vi bør gøre, og hvad vi kommer

til at gøre i forhold til kunstig intelligens.

For at træffe meningsfulde valg må vi kigge på målet

med højere uddannelse. Højere uddannelse er baseret

på en række meget forskellige grundideer:

1. Den første og centrale idé handler om oplysning. Uddannelse er et resultat af oplysningstiden og et

dannelsesprojekt. Mennesket er født uperfekt og skal derfor dannes til at blive noget bedre

2. Oplysningsidealet står i kontrast til et økonomisk perspektiv, hvor den højere uddannelse ikke er noget,

man som studerende gør for sig selv, men derimod for at erhverve sig nogle egenskaber og færdigheder,

som kan være nødvendige for andre. Uddannelse bliver set som en del af samfundsøkonomien

3. Det tredje perspektiv vedrører status, hvor det handler om at hjælpe de studerende til at danne

indflydelsesrige netværk: “Du skal ikke finde dig en velstående partner og gifte dig for pengene, du

skal omgive dig med velstående mennesker og gifte dig af kærlighed”

4. Højere uddannelse kan også forstås som en del af oplevelsesøkonomien, hvor universitet bliver et

selvrealiseringsprojekt

5. Og endelig er der det instrumentelle perspektiv, som handler om politik. Uddannelse bliver her et

værktøj til at opnå noget politisk væsentligt, fx udflytning af arbejdspladser fra storbyerne

eksisterer samtidig, siger Thore Husfeldt og minder om, at når vi i uddannelsessystemet står midt i en større

forandringsproces på grund af ChatGPT og kunstig intelligens, er det vigtigt at huske på, at alle disse grundlæg-

gende forestillinger om opgaven for de højere uddannelser eksisterer og er lige valide.

”

Det vi ser nu, er, at sprogmodeller som fx GPT både

formår at indhente, sammenfatte og præsentere en syntese

af viden, ligesom den kunstige intelligens opfylder uddannel-

sernes krav til uklanderlig fremstilling, konformitet, refleksion,

analyse, kreativitet og vid.

Så hvordan bliver vi klogere på, hvordan vi tilret-

ter uddannelsessystemet til den nye teknologiske

virkelighed, og her er det første spørgsmål, om vi

efter udviklingen af kunstig intelligens overhovedet

har brug for de dygtige og veluddannede kandidater?

Thore Husfeldt er ikke i tvivl. Svaret er naturligvis ja,

men både bedømmelses- og læringsmål vil komme

under pres. I dag er bedømmelser udelukkende

output-baserede. Resultaterne er ofte genereret uden

tilsyn og uden kontrollerede forhold, og det giver ikke

længere et gyldigt bedømmelsesgrundlag, hvis det er

færdigheder, de studerende skal testes i. For nu kan de

studerende nå frem til samme resultat med ChatGPT.

Før november 2022 skulle en elev bruge både tid, intel-

ligens og sociale kompetencer for at skrive et 30-siders

essay. Efter november 2022 kan eleven med ChatGPT,

levere det ønskede resultat på få sekunder. Konse-

kvensen er, at den traditionelle bedømmelsestradition

nu ikke længere er holdbar.

Og selvfølgelig skal universiteterne kigge ud på

arbejdsmarkedet. I en meget nær fremtid bliver det

svært i snart sagt enhver stilling at undgå at bruge

generativ kunstig intelligens. Snart lancerer Microsoft

deres nye Teams-pakke, hvor sprogmodellerne er

indbygget. Det er smart, og kontormedarbejderen

vil formentlig blive meget mere effektiv. Men med

den øgede brug af kunstig intelligens risikerer nogle

medarbejdere også at blive overflødige, fordi de ikke

længere har de rette egenskaber og kompetencer.

Thore Husfeldt er sikker på, at kunstig intelligens

vil være en styrkefordobler på arbejdsmarkedet. Et

konkret eksempel: I et softwarefirma har man hidtil

haft meget dygtige programmører og nogle mindre

”

dygtige programmører. Alle har indtil nu været væsent-

lige for organisationen. Men med kunstig intelligens

på arbejdspladsen bliver en dygtig programmør, der er

støttet af fx GitHub Copilot, som automatiserer grund-

læggende programmering ved hjælp af AI, meget mere

produktiv. Mens en mindre dygtig programmør, der

bliver støttet af samme teknologi, aldrig bliver bedre

end GitHub Copilot.

De nye teknologier vil på sigt gøre de bedste endnu

bedre inden for deres felt, mens den vil overflødiggøre

de mindre dygtige.

For universiteterne bliver det derfor helt afgørende at

producere dygtige kandidater, der besidder de særlige

færdigheder og egenskaber, der ikke risikerer at blive

udkonkurreret af den nye teknologi. Og uddannelses-

institutionerne står derfor over for vigtige valg, der vil

få stor betydning for de ressourcer, som de studerende

kommer ud i samfundet med.

Vi kommer til at se uddannelsesinstitutioner, traditio-

ner, discipliner, fakulteter og gymnasier, som kommer

til at stille højere krav til viden, kunnen, forståelse og

analyse. Men der vil også være nogle, der bliver fristet af

udfaldsligheden og tilgængeligheden ved chatrobotter.

Thore Husfeldts anbefalinger

• Uddannelsessystemet skal stille stringente krav til viden, kunnen, forståelse og analyse

• Bedømmelsesgrundlag skal være gyldige (den lærende skal vurderes, ikke den lærendes samtalerobot)

og holdbare (materialet skal være væsentligt mindre ressourcekrævende at bedømme end at producere)

Viden er ikke et meme

At blive lærd indenfor et hvilket som helst fag kræver viden og færdighed. Viden handler om at besidde faktuel infor-

mation, teoretisk struktur og begreber, mens færdighed baserer sig på evnen til at anvende den pågældende viden

i alle mulige situationer. ChatGPT kan ikke konkurrere med os, når det kommer til færdigheder, siger professor

Vincent Hendricks, Københavns Universitet.

Ifølge den klassiske græske historieskriver og geograf

Herodot er viden to ting: Viden er teori (strukturforstå-

else og teoridannelse) og færdighed. Disse to kan ikke

adskilles, lige så lidt som en dygtig tømrer kan adskille

viden om en tagkonstruktion fra det at konstruere selve

taget med de relevante redskaber. ChatGPT får rigtig

svært ved at konkurrere med os, når viden både er teori

og færdighed – i hvert fald når det kommer til det sidste.

Som underviser er den største opgave at vise de

studerende, at der er forskel på høvl, hammer og sav.

Forudsætningen for, at de ved, hvilket værktøj de skal

bruge til et specifikt problem, er, at de er villige til at

acceptere præmissen om, at viden har denne dobbelt-

kompetence i sig. Viden oparbejder nogle færdigheder,

hvor man ved, hvilken værktøjskasse der er til rådighed,

ligegyldigt hvilket problem man står over for. Viden er

altså ikke noget, du blot kan læse dig til i en lærebog, se

en video om på YouTube eller formulere som et meme.

Hele pointen er, at du skal lave opgaverne og oparbejde

en færdighed.

Tilbage i 1971 sagde nobelpristageren i økonomi, Her-

bert Simon, at ” … i en informationsrig verden betyder

rigdommen af information knapheden af noget andet:

En knaphed af hvad det end er information forbru-

ger”, og for Vincent Hendricks er det oplagt, hvad

information forbruger: Den forbruger modtagernes

opmærksomhed.

I informationstidsalderen er folks opmærksomhed et

kapitalaktiv. I opmærksomhedsøkonomien tager tech-

virksomhederne din opmærksomhed og dine data, og

sælger dem videre til den højstbydende annoncør. Alle

sociale medieplatforme lever af den forretningsmodel,

der er baseret på annoncekroner. Det betyder i sidste

instans, at der er et marked for rigtig dårlig information,

som til gengæld har den egenskab, at den kan påkalde

sig rigtig meget opmærksomhed. Der er et stort udbud

og meget information, men der er stadig én meget

begrænset ressource: opmærksomhed. Det betyder, at

der bliver kamp om opmærksomheden. Og når der er

kamp om opmærksomhed, risikerer viden at blive til

et meme. Jo hurtigere man kan få det ned, jo hurtigere

forstår man det, og jo mindre opmærksomhed skal man

give det.

Opmærksomhedsøkonomien stimulerer ikke viden.

Techvirksomhederne er ligeglade med det. Mark

Zuckerberg har for eksempel sagt “Jeg mener ikke, at

Facebook eller andre internetplatforme generelt bør

være sandhedsdommere.” og “… sikring af demokrati-

et er over vores lønniveau.”. Men det er de. Det er dem,

der bestemmer, hvad der kommer op i feedet, hvad vi

får lov at se og høre. Det er deres algoritmer, der styrer

det. Deres incitament er økonomisk, og målet er ikke

demokratisk dannelse.

Forretningsmodel for

techplatforme

Engagment

Opmærksomhedsallokering

ved informationsforbrug

Trafik

Datahøst

Datakuratering

(Big data-analyse)

Data-salg eller -udlejning

til annoncørerne

Model, der viser techvirksomhedernes forretningsmodel

”

Hvad end man kaster sig over, så er 10 % talent

og resten er hårdt arbejde. Det kan sagtens være, at

ChatGPT kan erstatte de 10 % talent, men de resterende

90 % er hårdt arbejde for den, der bruger robotten og

samtidig insisterer på også at erhverve sig færdigheder

ved samme lejlighed.

Hvad end man kaster sig over, så er 10 % talent og

resten er hårdt arbejde. Det kan sagtens være, at Chat-

GPT kan erstatte de 10 % talent, men de resterende

90 % er hårdt arbejde for den, der bruger robotten og

samtidig insisterer på også at erhverve sig færdigheder

ved samme lejlighed.

At tilegne sig en færdighed kræver tid. I undervisnin-

gen i logik ved den filosofiske grunduddannelse på

Københavns Universitet, er der ingen PowerPoint-

præsentationer eller ChatGPT’er. Der er kridt og tavle

og papir og blyant. Der skal introduceres syntaks og

semantik for logisk sprog, formuleres slutningsregler,

laves beviser og demonstrationer. De studerende skal i

gang med at oparbejde en færdighed. Når vi begynder

”

at forstå, indenfor hvilke rammer vi ræsonnerer, så er

der en frihed og et udviklingspotentiale – og det er vel

egentlig det, vi som undervisere er sat i verden for at

lære de studerende.

Effektiv informationstilegnelse og arbejdsmarkedspa-

rathed er ikke at forveksle med encyklopædisk viden

kombineret med flyvefærdige færdigheder. Det er

viden som det sidste, vi skal leve af fremover – ikke det

første. Det er væsentligt at huske på, nu hvor man står

over for at beskære universitetsuddannelserne i både

tid og indhold.

Vincent Hendricks’ anbefalinger

• Viden består af både teori og færdigheder. ChatGPT kan konkurrere med os på teoriplanet men ikke i

forbindelse med færdigheder. Derfor er viden som færdighed det, vi skal leve af i fremtiden

• Færdighedsoparbejdelse kræver hårdt arbejde og tid, så derfor er det dumt at skære i både tid og

indhold på landets universitetsuddannelser

Adgangen til troværdig viden er en del af den

demokratiske infrastruktur

Med mere end 230.000 artikler skrevet på dansk, med et dansk perspektiv og af danske forskere sikrer Danmarks

nationalleksikon, lex.dk, at alle kan få fri og uhindret adgang til troværdig information, sagde Erik Henz Kjeldsen,

ansvarshavende chefredaktør for Danmarks nationalleksikon, lex.dk, på konferencen.

I en nær fremtid vil AI-systemerne bag ChatGPT effek-

tivt gennemsøge alle relevante og irrelevante webste-

der, tekster, videoplatforme og podcasts, og vi vil som

studerende og borgere kunne få ”måske korrekte” svar

på et hvilket som helst spørgsmål, vi måtte stille på

Google. Personaliserede svar direkte ned i lommen.

Og sådan er det næsten allerede i dag, fortæller

Erik Henz Kjeldsen, for sandheden er, at når vi søger

information i dag, starter og slutter vores besøg på

internettet meget ofte på Google. Den tid, hvor Google

var en portal – indgangen til adskillige websteder,

en søgemaskine – er forbi. I dag bliver flere end 70 %

af alle de søgninger, der bliver foretaget på Google,

besvaret på Googles egen søgeside. Google er på vej til

at blive internettets one-stop-shop.

Google har købt, fået og skrabet indhold sammen fra

mio. af sites, også lex.dk – med og mest uden tilladel-

se. I en skrækvision for fremtiden bliver det kun værre

med ChatGPT. Her vil svaret, vi får på internettet, bygge

på indhold, som vi ikke aner, hvor kommer fra; som vi

ikke kender afsenderen på; som vi ikke ved, hvorfor er

skrevet; til hvem; og i hvilken kontekst.

Det er ikke svært at forestille sig et sådant skræk-

scenarie: Forestil dig, at du søger viden om virkning og

bivirkninger ved et medicinsk præparat. Det gør en stor

forskel om svaret, du får, er nyt eller gammelt, dansk el-

ler kinesisk. Om det er skrevet af en uafhængig forsker,

et medicinalfirma eller en patientforening. Vi skal kende

og have mulighed for at vurdere kilderne. Det er en af

de vigtigste byggesten for vores demokratiske samfund

– og ikke mindst for videnskaben og den måde, vi har

etableret viden på gennem de sidste århundreder.

Undervisningsinstitutioner, formidlere, indholds-

producenter og opslagsværker har til opgave at

stille troværdig viden til rådighed for samfundet og

demokratiet. Der er ikke på forhånd grund til at være

maskinstormere. Måske vil AI og alle de nye mulighe-

der bidrage til en øget viden og en demokratisering af

viden, ligesom internettet i det hele taget. Måske vil

den nye teknologi give os et nyt fokus på læring gen-

nem dialog. Og som undervisningsform kan den være

med til at skabe personlige interaktive læringsforløb.

Alt det er godt.

”

Allerede nu mærker vi nødvendigheden af at gentænke

uddannelserne og fødekæden for viden og information. Og

at vi som fællesskab og samfund bliver nødt til at formulere

de første svar på forandringerne. Vi kan ikke lade teknolo-

gien og techvirksomhederne forme fremtiden alene. Det

må vi gøre sammen.

”

Men vi ved ikke, om det er det, der kommer til at ske.

Allerede nu mærker vi nødvendigheden af at gentænke

uddannelserne og fødekæden for viden og information.

Og at vi som fællesskab og samfund bliver nødt til

at formulere de første svar på forandringerne. Vi kan

ikke lade teknologien og techvirksomhederne forme

fremtiden alene. Det må vi gøre sammen.

Der er meget, vi ikke har indflydelse på, men der er

også meget, vi kan gøre. Forlag, forskningsinstitutio-

ner og politikere på Christiansborg har allerede skabt

Danmarks nationalleksikon, lex.dk, Danmarks største

site for forskningsformidling. Et stykke demokratisk

infrastruktur, der flittigt bruges af studerende og bor-

gere. Hver måned har lex.dk flere end to mio. besøg.

Med mere end 230.000 artikler, som er skrevet af

danske forskere på dansk og med et dansk perspektiv.

Snart har vi tusind forskere om bord, som skal sikre, at

artiklerne er opdaterede og korrekte.

Selvom vi har fake news, trolde og misinformation, er

det først nu med ChatGPT, at vi til fulde forstår, hvor

afgørende troværdig viden er for demokratiet. Vi skal

have steder, hvor vi kan være sikre på, at vi kan finde

korrekt og troværdig information.

Techgiganternes forretningsmodel er ikke at gøre os

klogere eller sikre os adgang til troværdig information.

De lever derimod af at høste og videresælge vores

data, vores inderste ønsker og frygt og vores købsin-

tentioner. Vores opgave bliver at sikre, at der fortsat

produceres og formidles viden om alt det, der er

vigtigt, på dansk og med dansk udgangspunkt.

Erik Henz Kjeldsens anbefalinger

• Vi skal sikre, at alle kan få fri og uhindret adgang til troværdig information

• Vi skal sikre, at der fortsat produceres og formidles viden om alt det, der er vigtigt. Formidlingen skal

også være på dansk og med dansk udgangspunkt samt skrevet af en kvalificeret fagperson

Hvad er det lovgivningsmæssige perspektiv

på AI – nationalt og europæisk?

Vi er på vej ind i en fremtid, hvor det er de helt store techspillere, der kontrollerer markedet for kunstig intelli-

gens. Allerede i dag har Google og Microsoft sat sig på store dele af værdikæden. Et af de største problemer er,

at vi ikke har nogen love, der forhindrer techvirksomheder i både at generere og distribuere indhold fortalte

Thomas Höppner, advokat og partner ved Hausfeld Rechtsanwälte.

I marts 2023 udtalte OpenAI’s CEO, Sam Altman, at AI

kommer til at eliminere mange eksisterende jobs. Til

gengæld mener han også, at vi er i stand til at skabe

meget bedre jobs med AI. Men hvilke jobs - og for hvem?

Et skrækeksempel på et af fremtidens ”bedre jobs”

er AI-journalisten. Et godt eksempel på dette er den

nye service, der hedder Generative Press. Den afsøger

automatisk internettet for nyheder og genererer i realtid

sine egne AI-nyheder, som er et sammenkog af det

relevante indhold, den finder frem til. I processen er

der ingen redaktører, ingen journalister, kun AI. AI’en

opfinder journalister, som skriver historier fra hver deres

perspektiv. En af AI-journalisterne er for eksempel den

13-årige Jake, der skriver om krigen i Ukraine. Læser

man Jakes artikler, kan man fx læse, at han refererer til

”vores CNN-team”, som indikerer, at CNN står bag nyhe-

den. Det gør de bare ikke. Fejlen skyldes, at AI-artiklen

delvist genereres med en simpel copy paste-løsning.

AI’en har blot taget en original artikel fra CNN og i realtid

eksporteret den over i den maskingenererede artikel,

som vores AI-journalist Jake står som afsender af.

For Thomas Höppner kommer den afgørende kamp til

at handle om, hvem der kontrollerer værdikæden. Og

som det er nu, kræver grundmodellerne og dataindsam-

lingen for kunstig intelligens enorm stor computerinfra-

struktur. Her er det kun de helt store techvirksomheder

som Microsoft, Google, Amazon og Baidu, der kan være

med. Konsekvensen er, at den helt grundlæggende

infrastruktur er i hænderne på meget få selskaber, som

har alle de kommercielle fordele.

GPT er primært etableret på grundlag af indhold fra

Wikipedia og verdens onlinemedier.

Listen over de informationskilder, som træner GPT. Nyhedsmedier er markeret med gul.

OpenAI’s egne studier siger, at sprogmodellen generere komme med troværdig information baseret på

dets træningsmateriale.

Og sandt er det, at GPT4 kan generere plausibelt, realistisk og målrettet indhold, herunder nyheder, artikler, tweets,

dialoger og e-mails, og det viser sig, at folk har meget svært ved at skelne mellem tekst skrevet af AI og tekst skrevet

af mennesker. Studier underbygger, at AI-genererede tekster er mindst lige så overbevisende som menneskelige

tekster. Det betyder, at AI i dag er så godt, at systemerne kan skrive troværdige artikler, som læseren tror, er skrevet

af et menneske.

Problemet med AI-nyhederne er, at der aldrig bliver refereret eller linket til artiklens kilder. Det er ren AI, og som

læser må man blot tro på, hvad den siger. Faktisk skal man ifølge AI’s egen markedsføring tro mere på AI end på

menneskelige journalister, da man med AI-artikler undgår menneskelige fejl, biases og fake news.

AI’s nyhedssite og et eksempel på en følgebesked ved deling af indhold: ”I love AI news!! All real! No more fake news …”

Det har aldrig været meningen, at disse AI-systemer skulle bruges til at generere information. I OpenAI’s oprindelige

liste over risici ved kunstig intelligens var halvdelen relateret til information: hallucinationer, disinformation og over-

dreven tillid. Her kunne man læse at ”... der er en tendens til, at den opfinder fakta, fordobler ukorrekt information og

udfører opgaver forkert. Samtidig virker den mere overbevisende end tidligere GPT-modeller. Du kan således blive

snydt til at tro, at den er bedre.”

I virkelighedens verden kunne man argumentere for, at den kun bliver dårligere, når den bliver stadig mere overbe-

visende. For folk bruger ofte GPT’en til emner, hvor de ikke selv er eksperter, og når den så virker særligt autoritativ,

kan brugerne risikere at få en overdreven tillid til den.

”

For et par uger siden skrev Microsoft, at AI-systemerne kan

blive misbrugt til at generere desinformation og cyberangreb.

Listen over misbrugs- og manipulationsmuligheder var lang,

og ”ekstrem forsigtighed” var påkrævet, hvis man ville over-

veje at bruge systemet til journalistik.

”

For et par uger siden skrev Microsoft, at systemerne kan blive misbrugt til at generere desinformation og cyberan-

greb. Listen over misbrugs- og manipulationsmuligheder var lang, og ”ekstrem forsigtighed” var påkrævet, hvis man

ville overveje at bruge systemet til journalistik.

Både OpenAI og Microsoft advarer mod skyggesiderne ved AI.

I marts 2023 skrev The Federal Trade Commission om de nye muligheder for bedragere:

“They can use chatbots to generate spear-phishing emails, fake websites, fake posts, fake profiles, and fake

consumer reviews, or to help create malware, ransomware, and prompt injection attacks … harm to children,

teens, and other populations at risk.”

Alt i alt er der mange advarselslamper, der blinker. Folk har bare stadig svært ved at tro, at der er nogen, der vil

misinformere dem. Men som Googles tidligere CEO, Eric Schmidt, har påpeget, er forretningsmodellen for kunstig

intelligens baseret på opmærksomhed.

Den bedste måde at få brugernes opmærksomhed på er at gøre dem så forargede, at aktiviteten og engagementet

på platformen stiger. Der kan således blive produceret falsk information med det eneste formål at irritere brugerne

og dermed øge deres tid på platformen.

Kan vi bekæmpe fake news med real news? Det korte svar er, at det kan vi ikke så længe, at det er de samme

virksomheder, som både laver deres egne nyheder og distribuerer dem. Nedenstående graf viser, at de traditionelle

nyhedsmedier allerede nu får mindre og mindre synlighed i søgeresultater. I fremtiden vil vi kun se flere AI-generere-

de nyheder, og ingen kan stole på noget af det, de læser.

For at undgå disse farer er der brug for en gennemgribende regulering af AI. Hvordan skal det så ske? Ved en grundig

reform og opdatering af følgende initiativer: EU’s ”AI Act”, ophavsretten (tekst og datahøst), Media Freedom Act og

EU’s Digital Markets Act og Digital Services Act (adskillelse af produktion og distribution af indhold).

Traditionelle nyhedsmedier får mindre og mindre synlighed i Googles søgeresultater.

Thomas Höppners anbefalinger

• Regulering af generativ kunstig intelligens er nødvendigt. AI Act og ophavsretslovgivningen skal reformeres

og opdateres. Vi har brug for en ny Media Freedom Act, som virkelig har fortjent sit navn, og endelig skal

der være en klar juridisk adskillelse af dem, der producerer indhold, og dem, der distribuerer indhold