generativ kunstig intelligens

Det finnes også andre og mer spesialiserte typer generativ KI utover det man finner i vanlige samtaleroboter, for eksempel systemer som lager musikk eller 3D-modeller, eller som bistår med simulering og analyse i vitenskapelige eksperimenter.

Språkmodeller kan lage svar som høres riktige ut, men som likevel inneholder feil. Dette skyldes at modellen først og fremst beregner hva som er en sannsynlig sammensetning av ord ut fra mønstre i treningsdataene, uten noen sikker mekanisme for å avgjøre om svaret faktisk er sant. Slike feilaktige eller oppdiktede svar kalles ofte hallusinasjoner. Det er derfor svært viktig å være kritisk til påstander som genereres av språkmodeller og å selv verifisere informasjonen, selv om formuleringene høres troverdige og overbevisende ut.

Etter hvert som generative KI-modeller har blitt bedre til å lage troverdig tekst, lyd, bilder og video, har det også blitt vanskeligere å avgjøre om noe har blitt laget av et menneske eller en maskin. Dette kan bevisst misbrukes på ulike måter. Syntetiske bilder, videoer eller lydopptak som etterligner virkelige personer, omtales gjerne som deepfakes, og kan brukes til svindel, trakassering, politisk manipulasjon eller spredning av desinformasjon.

Mange KI-assistenter har etter hvert fått integrert en søkemotor som kan finne relevant informasjon på nettet eller i lokale dokumentsamlinger før de svarer. Med en ren språkmodell er det vanskelig å spore hvor informasjonen kommer fra, og modellen har heller ikke kunnskap om hendelser som har funnet sted etter at modellen ble trent. En integrert søkemotor kan redusere disse problemene, ved at systemet kan bruke og henvise til oppdatert informasjon som ikke inngår i treningsdataene.

Det er imidlertid viktig å være klar over feil og hallusinasjoner fortsatt kan forekomme på tross av integrert søk. Dette gjelder også selve kildehenvisningene i seg selv, og man risikerer at systemet henviser til en kilde som ikke finnes, gjengir innholdet i kilden på en feilaktig måte, viser til kilder som ikke støtter påstandene i svaret, eller baserer seg på et lite balansert utvalg av kilder.

Kombinasjonen av generativ KI og integrerte søk gjør det altså svært viktig å være kildekritisk. Samtidig er det en klar tendens til at informasjonssøk via generativ KI i økende grad tar over for tradisjonelle søketjenester.

Det er en rekke utfordringer knyttet til opphavsrett for generativ KI. Ofte brukes materiale hentet fra internett som treningsdata uten at opphavspersonene har samtykket eller hatt mulighet til å reservere seg. En annen utfordring er at modellene kan ende med å reprodusere treningsdata, for eksempel ved å generere et bilde som er tilnærmet identisk i innhold eller stil med bilder fra treningsdataene, eller gjengi tekster ord for ord.

Man kan dermed risikere å plagiere eksisterende materiale, selv når dette ikke er intensjonen. På liknende vis finnes det også utfordringer knyttet til personvern og sikkerhet, fordi modellene kan risikere å gjengi sensitiv informasjon eller personopplysninger hvis dette finnes i treningsmaterialet. Kommersielle tilbydere av KI-assistenter kan også forbeholde seg retten til å la data fra brukerne inngå i treningen av fremtidige versjoner av modellene sine.

Store generative modeller krever mye datakraft, både når de blir utviklet og når de brukes. Dette krever store datasentre med høyt strømforbruk. I noen tilfeller krever datasentrene også betydelige vannressurser til kjøling. Samlet sett kan utvikling og bruk av store generative KI-modeller derfor ha et betydelig klima- og miljøavtrykk.

De mest avanserte generative KI-modellene er svært ressurskrevende å utvikle og drive. Det kreves svært store mengder data og regnekraft, i tillegg til teknisk ekspertise. Dette har ført til at utviklingen domineres av en liten håndfull store teknologiselskaper som besitter den nødvendige kapitalen. Utviklingen bærer preg av et kappløp, både mellom selskapene selv, og mellom Kina og USA som teknologiske stormakter innen feltet.

Den tilspissede konkurransen blant kommersielle aktører har ført til at de proprietære systemene er lukket for innsyn fra utenforstående, slik at man ikke har tilgang til dataene, kildekoden eller prosessene som inngår i treningen av systemene. På denne bakgrunnen er mange bekymret for maktkonsentrasjon, manglende åpenhet og demokratisk kontroll, teknologisk avhengighet og digital suverenitet, spesielt for mindre land og språksamfunn som Norge.

Den akademiske forskningen innen feltet utgjør her en viktig motvekt, gjennom å etterstrebe løsninger basert på åpen kildekode, åpne modeller og åpne data. Samtidig er finansieringen som tilfaller den uavhengige forskningen langt mindre enn investeringene i de store teknologiselskapene.