Norge må ta også den eksistensielle siden av KI på større alvor

NTVA har arrangert en rekke fagmøter relatert til KI. Ett av dem var vårt møte på Lerchendal Gård 4. desember i fjor om KI og mediebildet. På dette svært engasjerende møtet fikk vi innledninger av Letizia Jaccerhi, Jon Atle Gulla og Per Axel Koch, fulgt av en livlig debatt. Temaene var likestilling, norsk språk, og en kunnskapsbasert offentlighet, og vi diskuterte hvordan kritisk tenkning og ansvarlig utvikling av KI er avgjørende for å ivareta disse og andre viktige verdier.

Ole-Morten Midtgård, Generalsekretær NTVA

Likevel er det noe som mangler i den norske, offentlige KI-debatten: Vi diskuterer ikke de eksistensielle sidene ved KI. Det er som da vi lærte oss å bruke atomenergi, både destruktivt – som i atomvåpen – og til det gode, som for energiproduksjon. Det internasjonale atomenergibyrået IAEA ble etablert i 1957 som et svar på både frykt og forventninger om atomenergi. IAEA er den internasjonale vaktbikkja, og de fleste land anerkjenner deres viktige arbeid og autoritet.

Vi burde hatt et IAEA for KI. Det må vi starte med nå for KI er mye mer tilgjengelig og derfor også mye vanskeligere å regulere enn atomenergi. Da trengs en offentlig samtale om dette. NTVA kan bidra med det vi kan kalle «engineering diplomacy». Dette er en tilnærming der vi forener dyp teknisk innsikt med konstruktive forslag til løsninger i den nasjonale og internasjonale politikkutformingen.

Man trenger ikke å omfavne de mest ekstreme, dystopiske scenariene. Eliezer Yudkowsky og hans bok If Anyone Builds It, Everyone Dies advarer mot utvikling av såkalt superintelligens, et KI-system som langt overgår den samlede menneskelige intelligens.

Yudkowsky representerer et ytterpunkt i debatten, og er nyttig som et referansepunkt. Men det er mer konstruktivt å lytte til en nøktern stemme som Richard Susskind. Han ser på KI som en stor mulighet for menneskeheten, men innrømmer at han også bekymrer seg. Han sier i sin bok How to think about AI: “This is why I believe that balancing the benefits and threats of artificial intelligence – saving humanity with and from AI – is the defining challenge of our age.” Han viser til at KI-eksperter vurderer det som mulig at vi mister kontrollen med KI, selv om de samtidig anser det som lite sannsynlig.

Men, som Susskind påpeker, på hvilket annet område ignorerer vi en usannsynlig, men mulig eksistensiell trussel? IAEA og atomenergi er nevnt. Vi overvåker asteroider. Hvorfor skulle KI være et unntak?

Husk, KI-systemene som de er akkurat nå, er på det laveste teknologiske nivå de vil være fra nå og i fremtiden. Jeg hører beroligende snakk om at KI er en hype. Men det er feil; investeringer kan være det, men teknologien forblir og utvikles raskt. Som bruker av teknologien opplever jeg dessuten at narrativet om at språkmodellene «bare» beregner sannsynligheten for neste ord i en setning kraftig undervurderer de faktiske evnene vi observerer.

Norge bør derfor løfte blikket. Det er ikke nok å ta i bruk teknologien etter hvert som den utvikles (av andre); vi må også starte diskusjonen om KI som en mulig eksistensiell trussel. Susskind oppfordrer oss til å ta utgangspunkt i følgende hypotese: Kunstig generell intelligens (AGI) er teknisk mulig. Da vil vi før eller siden utvikle slike systemer. Hva som skjer da, kan vi ikke vite. Men det er en klar risiko for at slike systemer vil forbedre seg selv – kanskje sette retning mot superintelligens og utvikle teknologier og handle på måter som ikke nødvendigvis er i menneskenes interesse.

Susskind kaller dette “what-if-AGI”-thinking.

Man kan selvsagt jobbe med et slikt eksistensielt spørsmål og samtidig jobbe for at den KI-teknologien vi har tilgjengelig i dag og i nær fremtid blir nyttig og opererer i tråd med våre verdier. Å diskutere begge deler gjør etter mitt syn også feltet mer interessant og attraktivt for kommende generasjoner. Mange av oss ble tross alt trukket inn i akademia nettopp av de store spørsmålene – det eksistensielle, nysgjerrigheten, undringen over hva som er mulig, og søken etter forståelse.

Jeg vet at også det eksistensielle diskuteres blant norske KI-eksperter. Men er dette en samtale som best holdes internt i fagmiljøene, eller er det på tide at spørsmålet løftes inn også i den offentlige samtalen?