Kapittel 10: Hva slags sinn har en maskin?

Sigurd Nøstberg Hovd er doktorgradsstipendiat ved Institutt for Fredsforskning og Universitetet i Oslo. Han skriver en doktorgrad som en del av forskningsprosjektet Warring with Machines ved institutt for Fredsforskning, om kunstige intelligente systemers påvirkning på menneskers evne til moralsk dømmekraft.

Et kjennetegn ved utviklingen av kunstig intelligens som teknisk-vitenskapelig disiplin, er at menneskelig intelligens spiller en stadig mindre rolle som standarden disiplinens arbeid defineres ut ifra og måles opp mot.

Da kunstig intelligens først oppsto som egen fagdisiplin, sto menneskelig intelligens sentralt i formuleringen av dets problemområde. Den såkalte Turing-testen foreslått av Alan Turing for å avgjøre om maskiner er i stand til å tenke, var nettopp et forslag om å omformulere dette spørsmålet til et spørsmål om hvorvidt maskiner er i stand til å simulere intelligent menneskelig adferd, som kommunikasjon (Turing, A.M. 1950, Computing Machinery and Intelligence. Mind 49: 433–466). Da begrepet kunstig intelligens ble introdusert i forslaget til den berømte sommerskolen ved Dartmouth i 1956, ble det også gjort med referanse til menneskelig intelligens:

The study is to proceed on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it. An attempt will be made to find how to make machines use language, form abstractions and concepts, solve kinds of problems now reserved for humans, and improve themselves. We think that a significant advance can be made in one or more of these problems if a carefully selected group of scientists work on it together for a summer (McCarthy, J., Minsky, M.L., Rochester, N. & Shannon, C.E. 1955, A Proposal for the Darthmouth Summer Research Project on Artificial Intelligence).

Dette har endret seg. Utviklingen av rasjonell beslutningsteori og spillteori i andre halvdel av forrige århundre har utrustet oss med en klar og entydig matematisk modell for rasjonalitet som ikke gir noen spesiell preferanse eller referanse til menneskelig adferd eller psykologiske prosesser. Studiet av kunstig intelligens har også, som ethvert annet vitenskapelig fagområde, blitt preget av spesialisering. Egenskapene fremhevet i Dartmouth-forslaget som kjennetegn på menneskelig intelligens viste seg å utgjøre langt mer kompliserte problemer enn det var mulig å løse over en sommer, og har siden blitt utgangspunkt for egne underdisipliner innenfor kunstig intelligens. Vi er ennå langt unna et generelt kunstig intelligent system som i det hele tatt nærmer seg menneskelig intelligens, og det er vanskelig å se hvor relevant denne standarden skulle være overfor snevrere intelligente systemer. Kort sagt: Om maskinen kan løse problemer på en rasjonell måte, hvem bryr seg om maskiner ikke tenker som vi gjør? Ofte utvikler vi dem jo nettopp av den grunn (or et eksempel på dette ståstedet, se Russell, S. & Norwig, P. 2010, Artificial Intelligence: A Modern Approach, Prentice Hall).

I dette essayet vil jeg introdusere noen begreper og tenkemåter som kan være nyttige for å avgjøre når og hvordan menneskelig intelligens er en relevant standard å forholde seg til, det være seg når man utvikler, implementerer eller bruker kunstig intelligensteknologi. Mer spesifikt vil jeg argumentere for at den tyske biologen Jakob Johan von Uexkülls (1864–1944) begrep om en omverden (Umwelt) og den østerrikske filosofen Edmund Husserls (1859–1938) begrep om en livsverden (Lebenswelt) er særlig nyttige begreper i denne debatten og samtalen (Husserl, E. 1954, Die Krisis der europäischen Wissenschaften und die transcendentale Phänomenologie, (red.) W. Biemel, Martinus Nijhof, Hague).

Intelligens i relasjon til en omverden

Det finnes ingen allment akseptert definisjon på intelligens. Intelligens er faktisk et kontroversielt tema og et område med mange filosofiske og psykologiske fallgruver. Vi kan for mitt formål heldigvis hoppe elegant over de fleste av disse fallgruvene. Jeg ønsker nemlig å rette fokus mot et relativt ukontroversielt aspekt ved menneskelig intelligens: at den finner sted i relasjon til en omverden. Alle evnene vi tradisjonelt assosierer med menneskelig intelligens, har enten eksplisitt eller implisitt referanse til en større omverden aktøren befinner seg i. Evnen til å tilegne seg og benytte kunnskap er en evne til å tilegne seg og benytte kunnskap om noe, til syvende og sist: omverdenen og vår plass i den. Evnen til å planlegge og løse problemer bærer også en nokså åpenbar referanse til en større omverden; det handler dypest sett om vår evne til å forstå og manipulere våre omgivelser. Man vil kanskje innvende at evnen til å resonnere logisk ikke forutsetter noen omverden, i og for seg, men en aktør resonnerer tross alt om noe, og i en vid forstand av ordets betydning kan vi beskrive dette «noe» som en del av aktørens omverden.

Det er nettopp en slik vid forståelse av «omverden» jeg vil ta utgangspunkt i. En sterk motstrøm innenfor forskning om kunstig intelligens har bestått i kritikk mot den virtuelle forståelsen som preger mye tradisjonell kunstig intelligens-forskning (Brooks, R.A. 1991. Intelligence without representation. Artificial Intelligence, 47, 139–159). Ifølge disse kritikerne er intelligens først og fremst noe som oppstår hos en aktør med en fysisk kropp som tillater den å interagere med en fysisk omverden. Vi kan ikke anta at en kunstig intelligens designet i en intelligent verden vil kunne operere i en fysisk verden. Dersom vi ønsker å designe et system med en tilsvarende generell intelligens som vår, er et første nødvendig steg følgelig å simulere den kroppslig betingede forståelsen av ens omverden som man finner hos mennesker og andre dyr. Med et så vidt begrep om omverden som jeg her ønsker å operere med, trenger vi imidlertid ikke ta stilling til denne kritikken. For oss er en virtuell omverden en like god omverden som en fysisk omverden. En fysisk omverden vil som regel skille seg fra en virtuell omverden ved å være langt mer kompleks, men det er ikke avgjørende for mitt resonnement her.

Begrepet omverden har sitt intellektuelle utspring i biologen Jakop Johan von Uexkülls begrep Umwelt (Uexküll, J.J. 1934. Streifzüge durch die Umwelten von Tieren und Menschen. Julius Springer). Slik det er brukt av Uexküll, refererer det til en organismes subjektive persepsjon av dens handlingsrom, og innebefatter både organismens fysiske og sosiale miljø. Organismens omverden er subjektiv i den forstand at den er bestemt av hva slags informasjon sanseorganene gir den tilgang til, samt organismens evne til å bearbeide denne informasjonen. Omverdenen er også subjektiv i den forstand at informasjon innhentet av organismen blir forstått i lys av dens unike evne til å handle og overleve. To forskjellige organismer kan følgelig være i hverandres omverden, uten at dette vil si at disse organismene deler omverden. Når reven oppdager en hare ute i gresset, trer disse to organismene inn i hverandres omverden, men dette møtet har to vidt forskjellige om enn komplementære betydninger for de to organismene. Én opplever dette møtet i kraft av å være et rovdyr, en annen i kraft av å være et potensielt bytte. For den ene fordrer situasjonen flukt, for den andre jakt. De tar del i hverandres omverdener, men deler ikke av den grunn omverden.

Selv om vi ikke kan dele en annen organismes omverden, har vi evnen til å sette oss inn i den. Jeg kan forsøke å forstå hvordan en organisme vil tolke endringer i dens omgivelser gitt dens fysikalitet, perseptuelle og kognitive egenskaper, instinkter og unike historie. En slik evne til forståelse finnes i forskjellige grader og former og er på ingen måte en egenskap unik for mennesker. Mange dyr evner å forutse og utnytte andre dyrs adferdsmønstre. Reven som lister seg mot haren, utviser en slags forståelse av hvordan den fremtrer for haren. Det er for eksempel blitt påvist at kråker har en tilstrekkelig sofistikert forståelse av menneskers bruk av trafikklys til å kunne bruke dem som nøtteknekkere. De plasserer nøtter foran biler som venter på rødt lys, for så å forsyne seg av de åpnede nøttene når bilen har passert. Å forstå en annen organismes omverden, hvor sofistikert denne forståelsen enn måtte være, er imidlertid ikke det samme som å besitte den. For å besitte en organismes omverden må jeg være denne organismen.

Uexkülls begrep om en omverden kan hjelpe oss å klargjøre hva det er vi egentlig spør om når vi lurer på hvor intelligent et kunstig intelligent system egentlig er. Hva er det «egentlig» sikter til i denne formuleringen? Det er ikke en ukjent klage fra mange forskere som arbeider med kunstig intelligens, at intelligens synes å være et bevegelig mål som flyttes stadig lenger unna etter hvert som forskningen gjør nye fremskritt. Samtidig som man har vært i stand til å designe systemer som innenfor avgrensede områder overgår menneskelig rasjonalitet, settes det fortsatt spørsmålstegn ved deres intelligens. Er denne skepsisen kun et uttrykk for en form for menneskelig hang til navlebeskuelse?

Figur 10.1 To forskjellige organismer kan tre inn i hverandres omverden, men de deler ikke av den grunn verden. Foto: Travelina/Shutterstock.

Intelligens og rasjonalitet

Våre begreper om rasjonalitet og intelligens er åpenbart nært beslektede, men ikke identiske. En aktør er rasjonell i den grad aktørens adferd er formålsrettet, altså i den grad aktøren bruker de mest effektive midlene til å nå sine mål. Når vi snakker om intelligens, snakker vi om et sett kognitive ferdigheter en aktør bruker til å forstå og manipulere sin omverden. Alle dyr kan beskrives som rasjonelle i den forstand at deres adferd er formet av evolusjonære prosesser tilpasset deres fysiske miljø, men intelligens kan spille en større eller mindre rolle i å styre adferden deres. Mens vi vurderer en aktørs rasjonalitet i lys av et relativt klart avgrenset formål, vurderer vi altså en aktørs intelligens i lys av en mer helhetlig forståelse av hvordan den orienterer seg i sin omverden.

Uexkülls analyse av organismers omverden kan hjelpe oss med å klargjøre denne typen vurderinger. En organismes omverden er dens perseptuelle miljø og handlingsrom. Omverdenen er subjektiv fordi den er bestemt av organismens tilgang og evne til å behandle informasjon, men også fordi denne informasjonen blir forstått i lys av organismens egne evner til å handle. Det følger av dette at en organismes intelligens – organismens evne til å forstå og manipulere sin omverden – også spiller en rolle i bestemmelsen av omverdenen. En mer intelligent organisme vil i kraft av sin intelligens leve i en mer kompleks omverden enn en mindre intelligent organisme. Når vi vurderer en organismes intelligens, ser vi ikke dermed kun på i hvilken grad organismen bruker de mest effektive tilgjengelige midlene til å realisere sine mål. Vi vurderer også kompleksiteten i organismens omverden sammenlignet med andre organismers omverdener. Dette er en øvelse mennesker gjør stadig vekk. Jeg selv lar meg ofte overraske over min katts evne til å orientere seg i leiligheten min, og hvordan den plutselig en dag lærte seg hvordan dørhåndtak fungerer. Jeg kan ta meg selv i å undres over hvor mye den forstår av hva den betyr for vår familie, og hva vi betyr for den. Adferdsbiologer og biologiske kybernetikere forsøker å finne vitenskapelige svar på nettopp slike spørsmål.

Når vi spør hvor intelligent et kunstig intelligent system egentlig er, tror jeg nettopp det er dette «egentlig» sikter til. Vi forsøker å sammenligne systemets intelligens med andre livsformers intelligens som vi forstår bedre. Det vil si at vi prøver å forstå hvor godt denne intelligensen hadde kunnet orientere seg i en levende organismes omverden, det være seg en mus, en rev eller et menneske.

Det er flere grunner til at en slik sammenligning vil by på noen problemer. For det første er alle levende organismers omverdener og intelligens formet av den samme evolusjonære prosessen. Kognitive kapasiteter som persepsjon, hukommelse, oppmerksomhet, beslutningsevne og begrepsdannelse, slik disse gir seg til uttrykk i en organismes adferd, er understøttet av hele organismens legeme, formet gjennom evolusjon til å passe organismens miljø. Denne utviklingen har skjedd i samspill med andre organismer, og det er derfor ikke underlig at mange intelligente organismer deler mange av de samme forutsetningene for å orientere seg om og i sin omverden. Når vi spør oss selv om hvorvidt en levende organismes intelligens hadde vært tilstrekkelig til å orientere seg i en annen organismes omverden, er dette en omverden som har mange likhetstrekk med organismens egen. Disse likhetstrekkene kan gi intelligens som manifesterer seg i levende vesener, et bemerkelsesverdig skinn av både enkelhet og generalitet når de i sannhet er svært spesialiserte og komplekse systemer.

Naturen gir oss derimot ingenting gratis når vi designer et kunstig intelligent system. I den grad systemet er i stand til å interagere med en levende organismes omverden, er det fordi vi har designet systemet til å gjøre det.

Et annet problem er at kunstig intelligente systemer designes for å løse svært begrensede, eksternt bestemte oppgaver. En organismes intelligens er derimot innlemmet i dens globale mål om overlevelse og reproduksjon, og bundet opp i dens unikt kroppslig situerte måte å være i sin omverden på. Den dominerende metoden for å tilnærme seg spørsmålet om kunstig intelligens har vært å dele problemstillingen opp i underproblemer, som problemløsning, språk og læring, og så behandle dem hver for seg. Den eneste måten man kan spise en elefant på, er som kjent å spise en bit av gangen. Men et system som er i stand til å finne en løsning på ett av disse problemene, altså å simulere menneskelig problemløsning, språk eller læring, har ikke nødvendigvis bragt oss noe nærmere å simulere menneskelig intelligens. Løsningen man har funnet på ett av disse underproblemene, er ikke nødvendigvis en del av løsningen på det overordnede problemet. Av samme grunn kan organisk intelligens være en lite passende standard å vurdere kunstig intelligens etter. Et kunstig intelligent system kan være i stand til å løse svært komplekse problemer uten at det vil være egnet til å orientere seg vellykket i en levende organismes omverden.

Vår naturlige hang til å forsøke å sette oss i inn andre levende veseners omverden kan følgelig gi oss et forvrengt bilde av hva det innebærer å gjøre fremskritt innenfor kunstig intelligens som fagfelt. Når vi sammenligner organiske veseners intelligens, tenker vi oss noe i nærheten av en totempæl, der forskjellige organismers evne til å løse problemer rangeres i lys av kategorier som kompleksitet, autonomi og fleksibilitet. Vi tenker at en rotte er mer intelligent enn et insekt, men mindre intelligent enn en ravn, som igjen er mindre intelligent enn en sjimpanse, og så videre.

Det kan virke naturlig å tenke på fremskritt innenfor kunstig intelligens som et spørsmål om hvor på denne totempælen de mest avanserte kunstig intelligente systemene vi i dag kan designe burde stå. Som standard har denne totempælen levende organismers særegne mål og omverden som referanseramme. Vi designer imidlertid kunstige intelligente systemer for å utføre et vidt spekter av oppgaver i omverdener som kan ha lite til felles med omverdenen til levende organismer. De kunstig intelligente systemenes manglende evne til å orientere seg i en levende organismes omverden trenger ikke være uttrykk for manglende intelligens. Selv om vi skulle være i stand til å overvinne denne utfordringen og utvikle en definisjon av generell intelligens som sidestiller organiske og kunstige systemer, er det likevel grunn til å stille spørsmål om hvor meningsfull denne totempælen er som en standard for kunstig intelligens som fagfelt. Å utvikle et spesialisert intelligent system byr på genuine utfordringer og kan innebære fremskritt for kunstig intelligens som fagfelt uten at det bringer oss nærmere generell kunstig intelligens. En generell intelligens i stand til å orientere seg i organiske veseners omverden er like lite fagfeltets endelige mål som menneskelig intelligens er det.

Kunstig intelligens og den menneskelige livsverden

Som et teknisk-vitenskapelig fagfelt har kunstig intelligens som siktemål å designe rasjonelle aktører. Ser vi fagfeltet utelukkende i lys av dette målet, er det ingen grunn til å gi menneskelig eller noen annen form for organisk intelligens prioritet som standard.

Fagfeltet eksisterer imidlertid ikke i et vakuum. Vi designer og utnytter kunstig intelligente systemer for å nå mål som involverer vår menneskelige omverden. Vi ønsker at de skal handle på våre vegne. Skal kunstig intelligente systemer fylle en slik funksjon, må de forstå målene vi gir dem. Dette betyr selvsagt ikke at de må forstå hvorfor de gjør det de gjør. Når vi implementerer et kunstig intelligent system, det være seg en automatisert gressklipper eller en algoritme som optimaliserer strømforbruket i et borettslag, gir vi det mål ved å instruere det til å optimalisere visse parametere innenfor en relativt snevert avgrenset omverden. Så lenge systemets adferd samsvarer med formålene vi hadde for å implementere det, utviser systemet en tilstrekkelig forståelse av målene vi gir det.

I den grad vi ønsker å utvikle og implementere mer fleksible intelligente systemer som er i stand til å orientere seg i en mindre snevert avgrenset omverden, fordrer dette også en mer sofistikert forståelse av målene, hvilket i sin tur fordrer en mer sofistikert forståelse av vår menneskelige omverden. Når vi implementerer et kunstig intelligent system i vår omverden, spiller dermed menneskelig intelligens en sentral rolle som en slags negativ standard. Kunstig intelligente systemer trenger ikke å tenke som oss, men før vi slipper dem løs i vår omverden, må vi vite at de kan handle i samsvar med formålene vi har for å implementere dem. Vi kan ikke la et kunstig intelligent system råde over en del av vår omverden med mindre det har en intelligens som er tilstrekkelig fleksibel og tilstrekkelig tilpasset vår omverden, slik at det er følsomt for hva som betyr noe for oss innenfor dette området.

Edmund Husserls begrep om en livsverden (Lebenswelt) er et særlig nyttig begrep for å klargjøre den unike utfordringen dette representerer. Begrepet er nært beslektet med Uexkülls omverden-begrep og sikter til menneskers unike, perseptuelt gitte omverden. Dette er en omverden hvis kompleksitet er ulik enhver annen levende organisme vi kjenner til. Vår livsverden slik den umiddelbart gir seg til kjenne for oss, er ikke kun en fysisk og sosial verden, men også en verden opplevd gjennom en kultur og en historie. Det er også en verden opplevd og forstått gjennom religiøse, moralske og eksistensielle verdier.

Det som gjør Husserls analyse av livsverdenen særlig interessant for vårt formål, er hvordan Husserl forsto forholdet mellom vår menneskelige livsverden og den fysiske verden, verden slik den studeres av naturvitenskapene. Vår livsverden slik den er gitt i vår alminnelige erfaring, oppfattes som grunnleggende subjektiv, på en lignende måte som Uexkülls omverden. Jeg forstår objekter i verden rundt meg i lys av mine og andre menneskers mulighet til å interagere med dem. På bakgrunn av min egen subjektivitet er jeg i stand til å sette meg inn i opplevelsene til andre og dele en felles opplevelse av virkeligheten. Vi kan tiltale hverandre, kommunisere, og samarbeide: Vi innlemmes i en felles kulturell forståelse og væremåte; vi blir fortalt, tolker og gjenforteller en felles historie; og vi holder hverandre ansvarlige for normene som styrer vår kultur og vårt etiske og religiøse liv.

Hele denne omverdenen har sitt utspring i menneskets subjektivitet og er for oss forståelig kun i kraft av vår subjektivitet. Husserl så derimot naturvitenskapens prosjekt, slik den særlig gir seg uttrykk i fysikken, som et forsøk på å beskrive vår verden slik den er i seg selv, uavhengig av vårt bestemte perspektiv på den. Det vil si: Naturvitenskapen abstraherer vår subjektivitet fra vår livsverden og beskriver dens matematiske struktur, slik vi er i stand til å måle den.

Husserl fryktet at dette prosjektet var i ferd med å fremmedgjøre mennesket fra sin egen livsverden og så på det som den moderne filosofis fremste oppgave å vise hvordan naturvitenskapen hadde oppstått og fortsatt er innbefattet i den menneskelige livsverden.

Utfordringen kunstig intelligens nå stiller oss overfor, kan minne om nettopp denne oppgaven, om enn med motsatt fortegn. For mens Husserl så på det som filosofiens fremste rolle å tydeliggjøre menneskelig subjektivitets delaktighet i vår naturvitenskapelige verdensforståelse, er vi nå som filosofer stilt overfor spørsmålet om den menneskelige livsverden kan bli gjort forståelig for et vesen hvis ressurser kommer utelukkende fra kilder bestemt av den naturvitenskapelige metode. Vi må klargjøre hvordan en slik forståelse ville kunne se ut, og om det finnes noen metafysiske begrensninger for hvor dypt en slik forståelse kunne nå.

Spørsmålet er bundet opp i spørsmål som har preget vestlig filosofi siden den moderne naturvitenskapens oppblomstring, for eksempel spørsmål om forholdet mellom bevissthet, kunnskap og den fysiske verden, og om moralsk ansvar er kompatibelt med en naturvitenskapelig verdensanskuelse. Utviklingen av stadig mer sofistikert kunstig intelligens-teknologi kan imidlertid komme til å tvinge filosofer til å angripe dette saksfeltet på en helt ny måte. Mye av arbeidet som er blitt gjort rundt disse spørsmålene, har tilnærmet seg dem med reduksjonisme og naturalisme som utgangspunkt. Man har spurt om menneskelig bevissthet, kunnskap og moral kan reduseres til underliggende fysiske, kjemiske og biologiske prosesser, eller om disse fenomenene på en annen måte kan integreres inn i et naturvitenskapelig bilde av verden. Ved å skifte fokus over til forutsetningene som et kunstig intelligent system prinsipielt sett har til å forstå og interagere med vesener som besitter bevissthet, kunnskap og moralske oppfatninger, kan nye aspekter ved disse fenomenene komme til syne.

Det er ikke lenge siden resultater innenfor adferdsbiologi og biologisk psykologi fundamentalt endret hvordan filosofer tenkte om handling, persepsjon og tenkning – egenskaper det var vanlig å tenke seg var forbeholdt mennesker. Ved å se nærmere på alt vi deler med andre levende organismer, har vi kommet frem til en dypere forståelse av oss selv og hva som gjør vår væren i verden unik. I tiden fremover kan kunstig intelligens komme til å spille en lignende rolle, ved å tvinge oss til å se vår menneskelighet i en helt ny kontekst.

Å forstå oss selv og vår plass i verden er nok noe av det nærmeste vi kommer filosofiens kjerneoppgave. Kanskje en av de mest fascinerende konsekvensene av utviklingen vi nå står overfor innenfor kunstig intelligens, er at denne refleksjonsoppgaven i større grad vil måtte bli allemannseie. Skal kunstig intelligens kunne integreres dypere inn i våre daglige praksiser slik at disse systemene kan handle på våre vegne, må vi reflektere dypere om hva som gjør disse praksisene viktige for oss. Nettopp fordi disse systemene ikke nødvendigvis vil tenke som oss, må vi ha et klart bilde av hva deltagelse i disse praksisene innebærer, og hvordan det å innlemme kunstige intelligente systemer i disse praksisene kan komme til å endre disse praksisene selv.

Konklusjon

Vi bør være forsiktige med å tenke på menneskelig intelligens som en styrende standard for kunstig intelligens som fagfelt. Å referere til menneskelige kognitive ferdigheter i vår definisjon av kunstig intelligens er ikke bare unødvendig, gitt vår matematiske definisjon av rasjonalitet. Det er også en for snever beskrivelse av kunstig intelligens som fagfelt. Likevel synes selve begrepet «kunstig intelligens» å dytte oss mot nettopp slike tolkninger; mot spørsmål om hvor intelligent et system «egentlig» er, og mot sammenligninger mellom kunstig intelligente systemer og forskjellige former for organisk intelligens.

Jeg har belyst noen av problemene som følger med denne typen sammenligninger, hvordan vi lett kan overvurdere hvor generell organiske veseners intelligens er, og hvordan en slik generell intelligens ikke kan være målet for kunstig intelligens som fagfelt. Kanskje hadde det vært bedre om man hadde unngått dette begrepet fra begynnelsen av og snarere snakket om rasjonelle aktører enn kunstig intelligens. Det er ikke utenkelig at mange debatter rundt disse teknologiene hadde hatt godt av det. Da kunne vi i større grad ha diskutert teknologien vi har, og bekymret oss mindre om science fiction-aktige scenarioer. I denne artikkelen har jeg pekt på en kontekst der menneskelig intelligens spiller en viktig rolle som en slags negativ standard. Uansett hvordan et kunstig intelligent system forstår sine omgivelser, må vi forstå hvordan dets forståelse av verden er ulik vår egen, for å kunne sørge for at det kan handle på våre vegne.