Dag Hareide er bl.a. tidligere rektor på Nansenskolen – Norsk Humanistisk Akademi og generalsekretær i Naturvernforbundet, Kirkens Bymisjon og Regnskogfondet. Han var rehabiliteringskoordinator for FN i Etiopia og ledet arbeidet med en nasjonal beredskapsplan mot hungersnød. Han har skrevet flere bøker. Hareide ble utnevnt til ridder av St. Olavs orden i 2015 for sitt ekstraordinære samfunnsengasjement.
I forrige århundre var vi vant til to typer medier: massemedier kontrollert sentralt, som TV og aviser, og mer demokratiske medier, som telefonen, hvor du bare kunne nå noen få. Med internett åpnet det seg noe nytt: en demokratisk kommunikasjon direkte mellom alle som kan koble seg på.
Optimismen nådde et høydepunkt rundt 2010 da den arabiske våren fikk mange til å si at internett og smarttelefonen automatisk skaper demokrati i diktaturer. Wael Ghonim, Googles markedssjef i Midtøsten, ble et symbol for opprøret i Egypt med sin Facebook-side som mobiliserte folk til å demonstrere på Tahrirplassen i Kairo. Da jeg møtte ham noen år senere, fortalte han: «I 2011 sa jeg at internett frigjorde samfunnet. Men så opplevde vi at mediene på internett rev oss i stykker og undertrykte oss. Nå sier jeg at vi må frigjøre internett for å frigjøre samfunnet.»
Verdensveven (World Wide Web) åpnet internett for allmennheten. Ved 30-årsjubileet i 2019 oppsummerte Verdensvevens oppfinner Tim Berners-Lee utviklingen. Han forsto godt at folk var blitt redde og usikre på om Verdensveven og internett vil være en kraft for det gode. Han erkjente at internett var fordervet av «systemdesign som skaper perverse incentiver», men konkluderte optimistisk: «Gitt hvor mye Verdensveven har endret seg de siste 30 årene, så ville det være selvoppgivelse og fantasiløshet å anta at Verdensveven som vi kjenner den, ikke kan bli endret til det bedre i de neste 30 årene.» (Tim Berners-Lee. (2019). 30 years on. What’s next? World Wide Web Foundation).
Verdensveven var ment som en allmenning. De «perverse incentivene» Berners-Lee nevnte, refererte til noen selskaper som hadde «okkupert» nettet. I flere land i Sørøst-Asia er internett det samme som Facebook for folk flest. Her hjemme snakker vi om å «google» når vi søker på nettet.
Fra 2016 økte kritikken eksplosivt i internettets hjemland USA og fikk et eget navn: «Techlash». Retter denne protesten seg mot teknologien, eller mot teknomaktene? Denne artikkelen tar sitt utgangspunkt i at internett, kunstig intelligens, smarttelefonen, utvidet virkelighet og Tingenes internett er vidunderlige gaver til menneskeheten – om de blir brukt rett. Men disse teknologiene styres av maktsentra som har forretningsmodeller, verdier og en sosial slagside som fører til mye skade. Det er teknomaktene, ikke teknologiene, som skaper de fleste problemene vi nå opplever.
Det siste tiåret har jeg blitt stadig mer overbevist om to ting: for det første at eksistensielle gjennombrudd innen informasjons- og bioteknologi vil endre fremtiden drastisk; for det andre at dette er et tema hvor vi mangler en omfattende, ordentlig, offentlig samtale i Norge. Jeg er ikke teknolog, men jeg tenkte at for å få til en slik samtale med de tre adjektivene, så trengs amatører. Mitt bidrag ble å sette av fire år til å oppsøke teknomaktene på fire kontinenter, og skrive boken Mennesket og teknomaktene (Dag Hareide. (2020). Mennesket og teknomaktene: Hva gjør teknologiene med oss?). Denne artikkelen presenterer kortfattet deler av boken og tilføyer noen nye momenter.
Figur 27.1 Mennesket og teknomaktene av Dag Hareide.
Konsentrasjon av makt og penger hos noen digitale giganter har eksplodert ved inngangen til 2020-årene
Vi starter med krimetterforskningens slagord: «Følg pengene».
22. februar 2020 hadde tidsskriftet The Economist en forside med bilde av fem robot-okser som stormet mot leseren med røde, sinte øyne. De var merket med logoene til Google, Amazon, Microsoft, Apple og Facebook. Budskapet var at i 2019 økte disse fem mest verdifulle selskapene i verden sin verdi på børsen med 2000 milliarder dollar. Bare økningen på ett år var mer enn samlet verdi av alle børsnoterte selskaper i de fem nordiske landene. Economist så for seg to mulige veier videre: at det hele sprakk som en boble, eller at de fem fortsatte å holde på en overlegen maktposisjon. Economist var usikre på hva som var verst.
Året etter, koronaåret 2020, økte de fem enda mer: 2500 milliarder dollar. Denne opphopningen av penger i noen få selskaper er historisk enestående (De fem store passerte 25 prosent av verdien til de 500 største amerikanske selskapene i 2021. Til sammen er markedsverdien til de fem større enn Japans BNP, Marker 16.2.2021). Sammen med et par kinesiske selskaper har teknogigantene en ekstraordinær dominans i markedet. For ti–femten år siden var listen over verdens ti mest verdifulle selskaper dominert av olje og banker. Nå er ni av ti teknoselskaper. Bare Saudi-Arabias statlige oljeselskaper minner oss om at oljealderen ikke er over.
Internett, GPS, touchscreen og talestyring ble utviklet i statlige, skattefinansierte militære prosjekter i USA. Verdensveven ble utviklet i CERN, en statlig skattefinansiert forskningsinstitusjon i Europa. Alt ble etter hvert frigitt for folk flest. Nå er det noen få kommersielle teknogiganter som henter det meste av profitten fra disse geniale oppfinnelsene.
Pengerikdommen gjør at teknogigantene kan kjøpe opp konkurrenter. Google, Apple og Amazon kjøper opptil ett stort selskap hver måned. Google har kjøpt 270 selskaper siden 2003. Apple har rede kontanter som er omtrent like mye som Danmarks og Finlands statsbudsjett til sammen. Oppstartsselskaper som truer gigantene, får så feite tilbud at det etter hvert har blitt favorittdrømmen ikke å konkurrere med de store, men å bli kjøpt opp av en av dem.
Markedsverdi er jo noe annet enn inntekt. I spriket ligger muligheten for en boble som kan sprekke. Men også inntektene hos teknogigantene har økt betydelig de siste årene – ikke minst i koronaens tid.
Koronaen gjorde oss alle til borgere i «Digitalistan». Arbeidsplasser, kulturliv, undervisning, vareleveringer, sosial kontakt m.m. ble overført til algoritmenes protektorat. Det ble både en redning og en ny avhengighet.
Hva som kommer ut av koronaen gjenstår å se. Economist prøvde seg med en analyse og utnevnte 100 selskaper som vil vinne mest på pandemien, såkalte top dogs. 48 av dem var innen informasjonsteknologi, 24 innen bioteknologi.
De fem store gir uttrykk for store drømmer. Amazon vil selge alle slags varer via nettet til alle. Facebook vil knytte alle mennesker sammen til et nettverk som skaper et bedre verdensfellesskap. Google vil samle all kunnskap i verden og formidle den til alle. Det høres idealistisk ut. Samtidig er dette monopoldrømmer. Drømmene forutsetter makeløs makt.
Monopol for teknomaktene oppnås gjennom kontroll av digitale plattformer. Når en plattform vokser raskere enn andre, vil vekst gi mer vekst og dominans. Dette er den såkalte nettverkseffekten formulert av ingeniøren Robert Metcalfe. Den går ut på at nytten av et telekommunikasjonssystem er proporsjonal med kvadratet av antall tilkoblede brukere av systemet. Slik kan noen få selskaper med hovedkvarter langs noen få kilometer av USAs vestkyst skape digitale verdensherredømmer.
«Konkurranse er for tapere,» sier den mektige investoren Peter Thiel (Peter Thiels foredrag. Competition Is For Losers kan du se på YouTube. Hans bok Zero and One (2014) presenterer hans forretningsfilosofi). Han investerer bare i selskaper som har mulighet for å oppnå tilnærmet monopol. Det som kjennetegner Silicon Valleys makt, er ikke bare de store teknoselskapene, men også den enorme risikokapitalen (Venture Capital) som flyter inn der. Investorenes vilje til å ta tap over mange år for å konkurrere ut andre selskaper har stimulert til en «vekst foran alle andre hensyn»-strategi (Et eksempel på en slik strategi er Uber, som har hatt store tap hvert eneste år siden det ble startet i 2009. Men utsikten til nesten-monopol på flere kontinenter gjør at investorene holder ut).
Jeg har introdusert ordet «teknomaktene» for å skille dem fra f.eks. oljeselskaper og gruvedrift som har sin makt fra kontroll over materielle ressurser, selskaper innen landbruk som har kontroll over arealer, eller annen industri som henter sin fortjeneste fra å selge varer. Alle disse selskapene er avhengige av teknologi, men det er de digitale gigantene som har sin fortjeneste og makt festet i plattformens algoritmer. Begrepet «teknomakt» er åpent og vagt, og kan utvides etter hvert som kunstig intelligens og plattformøkonomi sprer seg til nye felt.
Teknomaktene er på en egenartet måte uavhengig av å eie mye fysisk infrastruktur. Verdens største tilbyder av taxiturer, Uber, eier ingen taxier. Verdens største formidler av videoer, Googles YouTube, lager ikke videoer. Verdens største formidler av overnatting, Airbnb, eier ingen hoteller. Facebook produserer mye mer innhold enn andre mediekonsern uten å skrive noe selv. Verdens største selgere av varer, Amazon og Alibaba, eier nesten ingen butikker.
Teknogigantene i USA har dels konkurrert og dels samarbeidet, og i løpet av det siste tiåret har de kjempet seg frem til hvert sitt revir for kjerne-fortjeneste og makt. Amazon dominerer e-handel. Google (med YouTube) dominerer søk på nettet. Facebook (med Instagram og WhatsApp) dominerer sosiale medier. Sammen dominerer Facebook og Google inntektene fra digital annonsering. Microsoft står sterkt i operativsystemer og software/programvare for PC. Apple har sammen med Google et duopol i operativsystem for smarttelefoner og hersker dermed også over «appenes planet». Amazon og Microsoft er klart størst på stordata/skyen. I hovedsak har de nevnte selskapene 50 prosent eller mer av USA-markedet innenfor sine revirer. Og de ekspanderer globalt.
Det er programvaren, algoritmene, plattformen som er grunnlaget for rikdommen til de rikeste. «Software eats the world», som Silicon Valley-legenden Marc Andreessen uttrykker det. Det betyr naturligvis ikke at maskinvare og råvarer er uten betydning. Særlig Apple og Amazon tjener mye på varesalg, men det er plattformen som gir dem konkurransefordelen. Maskinvareprodusenter som Nvidia (USA), Samsung (Sør-Korea) og TSMC (Taiwan) er avgjørende for gigantenes verdikjede og har vokst parallelt med de største – men de får en sekundær rolle som en slags underleverandører.
Vil gigantene som har dominert det siste tiåret, være like dominerende om ti år? For å få et svar på det kan man stille seg følgende spørsmål: 1) Vil de største begynne å konkurrere mot hverandre? (Google ypper seg i stordata/skyen. Amazon utvikler seg som søkemotor og konkurrent på digitale annonser. Microsoft har forsøkt å kjøpe seg inn i sosiale medier.) 2) Hva skjer med de nye områdene som utvikles med basis i algoritme-herredømmet og kunstig intelligens – som f.eks. selvkjørende biler, e-helse, digitale betalingstjenester, strømming av musikk og film, videosamtaler m.m.? Her er det mange flere på banen: Tesla, Netflix, Visa, PayPal, Zoom, Spotify. 3) Vil noen av de gamle rike selskapene slå tilbake ved å ta etter plattformtrikset – som Walmart og Disney? 4) USA har vært klart ledende, men opplever stadig sterkere konkurranse fra kinesiske teknogiganter. Byrået PwC regner med at 70 prosent av markedet for kunstig intelligens i 2030 vil finnes i to land: USA og Kina. Vil disse fortsette å investere rundt om i verden eller gjensidig utelukke hverandre i en handelskrig? 5) Og ikke minst: Hva vil politikerne gjøre? I USA har de tradisjon for å sette foten ned når noen selskaper blir for mektige. Men fra Reagan-tiden har de omdefinert problemet fra maktkonsentrasjon til å unngå høye priser for forbrukere. Dette har forvirret politikerne når Facebook og Google gir tilsynelatende gratis tjenester. Først nå begynner de å famle etter et oppgjør.
Stadig flere mener det er viktig å reversere denne enorme penge- og maktkonsentrasjonen. Dette er ikke demokratiske systemer. Lederne er som fyrster i føydale kongedømmer med nedslag over hele verden. Noen av lederne nekter også å la seg styre av sine egne styrer (Både Marc Zuckerberg i Facebook og Sergey Brin/Larry Page i Google sørget for at de hadde aksjemajoritet og slik kunne velge og kontrollere styret. Dette bryter med det som er vanlig i de fleste amerikanske storselskaper). Men vel så viktig er hva de står for. Hvilke verdier, hvilken forretningsmodell presser de inn i våre hverdagsliv?
I 2010 tenkte mange at Apple og Amazon vant konkurransen ved salg av gode eller billige varer. Men ledet an av Google og Facebook har vi fått en annen forretningsmodell.
Google var pioneren. Rett før århundreskiftet hadde Larry Page og Sergey Brin skapt en eminent søkemotor for det kaotiske internett. Opprinnelig ønsket de ikke annonser, som de mente ville ødelegge for en søkemotor som skulle tjene brukerne. Men det var hos annonsørene og datameglerne de fant pengene. I dag gir disse fortsatt over 80 prosent av Googles inntekter. Silicon Valley-veteranen Jaron Lanier mener at dette var selve syndefallet: «Google forsvarer ideen om at den eneste måten å finansiere en forbindelse mellom to mennesker på, er gjennom en tredjepart som betaler for å manipulere dem.» (Jaron Lanier utvikler sine tanker i Ti argumenter for å slette sosiale medier (2019)).
Dette ble begynnelsen på en epoke som flere har kalt: overvåkningskapitalisme. Forretningsmodellen er først å erobre mest mulig av vår tid over på selskapenes plattformer, deretter å overvåke oss og hente ut mest mulig informasjon om oss. Det nye markedet er konkurranse om vår tidsbruk. Den nye valutaen er data om oss. Intim informasjon om oss selges så til annonsører og datameglere, og etter hvert til forsikringsselskaper, banker, politi, domstoler, politiske partier (som i Cambridge Analytica-skandalen i forbindelse med USA-valget i 2016), fremmede makter, ekstremister, hemmelige tjenester m.m.
Googles visjon om å samle all kunnskap førte til et frenetisk kappløp. De kopierte Verdensveven, fristet folk til å gi fra seg informasjon fra sine gmail-eposter, stjal nyhetsstoff fra aviser for sin plattform, lesset bøker fra biblioteker inn i lastebiler og kopierte dem, og reiste rundt i verden og filmet hus og mennesker for GoogleStreetView. Uten å spørre noen først. Uten å bry seg om åndsverk eller nasjonale lover. Google fikk rettssaker mot seg og forbud i mange land. Men de turet frem og tenkte vel at de hadde en høyere rett i sin visjon, og skapte redskaper som var så gode og dominerende at vi ble avhengig av dem (Shoshana Zuboff analyserer Googles strategi i The Age of Surveillance Capitalism (2019), særlig kapittel 5).
Når du leser dette, er antagelig to milliarder mennesker koblet på Google, via deres Android-program i smarttelefonen, Google søk, Google Maps, YouTube eller andre steder i deres kongerike med informasjonskapsler (cookies) over hele internett. De dominerer søk på ord, søk på kart, søk på bilder, søk på video og over halvparten av søk på musikk. Vi googler. Vi ber om kunnskap. Vi ber om kontakt. Vi ber om hjelp mot sykdom. Vi ber om å finne frem når vi har gått oss vill. Vi ber om noe som kan gi oss lykke i kveld. Vi ber til Google, og vi får svar. Google har blitt den guden man ber til. Og er du hekta på å google, så viser undersøkelser at det korrelerer med svakere religiøsitet («How Internet is Taking Away America’s Religion». WIRED 4.04.2014).
Over 90 prosent av våre internettsøk i Europa går via Google. Fem av ti klikker på den øverste posten på siden. Ni av ti klikker på en post på første siden. På YouTube følger vi deres forslag 70 prosent av gangene. Hvilken makt gir det til dem som lager algoritmene?
«Aldri før i historien har beslutninger som tas av en håndfull designere (mest hvite menn bosatt rundt San Francisco, 25–35 år gamle), hatt så stor innflytelse på hva folk i verden retter oppmerksomhet mot», skrev etikkleder i Google Tristan Harris i 2012 (Sitatet er hentet fra et internt notat av Tristan Harris: A Call to Minimize Distraction & Respect for Users’ Attention. Tristan Harris har senere startet Center for Humane Technology, humantech.com, som samler flere varslere og avhoppere fra teknogigantene). Ikke bare er de stuet sammen i noen få selskaper, men de er rikmannssønner utdannet som dataingeniører ved de samme eliteuniversitetene. Ensidighet i kjønn, nasjonalitet, klasse, kultur, yrkesidentitet, utdanning gir store rom for utvikling av penge-meritokratiske stammer med mange fordommer (Bøker som beskriver utviklingen av disse stammene er Emily Chan: Brotopia (2018), Daniel Markovits: The Meritocracy Trap (2019) og Amy Web: The Big Nine, s. 58ff (2019)).
Facebook fant et nytt revir: sosiale medier. Og de turet frem i samme hensynsløse stil som Google (Steven Levy: Facebook: The Inside Story (2020) er den mest omfattende historien om Facebook, skrevet av en «hoffreporter» som ble klart mer kritisk underveis). Ved begynnelsen av dette århundret brukte vi knapt noe tid på sosiale medier, som kan defineres som en digital plattform der deltagerne lager innholdet sammen. I dag bruker 4,2 milliarder mennesker som «er på sosiale medier», i snitt 2 timer og 25 minutter hver dag på disse mediene, eller drøyt 900 timer i året, et halvt årsverk.
Figur 27.2 «Nettopp noe sånt som en hacker som jeg kunne ha funnet på, siden den utnytter en svakhet i menneskets psyke». Illustrasjon: TY Lim/Shutterstock.
Facebook-imperiet har karret til seg drøyt halvparten av den tiden. Det er 2,8 milliarder brukere på Facebook, flere enn det er kristne i verden; to milliarder på WhatsApp, flere enn det er muslimer i verden, 1,3 milliarder på Messenger, flere enn det er hinduer og 1,1 milliard på Instagram, flere enn det er buddhister. Om vi spinner videre på disse tallene, får vi følgende regnestykke: Facebook-lesing og skriving står for ca. en milliard årsverk (beregnet som snitt 1800 timer i året). Sjefen Marc Zuckerberg er verdens største «arbeidsgiver», men betaler ikke et øre til oss for jobben. Derimot tjener han milliarder av dollar på arbeidet vårt.
Sean Parker var den første direktøren i Facebook. Han forteller:
Facebook ble utviklet med dette for øyet: Hvordan kan vi legge beslag på mest mulig av din tid og oppmerksomhet? Det var tankegangen bak utviklingen av Like-knappen, som skulle gi brukeren et dopaminkick. Den er en feedback-mekanisme for sosial bekreftelse – nettopp noe sånt som en hacker som jeg kunne ha funnet på, siden den utnytter en svakhet i menneskets psyke … Den endrer bokstavelig talt forholdet vårt til fellesskapet, til hverandre. På en eller annen måte går det antagelig ut over produktiviteten. Bare Gud vet hva det gjør med hjernen til barna våre (Mike Allen: Sean Parker unloads on Facebook … axios.com 9.11.2017).
Mange har etter hvert forstått at Facebook og Google vet mer om oss enn våre venner gjør. Dette er overvåkning av en høyere grad – som diktatorer bare kunne drømme om. Det gir adgang til våre bevegelser, våre nettverk, våre tanker og følelser. De vet ikke bare mer om meg enn mine venner, men de vet ting som jeg selv ikke liker å vite om meg selv. Gjennom mine klikk på nettet som skjer i det skjulte, kan Google f.eks. finne ut at konservative mennesker i USA klikker mer på porno enn liberale, og Netflix og YouTube vil vite at vi ser på andre filmer og videoer enn de vi sier til våre venner at vi liker (Seth Stephen-Davidowitz: Everybody Lies (2017) mener at mye samfunnsforskning baserer seg på spørreundersøkelser der folk ofte lyver, mens Google avslører dette og er en bedre kilde for forskning).
Dette er ekstremt verdifull kunnskap for enhver som vil selge noe til deg, påvirke deg, manipulere deg eller forutsi hva du vil gjøre.
Denne forretningsmodellen var så lønnsom at de andre teknogigantene kopierte den, i det minste for deler av virksomheten. Og derfra spredte den seg. Forfatteren Shoshana Zuboff skriver: «Etablerte selskaper innen alle sektorer – inkludert detaljhandel, finans, treningssentre, forsikring, bilfirmaer, reiseliv, hotell, helse og utdanning – følger strømmen til overvåkningsinntekter.» (Shoshana Zuboff: The Age of Surveillance Capitalism (2019) s. 172).
Kina er det landet som har kopiert og til dels fornyet denne forretningsmodellen mest effektivt. Teknogiganter som Tencent og Alibaba har utviklet sosiale medier, e-handel og betalingssystemer som gir en omfattende overvåkningskunnskap om de fleste individene i landet. Denne markedsbaserte overvåkningen supplerer diverse former for sosial og politisk overvåkning drevet frem av staten og kommunistpartiet. Jeg har her valgt å konsentrere meg om USA og Vesten i denne artikkelen, men har analysert Kinas statskapitalistiske overvåkningsøkonomi i et kapittel i min bok (Dag Hareide: Mennesket og teknomaktene (2019) kapittel 1. En annen mer omfattende og mer positiv analyse er Kai Fu-Lee: AI Superpowers: China, Silicon Valley and the New World Order (2018)).
Overvåkningskapitalismens første fase er knyttet til digitale plattformer og skjermer. Nå utvider den seg i to retninger: ut i rommet via Tingenes internett og roboter – og inn i kroppen via bioteknologi.
På Davos-møtet 2015 hadde Googles direktør Eric Schmidt et budskap til verdenseliten:
Internett kommer til å forsvinne. Det vil være så mange IP-adresser … så mange innretninger, sensorer og ting du har på deg, ting du samhandler med, at du ikke engang kommer til å merke det. Det blir permanent en del av ditt vesen. Tenk deg at du går inn i et rom, og det rommet er dynamisk (Dave Smith: Google Chaiman: The Internet will disappear, Business Insider 25.01.2015).
Eric Schmidt kunne ikke mene at internett ville forsvinne, ble kommentatorene enige om – etter at de fikk summet seg. Det var heller en melding om at internett ikke lenger ville være begrenset til skjermer, men til et stadig ekspanderende Tingenes internett. Det vil føre til andre måter å kommunisere på enn tasting og trykking på skjermer – som å snakke med maskiner, sveipe med hånda i lufta eller overlate jobben til intelligente autonome roboter (En ny plattform som kan erstatte skjermer på mobil og PC er Utvidet virkelighet eller Metaverse. Jeg behandler ikke dette her. Facebook mener plattformer som kobler det digitale med virkeligheten vil overta sosiale medier i 2030-årenes).
Og hva er nå de tingene som kan knyttes til internett? Det er nesten en hvilken som helst gjenstand vi tidligere ikke trodde kunne kobles opp: biler, skjorter, termometere, støvsugere, briller, trafikklys, striper i asfalten, droner, bøker, operasjonsutstyr.
Her venter mye fortjeneste som vil lokke teknomaktene ut i stadig mer fysisk produksjon. Når milliarder dingser skal inn i smarte hjem og byer, vil de få en verdikjede med gigantiske energislukende stordatasentre (med det forførende navnet «skyer»), 5G-antenner overalt, batterifabrikker, monstermaster osv. Ved inngangen til 2020-årene har denne sektoren raskt økende vekst i energibruk, naturødeleggende gruvedrift og elektronisk forsøpling. Jeg tilhørte dem som lovpriste den digitale kommunikasjonens lette fotavtrykk på kloden, men argumentene om miljøgevinst ser nå ut til å smuldre (Jeg burde her ha funnet en god bok som oppsummerer naturtap, men har bare en rekke artikler som f.eks.: Johan Harris: Planned obsolence. The outrage of our electronic waste mountain. Guardian 15.04.2020, Kimberly Button: 20 staggering e-waste facts. https://earth911.com/eco-tech/20-e-waste-facts/ og Siddharth Kara: Is your phone tainted by the misery of 35 000 children in Congo’s mines? Guardian 12.11.2018).
Google har møtt dette ved å omorganisere seg under morselskapet Alphabet. Målet er ikke lenger bare å samle all kunnskap i verden og formidle den til alle. En rekke datterselskaper skal lage bl.a. smarte hjem, virtuell og utvidet virkelighet, droner, betalingssystemer, selvkjørende biler, roboter, smarte byer, undervisningsmaterialer, vindkraft og mange produkter og tjenester innen helse. De andre selskapene investerer også aggressivt i nye felt. Med så svær profitt kan problemet bli å finne nok lønnsomme områder å investere i.
To honnørord for denne satsningen er «smarte hjem» og «smarte byer». Amazon har mer enn tusen forskjellige dingser som kan kobles på internett i hjemmet. Mer enn halvparten av husstandene i USA har kjøpt «smarte høyttalere», som skal fungere som en digital assistent. Den skal styre dingsene i hjemmet – som dørklokke, musikkanlegg, TV, kjøleskap osv., og helst også oversikten over dine daglige gjøremål og din hukommelse. Du kan snakke til høyttaleren og få svar. Teknogigantene er på banen med hver sine digitale assistenter. Vi kjenner dem fra smarttelefonen: Siri, Cortana, Alexa, Bixby og Google Assistant. Selskapene utvikler egne lukkede systemer med hemmelige algoritmer. Om vi ikke reagerer, kan vi ende opp med å bli oppdelt i forskjellige digitale stammer som styres fra forskjellige høvdinger i California.
Det er åpenbare fordeler med smarte hjem – og for uføre mennesker kan det bli en hjelp til å håndtere livet i hjemmet. Men spredning på mange dårlig beskyttede dingser øker sikkerhetsproblemer og hacking (Lily Hay Newman: The Sensors That Power Smart Cities Is a Hacker’s Dream. WIRED 8.09.2018 og Why Ring Doorbells Perfectly Exemplifies the IoT Security Crisis. WIRED 12.12.2019). Og det blir mer overvåkning. Smarte høyttalere skal samle opp hva som sies i rommet. Dette er overvåkning av høyere grad. Mens man trenger en høyere rettsinstans for romavlytting i Norge, kan du helt frivillig la Google og Amazon samle dine sukk og skrik og analysere din sjel. Ved hjelp av algoritmer lagres ikke bare ordene. Amazons algoritmer forsker frem dine følelser ut fra stemmens variasjoner (Sidney Fussel: Alexa wants to know how you’re feeling today. Atlantic 12.11.2018).
Smarte byer kan også bli gigantiske overvåkningsprosjekter. Google måtte gi opp sitt prosjekt i Toronto, Canada på grunn av folkelig motstand mot deres overvåkning og ovenfra-ned-tilnærming, mens president Xi i Kina vil neppe stoppes i sitt favorittprosjekt i Xiongan. Byen vil bygges opp fra grunnen rundt selvkjørende biler. Kina har flere smart by-prosjekter enn resten av verden til sammen og er ledende på overvåkningsteknologi.
Det kanskje mest fascinerende prosjektet nå er robotbiler, datamaskiner på hjul. Forskjellige faser av «selvkjørende» biler kan bety bedre vilkår for både mennesker og natur. Men det er politikk, jus og økonomiske incentiver som styrer om det minsker eller øker privatbilismen og dens naturødeleggelse («Eksperter» har vidt forskjellige konklusjoner på virkningen av selvgående biler. Se f.eks. ReThink X rapport: https://www.rethinkx.com/transportation, og HERE & SDB: How Autonomous Cars Could Relieve or Worsen Traffic Congestion (2017)). Norge har vært ledende i innføring av elektriske biler og har subsidiert Tesla og andre selskaper med milliarder av kroner. Samtidig sender vi rådata ut gratis til en høvding, Elon Musk i California. Tesla vet antagelig mer om kjøremønstret i Bærum enn kommunen. Må kommunen kjøpe informasjonen tilbake?
Smarte byer kan naturligvis bli noe positivt – om man har gode mål og en demokratisk prosess. Men det er ikke smart å la teknomaktene bestemme.
De eksistensielle teknologiske gjennombruddene i det 21. århundre som har potensial til avgjørende å endre kropper, sinn og samfunn - har særlig vært innen bioteknologi og informasjonsteknologi. Nye bioteknologiske gjennombrudd innen genredigering, kloning, syntetisk biologi, stamceller og implantater har gjort det mulig med radikale endringer i menneskets kropp og sinn – inkludert endring av selve arvestoffet og dermed evolusjonen. Samtidig utvikler informasjonsteknologien intelligente maskiner. Historikeren Yuval Harari oppsummerer det slik:
Tidligere historiske revolusjoner har forandret verden rundt oss. Forrige århundre handlet om å lage bedre maskiner. Dette århundret vil handle om å lage bedre hjerner – for eksempel kunstig intelligens eller kyborger, biologiske mennesker som er knyttet til digitale nettverk og systemer … Kropper, hjerner og sinn vil bli det 21. århundres viktigste produkter (Sitat fra intervju med Yuval Harari i Morgenbladet 18.03.2016. Han utvikler sine tanker i boken Homo Deus. En kort historie om i morgen. (2018)).
Bioteknologi og infoteknologi smelter nå sammen. Datamaskiner kan lages av levende celler – og levende DNA er det mest holdbare og minst plasskrevende sted å lagre data. En menneskelig hjerne kan styre droner og datamaskiner bare med tankene, og maskinlæring kan behandle informasjon fra genene og hjernen. Det harde og firkantede i maskinene smelter sammen med det runde og myke i kroppen.
Alle de store teknogigantene gjør betydelige oppkjøp inn i helseforetak og bioteknologi. «Helse er det viktigste området for 2020-årene», sier Apple-sjefen Tim Cook. Apple Watch skal måle søvn, bevegelse, kaloriforbruk, hjerterytme m.m. Google har kjøpt Fitbit for å konkurrere. Google har også opprettet flere underselskaper, Deep Mind, Verily, Google Health og Calico, som jobber med alt fra forskning og samarbeid med helsevesen til e-helse og «å helbrede aldring». Microsoft kjøpte nylig Nuance for å styrke Microsoft Healthcares arbeid mot helsevesen og brukere. Amazon Care er et forsøk på et nytt system for helseforsikring og e-basert helsetjeneste for ansatte styrt av bedrifter. Facebook har en drøm om en global forebyggende e-helse som baserer seg på en analyse av helsedata opp mot Facebooks personlige data om brukerne.
Mye av dette er nytt og umodent og heller ikke så stor del av en enorm helseindustri. Men potensialet for teknomaktene er kjempedigert i hele helse-verdikjeden. Maskinlæring fornyer medisinsk forskning og diagnoser. E-helse forenkler og effektiviserer administrasjon og kommunikasjon, og pasienter og brukere kan kobles til overvåkningskapitalismens forretningsmodell.
Det har oppstått en bevegelse i USA som kaller seg «Quantified self» – Mitt kvantifiserte selv. Et ikon i bevegelsen er Chris Dancy. Han har 700 sensorer, enheter, apper knyttet til kroppen, og disse måler millioner av data i uka. Slik får han vite «alt» om seg selv. Han ser seg som en del av en frigjøringsbevegelse som utfordrer makten til det profesjonelle helsevesenet.
Det er åpenbart at maskinlæring, internett, smarttelefon, skyene osv. kan føre til store fremganger i helsevesenet. Men det er noen farlige trekk vi bør være oppmerksomme på.
Det første er naturligvis faren for overvåkning og lekkasje av data når teknomaktene trenger seg inn i kroppen og det mest intime. Det andre er de enorme kostnadene ved falske positiver. Man kan bli syk av å google. Det kan føre til helseangst og unødige runder i et overbelastet helsevesen. Den milde varianten av dette ser du på norske legevakter, som rapporterer at de daglig må roe ned folk som har googlet seg frem til sykdommer de ikke har (Hauge, Gjellerud & Brekke: Google-panikk på legevakten. https://www.nrk.no/osloogviken 15.1.2020).
Det tredje er at den såkalte frigjøring fra fastlegen og helsevesenet fort fører pasienten inn i et verre maktforhold. De blir avhengige av anonyme sjefer som styrer algoritmene på deres Apple Watches og andre plattformer. Spørsmålet blir om vi ønsker et helsestell styrt av en demokratisk stat og helsearbeideres yrkesetikk eller av store private selskaper (Henrik Vogt: Paternalisme 2.0 https://henrikvogt.com/tag/persontilpasset-medisin/).
Det fjerde er menneskesynet som kan trenge seg frem via maskinlæringens kvantifisering. Den humanistiske legeetikken baserer seg på et møte person til person og å helbrede personen, ikke sykdommen. Maskinlæringen gjør et statistisk arbeid der du puttes inn i en gruppe mennesker som ligner deg ut fra noen utvalgte variabler. Du blir stratifisert. («Stratifisert medisin» er et ærligere navn enn det forføriske honnørordet «persontilpasset medisin».) Det er viktig ikke å oppløse personen i data fra gener, symptomer, Facebook og Google-søk.
Det finnes mange grensesnitt mellom kroppen og maskinen/det digitale. Det kanskje mest revolusjonerende er BCI = Brain Computer Interface (Hjerne/Data-Kobling). Drømmen er at BCI kan helbrede våre forferdelige hjerne-folkesykdommer som depresjon, demens, hjerneslag, angst, migrene. Marerittet er at vi ikke lenger kan synge «Min tanke er fri».
Noen av teknomaktene har startet prosjekter i BCI med svært forskjellige motiver. Elon Musk i Tesla er redd for at kunstig superintelligens skal ta kontroll over kloden, og mener at kobling av hjerne og datamaskin er eneste måten mennesker kan beholde kontrollen på. Facebook-sjefen Marc Zuckerberg ønsker at i stedet for å taste eller tale skal vi tenke rett inn på Facebook. Det går fortere. Facebook forsker på å trekke tanker ut av hjernen inn i datamaskiner. Mens Googles sjefteknolog Ray Kurzweil vil digitalisere hjernen slik at han kan leve videre etter døden i et kosmisk internett. Kurzweil mener at i 2045 vil det ikke være noen vesentlig forskjell på menneske og maskin.
Flere i Silicon Valley – blant annet ledelsen i Google – står for en ideologi som kan kalles transhumanisme. De ser positivt på å skape en ny art av mennesket, en sammensmeltning av kropp og maskin som en vei til en verden uten lidelse og død. Disse ekstreme visjonene viser at man trenger lange tanker om menneskesyn og moral i møtet med teknomaktene (More, M. & Vita-More, N. (2013). The Transhuman Reader gir en omfattende presentasjon av transhumanismen. For en kortversjon anbefaler jeg artikkel nr. 41 av Max More: A Letter to Mother Nature. En morsommere og mer tilgjengelig bok er: Mark O’Connell: To Be a Machine (2017). Jeg prøver i min bok, kapittel 15 og 16, å granske transhumanismens menneskesyn).
Teknomaktene har festet et grep om rommet gjennom Tingenes internett – og i kroppen gjennom sammensmeltning med helsevesen og bioteknologi. Dette legger et grunnlag for neste fase i overvåkningskapitalismen hvor man kan forutsi og predikere hva folk ønsker – og egentlig: manipulere hva vi gjør.
Amazon har tatt patent på hva de kaller «Anticipatory Shipping». Målet er å sende en vare til deg før du bestiller den. Når selskapet vet nok om sjelen din, vet de at du vil like varen. Utgiftene til at noen sender varen tilbake betyr da mindre enn å utkonkurrere andre e-salgsfirma.
Googles sjeføkonom Hal Varian sier målet deres er: «Vi skal vite hva du ønsker og gi deg det før du ber om det». Googles stiftere har fra begynnelsen hatt som mål å skape en superintelligens «lik Guds hjerne».
Det er gjennombrudd innen kunstig intelligens i vårt århundre særlig knyttet til maskinlæring og nevrale nettverk som har gitt teknomaktene denne selvtilliten. Kunstig intelligens har festet grepet om bilde og språk – ikke bare tall (men bilde og språk gjøres om til en binær tallrekke av 1 og 0). Google og Facebook leder an i å utvikle «digitale tvillinger» av hver enkelt av oss, som stadig finjusteres ut fra ny overvåkning (Strategien med individuelle digitale tvillinger har nylig fått et par tilbakeslag. Apple vil legge inn en funksjon som kan kutte det ut i apper, til protester fra Facebook: Isaac & Nicas: Breaking point … New York Times, 26.4.2021. Og Google sier de vil redusere overvåkning fra informasjonskapsler: Matt Burges: Google’s Next Big Chrome Update Will Rewrite the Rules of the Web. WIRED 2.2.2021). Om den digitale tvillingen er korrekt? Vel, det vet ikke vi og heller ikke teknomaktene – men det viktige er at de som ønsker å kjøpe og bruke informasjonen tror det.
Én ting er å bruke maskinlæring for å tolke bilder som tas for å finne sykdom (røntgen, CT, MR) – en annen ting er å bruke det for å lage en digital tvilling av et menneske. Det siste reiser dype etiske og vitenskapsfilosofiske spørsmål. Mange av kritikerne i «Techlash» har påpekt hvordan en logisk positivisme og behavioristisk psykologi har trumfet en humanistisk tilnærming (Adam Greenfield: Radical Technologies. The Design for Everyday Life (2018) s. 246ff og Shoshana Zuboff: The Age of Surveillance Capitalism (2019) s. 361ff).
Mer selvfølgelig er det at maskinlæring er helt avhengig av dataene som legges inn. Med fordom inn er det fordom ut. Maskinlæring er (overraskende for mange) grunnleggende avhengig av millioner av mennesker som må kode data, legge dem inn, korrigere underveis og evaluere. Dette har født en ny gruppe arbeidstakere med algoritmer som arbeidsgivere, en digital underklasse, av noen kalt «spøkelsesarbeidere» (Mary Gray & Siddharth Suri: Ghost Work. How to Stop Silicon Valley from Building a New Global Underclass (2019)).
Denne predikeringsmodellen sprer seg til det offentlige. Dette er på en måte ikke noe nytt. Det er noe normalt som gamle prognoser – som å forutsi folks transportbehov. På en annen måte er det svært tvilsomt når det begynner å bestemme den enkeltes tilgang til goder og straff. Dommere bruker maskinlæring og algoritmepakker for å bestemme om fanger skal løslates, politi for å bestemme steder og personer som vil begå kriminalitet, og skoler brukte det da koronaen hindret eksamener, til å si hvilke karakterer elever «burde» ha fått. Det siste skapte en liten skandale hos BI i Norge og en stor i England.
Mange har påpekt algoritmenes innebygde diskriminering og fordommer (Gode bøker om algoritme-diskriminering er Cathy O’Neil: Weapons of Math Destruction (2016), Hannah Fry: Hello World (2018) og Rana Foroohar: Don’t Be Evil (2019)). Det har algoritmene til felles med menneskene. Men om man lager en myte om algoritmepakker som noe objektivt, blir dette farlig. Det kan bli et ovenfra-ned-teknokrati (new public management) på speed.
Da president Eisenhower holdt sin avskjedstale i 1961, advarte han mot to trusler i det amerikanske demokratiet. Det ene var det han kalte «det militærindustrielle kompleks». Det andre var noe som folk som siterer talen ofte glemmer; «en vitenskapelig-teknologisk elite». I dag kontrollerer militæret kanskje en tredjedel av teknologisk forskning i verden.
Figur 27.3 BCI, som kan gjøre at en soldat kan styre drapsdroner med tankene, kan også få en som er lam fra halsen og ned til å kunne spise med en mekanisk hånd. Illustrasjon two8one8/Shutterstock.
Det var Eisenhower som startet DARPA (Defence Advanced Research Project Agency) i 1958. Det kom som en reaksjon på at den russiske satellitten Sputnik hadde overrasket amerikanerne og skapt en slags panikk. DARPA ble startet for at USA aldri mer skulle bli overrasket. Og metoden var selv å lage teknologiske overraskelser. Det er DARPAs eneste mål. Mange vil si at DARPA i dag er verdens viktigste teknologiske forskningsinstitusjon.
DARPA var involvert i det meste som gjorde smarttelefonen mulig: internett, GPS, talestyring, touchscreen m.m. De er også ledende på bioteknologi som f.eks. BCI «hjerne/data-kobling». En leder for DARPAs bioteknologiprogram uttrykte deres mål slik:
Forestill deg soldater som kan kommunisere bare gjennom tankene … Forestill deg at biologiske angrep ikke har konsekvenser for kroppen din. Tenk deg et øyeblikk at å lære blir like lett som å spise, og å erstatte ødelagte kroppsdeler blir like lett som å kjøpe fast food. Enda så umulige disse visjonene kan høres ut … er det dette vi driver med daglig (Joel Garreau: Radical Evolution (2005) s. 22. God bok om DARPAs historie er Annie Jacobsen: The Pentagon’s Brain (2015)).
Da jeg spurte Arati Prabhakar, som var DARPAs leder frem til Trump overtok, om de arbeidet for å oppgradere soldater (til kyborger), bekreftet hun det. Militær konkurranse og krig har historisk vært en ledende drivkraft i teknologiske fremskritt. Og svært ofte har det blitt nyttig i det sivile liv. GPS som ble utviklet for å bombe presist, kan hjelpe meg til å finne en god restaurant i de fleste byer i verden. BCI som kan gjøre at en soldat kan styre drapsdroner med tankene, kan også få en som er lam fra halsen og ned til å kunne spise med en mekanisk hånd.
Jeg bruker DARPA her som et eksempel på et avansert militært samspill med det sivile og kommersielle samfunnet. DARPA samarbeider tett med alle ledende universiteter i USA og i mange andre land inkludert Norge, og med ledende teknomakter. I motsetning til selskaper som er avhengig av å selge i markedet, kan de satse penger på det som kan få betydning om 30–50 år. DARPA startet med GPS og internett tidlig på 1960-tallet.
Kunstig intelligens ser ut til å bli den tredje store endringen i militær teknologi etter atombomben og kruttet. President Putin konstaterte at de som blir ledende i kunstig intelligens vil herske over verden. Dette reflekteres nå i hvem som leder an i militær innovasjon. Defence Innovation Board i USA domineres helt av teknologer innen informasjonsteknologien og noen fra bioteknologien. Eric Schmidt, tidligere direktør i Google, er leder. Og president Xi har kommandert tilsvarende økt samarbeid mellom teknomaktene og det militære. Vi har fått et «Militært-digitalt kompleks».
DARPA startet konkurransen om robotbiler i 2004. Det satte i gang teknomakter og bilfabrikanter som nå konkurrerer om å ta markedet for selvkjørende biler. Det er mye av den samme teknologien som kan drive autonome drapsroboter.
I 2016 startet DARPA en tilsvarende konkurranse hvor digitale firmaer testet autonome systemer for å stanse cyberangrep. Det kan hjelpe oss som strever med virusangrep på datamaskinen, samtidig som det kan utruste militære til å drive cyberkrig.
DARPA har finansiert svært mange prosjekter knyttet til biologiske våpen og syntetisk biologi. Det kan styrke oss mot pandemier, men også gjøre militæret i stand til å drive biologisk krigføring.
De nye teknologiene har gitt oss tre nye typer masseødeleggelsesvåpen: cybervåpen, autonome drapsroboter og ikke minst: syntetisk biologiske våpen. Det siste snakkes det minst om til tross for pandemien. Nyere teknologi innen bio-, robot- og infoteknologi har gjort det mye lettere, raskere, billigere å lage kunstige virus og bakterier – og muligens å rette dem eksklusivt mot bestemte folkegrupper.
Jeg startet gjennomgangen med å si «Følg pengene». Jeg avslutter med å si «Følg våpnene».
De mørke sidene ved teknomaktene har ført til at motstanden har økt i alle deler av samfunnet. Folk vil ikke miste de godene som teknologiene gir. Det er ikke bevegelser av maskinødeleggere, men folk som vil fjerne det skadelige, og begrense den enorme makten hos teknogigantene.
Jeg vil her svært kort og skissemessig nevne noen slike «motstandsbevegelser» som forsvarer viktige verdier og interesser. De kommer fra forskjellige sosiale grupper og forskjellige politiske og ideologiske overbevisninger i Norge. Noen er godt organisert i institusjoner, andre som løselige folkelige reaksjoner. De er preget av konflikt med teknomaktene, men også med samspill og konkurranse med de samme maktene. Disse tretten motstandsbevegelsene gir samtidig en oversikt over områder hvor teknomaktene holder på å endre fremtiden vår.
Motstand mot teknologiene og teknomaktene vil neppe dominere i det norske samfunnet. Det finnes kilometervis av dokumenter fra myndigheter og næringsliv som beskriver positiv satsning på informasjonsteknologi og bioteknologi. Det vil forbli hovedsaken. Nye frigjørende teknologier kan bety mye. Noen av de nye teknologiene har ikke bare hjulpet de vellykte, men også svakere grupper – som sms for døve og skrift-til-tale for blinde. Men vi trenger å heve vår oppmerksomhet mot stadig nye oppfinnelser og innovasjoner. Og vi trenger motstandsbevegelser – som har positive verdier å forsvare. Ellers vil vi bli overkjørt av teknomaktene.
Ingen av disse motstandsbevegelsene vil alene kunne endre de tunge negative utslagene av teknomaktenes dominans. Man kan oppnå delseire inne personvern, oppdeling av Facebook, skatt, forbrukerrettigheter osv. uten å etablere det grunnleggende: et demokratisk oppgjør med teknogigantenes enorme makt til stadig å invadere vår hverdag.
Drømmen er at motstandsbevegelsene fant sammen i en sterk folkelig front. Da kunne man unngå slike feilsteg som når Konkurransetilsynet og Forbrukerrådet ønsker Uber velkommen ut fra forbrukernes interesser uten å reflektere over hva det betyr for arbeidstakere. Jeg tror ikke på en enkel løsning fremført ovenfra av tenketanker eller politikere. Jeg tror på en mangfoldig mobilisering av folk. Dette er både en interessekamp og en verdikamp.
Får ærespris for utvikling av banebrytende teknologi for å rasjonalisere høsting og ta bedre vare...
Du kan beskytte fortiden mot fremtiden, og du kan beskytte fremtiden mot fortiden – men du kan ikke...
De fleste jobber endrer seg, og mange til det bedre, når datamaskinene tar over kjedelige eller...
At vi lever gode liv – at vi har det bra med oss selv og i møte med andre – hva er vel viktigere...
Teknologi endrer samfunn, noe som knapt nok er en nyhet. Om vi betrakter alt som er oppfunnet...
Boken er den tredje i en serie fra Norges Tekniske Vitenskapsakademi, som tar for seg hvordan...
Boken Det nye digitale Norge er en artikkelsamling som gir en oversikt over hvordan digitalisering...
Pengesystemene er kritisk infrastruktur i samfunnet. Hva koster det å drive dem? Og er det...
Det er mange diskusjoner om bruk av digitale teknologier i skolen og ulike perspektiver kommer til...
I have an idea for a space mission. What do I do next?
I dette foredraget utforsker vi bruken av dyp VR-teknologi og 3D-animasjon, og hvordan...
Det bygges nå en rekke storskala battericellefabrikker i Europa med en forventning om å etablere...
Det er ingen kommentarer her enda.
Du må logge inn for å kommentere.