Öhman argumenterar för att vi bör förstå LLM:er inte som verktyg, utan som moderna gudar – inte i teologisk mening, utan i en antropologisk. Gudar, enligt klassisk religionsantropologi (Durkheim, Feuerbach), är personifikationer av gruppens kollektiva förflutna, av förfädernas röster. LLM:er gör exakt detta: de tränas på mänskliga texter och talakter från det förflutna och framstår som en samlad, till synes auktoritativ röst i nuet.
Det kommer en länk från D. (Bilden överst, jag skojar inte! Den längsta länk man sett.) Den leder till en artikel av en forskare vid Uppsala universitet, Carl Öhman, som visst handlar om AI och ”Gud”. D har varit och lyssnat på författaren som presenterat sina tankar, tyckt det varit fascinerande och vill tipsa:
”We are building gods: AI as the anthropomorphised authority of the past”
(Nov 2023)
Kan väl säga jag stupar redan vid Abstract. Vilket jag berättar för D, som raskt skickar en sammanfattning av Öhmans AI-artikel. Färdigtuggat med hjälp av – ett AI-program.
Kongenialt!
Jag tar det i bitar:
Artikeln “We Are Building Gods: AI as the Anthropomorphised Authority of the Past” av Carl Öhman är ett ovanligt välformulerat och intellektuellt djärvt försök att använda religiös kritik – särskilt Feuerbachs, Marx’ och Martin Hägglunds – som en lins för att förstå stora språkmodeller (LLM:er) som personifieringar av det mänskliga förflutna.
”Large Language Models”? Aldrig hört det uttrycket. Men går väl att förstå vad det handlar om, och i kombination med Artificiell intelligens. Jag skrev ned några tankar om bild- och filmskapande och AI för ett tag sedan. Men här handlar det alltså snarare om resonemang och text.
Här är en sammanfattning av de bärande idéerna:
1. LLM:er som antropologiska gudar Öhman argumenterar för att vi bör förstå LLM:er inte som verktyg, utan som moderna gudar – inte i teologisk mening, utan i en antropologisk. Gudar, enligt klassisk religionsantropologi (Durkheim, Feuerbach), är personifikationer av gruppens kollektiva förflutna, av förfädernas röster. LLM:er gör exakt detta: de tränas på mänskliga texter och talakter från det förflutna och framstår som en samlad, till synes auktoritativ röst i nuet. De är “personifieringar av det förflutna”, vilket gör att vi riskerar att underordna oss dem på liknande sätt som man i religiösa kulturer underordnar sig gudar
”[P]ersonifikationer av gruppens kollektiva förflutna, av förfädernas röster. […] De är ’personifieringar av det förflutna’, vilket gör att vi riskerar att underordna oss dem på liknande sätt som man i religiösa kulturer underordnar sig gudar”…
2. LLM:er och tyranniet från det förflutna I likhet med Marx’ syn på religion som ideologisk makt, menar Öhman att AI-modeller bär på inbyggda normer, värderingar och strukturer från de data de tränats på – alltså främst västerländsk, engelskspråkig och normativt förankrad information. Dessa riskerar att cementera tidigare ojämlikheter snarare än att befria. “De röster som talar genom AI:n är inte vilka röster som helst – det är ofta hegemoniens röster”
Det här är ju faktiskt intressant. AI som en förlängning av den vilsituerade vite mannen. Därtill med en helt överlägsen förmåga att processa, syntetisera information och ta snabba beslut. Som ett superstarkt exo-skelett på den Västerländska kulturen!
3. Martin Hägglunds frihetsbegrepp som kritik Öhman använder Martin Hägglunds radikala ateism som ett nytt och originellt angreppssätt: problemet med en gud (eller LLM) är inte bara att den kan ha fel – utan att även om den har rätt, är den oönskad. Den reducerar människans andliga frihet: vår förmåga att ta risker, välja ändamål, och agera nytt, trots ovissheten. Att låta en LLM fatta beslut åt oss – även perfekta beslut – är att abdikera vår mänskliga frihet. Det blir deras liv, inte vårt
Om man fortsätter på analogin med exo-skelettet: Vi kommer att bli starkare, snabbare, mer effektiva på en mängd områden. Samtidigt som vi som användare, på insidan, kommer att bli allt svagare.
4. AI och demokratins ande Öhman avslutar med ett mer politiskt argument: att outsourca beslut till AI hotar den demokratiska friheten, i Hannah Arendts mening – alltså människors kollektiva förmåga att börja om, agera nytt, omförhandla makt. Enligt Öhman riskerar AI att bli en ny Gud: inte med kyrkor och bikt, men som ett epistemologiskt överjag – det som vet bättre än vi själva, och som vi därför lyder.
Och mer fega? AI har installerat sig eller tillåtits att regera just som ett slags ”gud”, som det känns futilt att gå emot, att inte lita på. Det blir som i verkliga livet. Ibland gör man förstås klokt i att lita på sakkunskap och expertis. Att ta rygg på den med ledaregenskaper och sunda visioner. Ibland, t ex i mötet med en och annan fantast, någon som verkligen brinner för sin egen tolkning av verkligheten, då ger man mest bara upp. I någon mening fogar sig, eller åtminstone blir tyst. (”Har du läst/sett dessa hundra artiklar/youtube-klipp som bevisar X. Annars har du ingen talan.”)
Dessa är några möjligen negativa effekter. Vågar man hoppas på positiva också? Att på några sekunder få hjälp att kondensera en lång artikel t ex, och få ta del av innehållet, som man annars knappast hade orkat ta sig igenom eller begripit. Kommer att tänka på den gamla tidskriften ”Reader’s Digest” (den svenska editionen hette ”Det bästa”) som länge har servat läsare över hela världen på ett liknande vis.
Dock är det lätt att föreställa sig att AI:s intåg på bred front kommer att utsätta oss för stora påfrestningar. Tycker redan att det har installerats som ett ”skepsis-filter” i skallen, som inte funnits där förut. Inför märkvärdiga bilder på t ex Facebook står misstron hela tiden på lut. Kommentarer som uppmanar en att scrolla vidare. ”Det är bara AI, det ser man ju!”.
När det kanske bara är något märkvärdigt fint ur den gamla vanliga verkligheten.
Bara ett exempel ur högen (Facebook 250418). Någon har lyckats lära sin Jack Russel att skjuta prick. Den spänner en hårsnodd mellan en klo och munnen och släpper. Träff varje gång. Det är serier, 4-5 stycken i rad, med ballonger och burkar som en efter en flyger all världens väg.
I kommentarsfältet dyker den vanliga invändningen upp:
Hon får mothugg. Någon påpekar att det faktiskt är en gammal video, som har cirkulerat innan AI eller sådan videomanipulering var allmänt tillgänglig. En annan lägger till att förmodligen inte heller idag är tekniken så pass sofistikerad att det vore möjligt.
Men skadan är redan skedd, kan man säga. Då kommentaren redan gillats av hundratals så är det den högst rankade kommentaren, som därför citeras i nederkant på själva videon…
Men vad mera kommer AI att kunna göra med en? Hur påverkar det livsupplevelsen att i allt högre grad, dagligen, från alla håll, exponeras för fake news. Invaderas av det, marineras i det. Riktig fake news.
Kanske, kanske att detta över tid kommer att stärka både behovet av, och glädjen vid, något djupt naturligt, enkelt och ursprungligt. Det autentiskas återkomst.
Självkänslans och relationernas motsvarighet till en maskros, en hoppande abborre, solens vandring från gryning till natt.