Maskiner som kan tänka? Maskiner som kan ta människans plats? Med genombrotten för AI uppstår nya frågor kring teknologi, kunskap och rättigheter. Jacob Oscarson har läst Peter Gärdenfors nya bok Kan AI tänka? Om människor, djur och robotar.

Den hittills intellektuellt mest intressanta följden av de senaste årens tätnande nyheter från AI-fronten är att de har förnyat diskussionen om det mänskliga tänkandet och om medvetandets beskaffenhet. Det skrivs böcker, spelas in poddar och skrivs artiklar. Personer som inte brukar resonera om medvetande eller kunskapsteori gör plötsligt just det. Med AI-genombrotten har diskussioner om mänskligt tänkande kontra maskintänkande slutligen flödat in i samhällsdebattens huvudfåra.

Men hur nytt är egentligen AI? Om vi med begreppet avser maskinell intelligens i bred bemärkelse har SF-författaren Charles Stross bidragit med ett hisnande perspektiv, högintressant för den (vänster)politiska läsaren. Redan för sju år sedan menade Stross att AI egentligen funnit med oss i mer än 150 år(!).

I en bloggpost med titeln “Artificial Intelligence: Threat or Menace?” från 2017 hävdar han att vi kan se på företag och i viss mån byråkratiska organisationer som artificiella intelligenser.¹ Han argumenterar på ett elegant sätt för att företag och byråkratier fungerar som självständiga entiteter med egna mål. De utvecklar frikopplade delmål och automatiserade mekanismer och verkar därmed för att uppnå sina mål, utan att nödvändigtvis ta hänsyn till människors välbefinnande eller ens det globala ekosystemet. Varje marxist hör en välbekant klocka här. 

År 2017 var sådana tankar ovanliga. Idag har framsteg inom språkmodeller – mest välbekant ChatGPT – gjort liknande idéer vanligare. Historikern Yuval Noah Harari har nyligen gett ut boken Nexus, som diskuterar besläktade ämnen.² Att Harari, som ofta skriver för The Economist med en politiskt centristisk vinkling, intresserar sig för ämnet är ett tydligt tecken på att frågor om kognition och AI nu står i centrum för samhällsdebatten.

Hariri kallar AI för icke-mänskligt tänkande (alien intelligence), inte för konstgjort tänkande. Om vi nu verkligen ska dela vår värld med icke-mänskliga intelligenser, måste vi lära oss mer om hur vi själva tänker, hävdar Hariri. Jag skulle utan tvekan påstå att det finns en tematisk likhet mellan Stross och Hariris resonemang. Med Stross glasögon kan vi se det hela som att en version av AI (kapitalismen) tar hjälp av en annan sorts AI (mjukvaran) för att ytterligare öka sina vinster.

En som just plockat upp Hariris boll om vikten av att förstå det mänskliga tänkandet, på svenska dessutom, är Peter Gärdenfors, professor i kognitionsvetenskap vid Lunds universitet. Boken Kan AI tänka? Om människor, djur och robotar (Fri Tanke förlag, 2024) försöker klargöra vad AI-system är och, kanske viktigare, vad de inte är. 

Frågan om teknikens natur är inte avgörande förrän det är dags att utreda om den skall ha rättigheter eller inte.

Boken inleds med en utmärkt genomgång av vad vetenskapen i dagsläget vet om både den mänskliga kognitionen och djurens kognition. Fokus är i första hand på tänkandet som ett logiskt/ kunskapsteoretiskt system. Gärdenfors gör en stor pedagogisk insats genom att sammanlänka den mer abstrakta kunskapsteorin till aktuella fynd inom biologi, evolution, etologi, psykologi och hjärnforskning.

Gärdenfors antyder redan tidigt i boken att hans svar på titelfrågan om AI kan tänka är ett otvetydigt nej, även om han också beskriver frågan som svår att sätta fingret på. De första kapitlen kan vara den bästa och tydligaste sammanfattningen av mänskligt tänkande som jag har läst. Om jag fick bestämma, skulle kapitel 2 till 4 vara obligatorisk läsning för alla skolelever. De skulle kunna publiceras som en lärobok helt oberoende av resten av boken.

Gärdenfors bygger grundligt upp en bild av vårt tänkande som ett logiskt system. När han sedan går in på de mer tekniska aspekterna av AI har läsaren en bra grund att stå på för att kunna göra jämförelser mellan mänskligt tänkande och maskinellt.

När så Gärdenfors övergår till att försöka ringa in medvetandet i allmänhet och självmedvetandet i synnerhet blir det snårigare. Det är inte främst en brist hos boken som sådan; vetenskapen har länge kämpat med att förstå medvetandets natur, vilket är en notoriskt svår nöt att knäcka.

Hur väl Gärdenfors än försöker teckna kunskapsläget blir denna läsares slutsats att dagens vetenskap helt enkelt inte förstår medvetandet.

Hur väl Gärdenfors än försöker teckna kunskapsläget blir denna läsares slutsats att dagens vetenskap helt enkelt inte förstår medvetandet. Den kunskap som finns kan snarare beskrivas som den mängd spridda ledtrådar som brukar inleda en deckare. Trots det har kapitlet ett stort värde; ju mer vetenskapligt intresse som riktas mot medvetandefrågan desto större chans att en bättre teori kan formuleras.

Men de uppenbara begränsningarna av dagens förståelse av medvetandet bör inte hindra oss i AI-debatten; frågan om Al kan tänka eller har medvetande är inte avgörande i det här skedet av vår historia. Teknologin får agens och skapar nytta eller skadar oss för att vi själva tilldelar den en plats i vårt samhälle. Frågan om dess inre natur är inte avgörande förrän det är dags att utreda om den skall ha rättigheter eller inte.

Frågan om självmedvetande hos en maskin är för många den mest fantasieggande delen av AI-utvecklingen. Det är en fråga som på ett trivialt plan är välbekant för alla, då den inspirerat till oräkneliga noveller, romaner och filmmanus. Men kanske är ett potentiellt självmedvetande hos maskinerna främst ett etiskt problem. En annan SF-författare, Alastair Reynolds illustrerar problemet i sin bok Redemption Ark från 2002.³ En karaktär beskriver där en självmedveten maskin som ofarlig, men dock som ett etiskt problem då dess självmedvetenhet betyder att den är utsatt för slaveri.

När boken kommer in på de mer renodlat teknologiska bitarna tycker jag att Gärdenfors ibland hamnar i fällor som är ganska typiska för icke-teknologiskt inriktade skribenter. I dessa kapitel tycker jag han lägger lite för stor möda på att analysera de system som finns idag.

Förra årets stora uppmärksamhet med varningsbrevet från forskare om att AI ”kan ta över världen” är delvis missförstådd; varningen gällde i själva verket inte det dåvarande systemet (GPT-4). Faran, enligt undertecknarna, gäller den sanslöst stora skillnaden mellan det föregående systemet (GPT-3.5) och GPT-4, det vill säga själva hastigheten i utvecklingen.⁴ Tyvärr lägger även Gärdenfors kanske för mycket kraft på dagens existerande system snarare än på potentiella utvecklingar, vilket riskerar att utmåla AI som harmlöst och att ge läsaren en delvis ogrundad trygghetskänsla. 

Den springande punkten, tiotusenkronorsfrågan som man sade förr, i AI-debatten är frågan om huruvida en så kallad AGI (”artificiell generell intelligens”) är en möjlighet inom dagens AI-paradigm och rentav ligger i tangentens riktning i den nuvarande AI-utvecklingen. Gärdenfors tycks mena att en AGI är en principiell omöjlighet, eftersom de biologiska hjärnorna är så kvalitativt annorlunda jämfört med artificiella system. Som argument övertygar det inte hela vägen, bland annat eftersom Gärdenfors – som många andra – inte förmår att fullt ut ta höjd för hastigheten i kapacitetshöjningen, och de kvalitativa språng som kan bli effekten av kvantitet.

Utöver själva hastigheten i kapacitetshöjningen finns ytterligare en kännetecknande egenskap hos dagens AI-utveckling, nämligen kapprustningslogiken. Att såpass många AI-forskare valde att ropa varg i mars 2023 berodde på denna kombination av hastighet och att mäktiga vinstdrivna aktörer ägnar sig åt en kapprustning, som ökar risken att aktörerna struntar i att ta hänsyn till potentiella faror. Kombinationen gör situationen synnerligen svårförutsägbar.

De första kapitlen kan vara den bästa och tydligaste sammanfattningen av mänskligt tänkande som jag har läst.

Om boken generellt kännetecknas av ganska öppna frågeställningar och mjuka slutsatser, så gäller det inte frågan om så kallade humanoider, det vill säga människoliknande robotar. Den blide Gärdenfors ryter plötsligt till med en stark appell för att vi inte borde tillverka sådana. Baserat på biologiska fenomen han beskrivit i boken konstaterar han att människoliknande robotar ofrånkomligen kommer skapa förväntningar hos oss om att de skall bete sig som människor, men också att vi kommer att behandla dem som människor. Det skulle exempelvis kunna skapa risker för att vi utsätter oss själva för fara på grund av en impuls att ”rädda” dem från farliga situationer.

Problemet och de möjliga komplikationerna med människolika robotar illustreras väl i SVT:s produktion ”Äkta människor” från 2012 – 2014. Serien, liksom jag själv, skriver under på Gärdenfors farhågor och utvidgar dem; risken är ytterst att människoliknande robotar också förvrider vår empati med varandra. Med det sagt kan man krasst konstatera att det som bestämmer huruvida människoliknande robotar kommer att bli ett massfenomen är vinstintresset och inget annat. Sannolikheten för att Gärdenfors varningar tas på allvar är därmed låg.

De mest värdefulla partierna i boken är de där Gärdenfors går in på de materiella faktorer som kan påverka utvecklingen. Tyvärr är de i min mening för korta, och för få. Det är en liten besvikelse att han närmast helt förbigår frågan om hur mycket resurser och energi systemen slukar. Det är naturligtvis en helt kritisk aspekt av AI-frågan, som tyvärr många med Gärdenfors lämnar därhän till förmån för mer teoretiskt fantasieggande aspekter.

Ser man ”superintelligens” som ett hot mot mänskligheten så kan man i dagsläget låta sig lugnas av energiaspekten. Redan dagens system slukar ohemula mängder energi, och tänker man sig en exponentiell kapacitetsökning med en oklart-många-magnituder-stor ökning av energikraven existerar det helt enkelt ingen aktör i energisektorn som kan sälja så mycket ström.