Kan en konstgjord intelligensmaskin vara medveten, del II?

av David Mumford

12 juli 2019

Sedan jag publicerade “Kan en konstgjord intelligensmaskin vara medveten” har jag läst två böcker som argumenterar för tron ​​att medvetna artificiella intelligenser är på väg och vi borde förbereda oss. Jag vill diskutera båda böckerna och utvärdera mina egna argument i deras ljus. Min första läsning var fiktion: Ian McEwans senaste bok Maskiner Som Jag där en liten grupp medvetna robotmän och kvinnor tillverkas och säljs runt om i världen. Hans roman är utan tvekan ett idealiskt sätt att göra begreppet medvetna robotar både plausibla och skrämmande. De två huvudpersonerna tvivlar inte på att deras Adam (som han heter) inte är medveten och inte heller hans karaktär Turing (en version av Turing som lever ett långt och fantastiskt vetenskapligt liv). Men det slutar inte bra! Min andra läs var Egotunneln av den tyska filosofen Thomas Metzinger. Denna bok undersöker uttömmande vad medvetande är ur biologiska, psykologiska, informationsteoretiska och filosofiska perspektiv. Den presenterar väldigt relevanta data från erfarenheter utanför kroppen, klar dröm och mycket annat. Efter en analys av vad som händer i mänskliga hjärnor skriver han ett avsnitt med titeln “Hur man bygger ett konstgjordt medvetet ämne och varför vi inte ska göra det” och beskriver hur det verkligen kan göras. Låt mig titta på båda böckerna mer i detalj.

Romanförfattare

Spoiler alert: Jag kan inte diskutera Maskiner Som Jag utan att avslöja handlingen. McEwan kastar sig in med deras robot Adam som blir kär och sover med Miranda, Adam’s köpare Charlie. Även om han behöver laddas regelbundet med en plugg i naveln, har han laddats med grundläggande mänskliga känslor, delvis av Charlie och Miranda genom att klicka på en uppsättning onlineval. Därefter bryter han Charlies handled när Charlie oavsiktligt räcker till av-knappen på halsen. Men de soldater vidare när Adam ber om ursäkt för Charlie, bara för att upptäcka i frigörelsen att hans idé om moraliskt beteende är helt ur synkronisering med mänsklighetens våfflande moraliska kompromisser, med handlingar som skickar Miranda till fängelse. Charlie, av sin kärlek till Miranda, krossar i Adams skalle och Turing märker honom en mördare.

McEwan gör verkligen hö från min exakta punkt: att mänskliga känslor är extremt komplexa och invecklade och man måste alltså ifrågasätta om en robot någonsin verkligen kan “förstå” dem. Ändå har jag hävdat att en väsentlig del av att vara medveten är just att “känna” känslor. Jag sätter detta i citat eftersom känsla och förståelse är ord som berör vad medvetandet är. Det verkar för mig att McEwan gör för bra poäng genom att tillåta Adam många intensiva känslor men ändå misslyckas med att ge honom någon djupare förståelse för hur känslor fungerar.

Hans misslyckande belyser det mänskliga beteendemönster som uttrycks med ordet “lojal”. Detta ord hänvisar till en blandning av känslor och handlingsmönster, både förflutna och framtida och är typiskt för den komplicerade sammanvävningen av känslor och aktiviteter i människor. Till exempel kan de centrala principerna för skotsk etik mycket väl vara sparsamhet, ärlighet och lojalitet, alla tre är känslomässigt fraktade aktiviteter. Adam är sparsam och ärlig men misslyckas med kraven på lojalitet. Å andra sidan skrev min kusin Ruth Silcock en serie barnböcker om en katt med namnet Albert John. I sin första bok skrev hon “Albert John var en lojal katt”, förutsatt att detta koncept var helt klart för hennes unga läsare. Men inte så för Adam. Alltså, i stort sett, håller McEwan med om min tro att modellering av mänskliga känslor och deras resulterande aktiviteter i en robot är ett enormt hinder, även om hans karaktärer ser deras robot som känslomässig nog för att anses medveten.

Filosofen

Metzingers bok är lätt den mest insiktsfulla dissekering av medvetandets natur som jag har läst. Hans grundläggande avhandling är att våra hjärnor konstruerar för oss en fenomenal självmodell, med vilken han menar “den medvetna modellen för organismen som helhet som aktiveras av hjärnan” och att han också kallar jaget (s. 4). Han utarbetar detta enligt följande (s.7):

Först genererar våra hjärnor en världssimulering, så perfekt att vi inte känner igen den som en bild i våra sinnen. Sedan genererar de en inre bild av oss själva som helhet. Denna bild inkluderar inte bara vår kropp och våra psykologiska tillstånd utan också vårt förhållande till det förflutna och framtiden såväl som med andra människor. Den inre bilden av personen som helhet är det fenomenala Ego, "jaget" eller "jaget" som det framträder i medveten erfarenhet.

Han säger att vi känner att vi medvetet har de erfarenheter som våra kroppar möter i världen eftersom denna integrerade inre bild av oss själva är fast förankrad i våra känslor och kroppsliga förnimmelser och för att vi inte kan känna igen våra självmodeller som bara modeller, för de är transparenta som ett glasfönster genom vilket vi ser världen. Således får han att beskriva det liv vi leder som en egontunnel. Våra sinnen fylls av en modell som vi tar för verkligheten, därmed befinner vi oss i en tunnel genom vilken vi rör oss när tiden går. Även om han inte nämner Schopenhauer, verkar mycket av denna teori liknar Schopenhauer’s idéer: Die Welt ist meine Vorstellung (Världen är min representation) är påståendet med vilken han öppnar sin magnum opus Die Welt als Wille und Vorstellung.

Metzinger gör en hel del av den så kallade gummihand-illusionen. Här sitter motivet vid ett bord med sin vänstra hand bakom en barriär, men en vänster gummi placeras på bordet framför honom. Sedan kittlas gummihanden av en fjäder medan synlig vänster hand också otydligas. Efter en viss tid börjar motivet känna att gummihanden är hans egen, att en osynlig arm kopplar den till kroppen och att den kittlar den ensam får honom att känna att hans riktiga hand kittas. Metzinger tolkar detta som att lura sinnet att förändra sin självmodell till en orealistisk representation som fortfarande känns helt verklig. På liknande sätt diskuterar han långtgående fenomen som upplevelser utanför kroppen och klara drömmar (där du är medveten om att du drömmer men fortfarande känner att du lever en levande övertygande drömvärld). Konstigt nog beskriver han inte några av de andra virtuella verklighetsexperimenten som den där du bär skyddsglasögon som visar att du går över en virtuell klippa och faller ner med äkta rädsla (men faktiskt på en matta i ett tomt rum). Jag var ett ämne och upplevde detta hos Brown. Han diskuterar inte heller den enorma virtuella världen i filmen “Matrisen” och den nuvarande moden för virtual reality-glasögon och fördjupande underhållning. Men dessa förstärker säkert bara hans argument att vi lever i en självmodell och alltför lätt kan luras att ta en alternativ värld som verklighet.

Visaren

Min favorithistoria från den rika arven från hindu-mytologin är berättelsen om vismannen Narada och hans strävan att förstå Vishnus maya. Den illustrerar att Metzingers fenomenala självmodell har antecedantier som åtminstone går tillbaka till det första årtusendet fvt. Det börjar med att Narada utför så många åtstramningar att han får den andliga kraften att be Vishnu om en välsignelse. Han ber om en förståelse av maya (ett gammalt sanskritord för “illusion”). Berättelsen fortsätter i berättelsen av Heinrich Zimmer (Myter och symboler i indisk konst och civilisation, s.32-34):

"Visa mig din magas magiska kraft," Narada bad och Gud svarade: "Jag kommer. Kom med mig." med ett tvetydigt leende på hans vackra böjda läppar. Från den trevliga skuggan av den skyddande eremitlunden, ledde Vishnu Narada över en bar landsträcka som brändes som metall under den brådska solen av en brännande sol. De två var snart mycket törstiga. På lite avstånd, i det bländande ljuset, uppfattade de halmtak i en liten by. Vishnu frågade: "Kommer du dit och hämtar lite vatten?" "Visst, o Herre," svarade helgonet och han gick ut till den avlägsna gruppen stugor. Guden kopplade av i skuggan av en klippa för att vänta på hans återkomst.

När Narada nådde hamlet knackade han vid första dörren. En vacker piga öppnade sig för honom och den heliga mannen upplevde något som han aldrig hittills drömt om: förtrollningen av hennes ögon. De liknade de som hans gudomliga Herre och vän. Han stod och tittade. Han glömde helt enkelt vad han hade kommit för. Flickan, mild och öppen, bad honom välkommen. Hennes röst var en gyllene lund om hans nacke. När han rörde sig i en vision gick han in i dörren. De boende i huset var fulla av respekt för honom, men inte minst blyg. Han mottogs hederligt, som en helig man, men på något sätt inte som främling; snarare som en gammal och ärekvärd bekant som varit långt borta. Narada stannade kvar med dem imponerad av det glada och ädla bäret och kände sig helt hemma. Ingen frågade honom vad han hade kommit för; han tycktes ha tillhört familjen från tidiga tider. Och efter en viss tid bad han fadern om tillåtelse att gifta sig med flickan, vilket inte var mer än alla i huset hade förväntat sig. Han blev en familjemedlem och delade med dem ålderdomliga bördor och enkla läckerheter i ett bondhushåll.

Tolv år gick; han hade tre barn. När svärfadern dog blev han chef för hushållet, ärvde gården och hanterade den, hanterade boskapen och odlade åkrarna. Det tolfte året var regnperioden extra våldsam; strömmarna svällde, strömmar hällde ner kullarna, och den lilla byn översvämmades av en plötslig flod. På natten transporterades halmhytter och nötkreatur och alla flydde. Med ena handen som stödde sin fru, med den andra som ledde två av sina barn och bar den minsta på axeln, gick Narada snabbt fram. Han smidade ett huvud genom mörkmörket och surrade av regnet och vattnade genom hala lera, vred genom virvlande vatten. Bördan var mer än han kunde hantera med strömmen kraftigt dra i benen. En gång, när han snubblat, gled barnet från axeln och försvann under den brusande natten. Med ett desperat gråt släppte Narada de äldre barnen för att fånga på det minsta, men var för sent. Under tiden flyttade översvämningen snabbt av de andra två, och till och med innan han kunde förverkliga katastrofen, rippade från hans sida sin fru, svepte sina egna fötter under honom och slängde honom i huvudet i strömmen som en stock. Medvetslös, Narada strandade så småningom på en liten klippa. När han återvände till medvetandet, öppnade han ögonen på ett stort lerigt lervatten. Han kunde bara gråta.

"Barn!" Han hörde en bekant röst, som nästan stoppade hans hjärta. "Var är vattnet du tog för mig? Jag har väntat mer än en halvtimme." Narada vände sig om. Istället för vatten såg han den lysande öknen i middagssolen. Han hittade guden som stod vid axeln. De grymma kurvorna i den fascinerande munnen, fortfarande leende, delas med den milda frågan: "Förstår du nu hemligheten med min Maya? 

På Metzingers språk skulle jag tolka denna berättelse på följande sätt: Vishnu satte en gaffel i Naradas egotunnel och ledde honom ner den nya gaffeln genom hans begäran om vatten. Den nya gaffeln var lång och ledde slutligen till att Narada upplevde sin egen drukning. Men sedan fick Vishnu den nya gaffeln att gå tillbaka till den gamla med en touch av ett grymt leende i ansiktet. Således kan Maya ses som en beskrivning av ens fenomenala självbild, en övertygande verklighet men bara ett litet fönster till det som finns där ute, konstruerat av vårt begränsade medvetande.

Tid

I ett senare kapitel “En Rundtur i Tunneln” diskuterar Metzinger de olika utmaningarna för hur självmodellen blir så verklig att skapa en känsla av medvetande. Det är här som han delar företaget med mig, i avsnittet “Nu-problemet: Ett Levande Ögonblick Dyker Upp” (s.34). Jag kunde inte hålla mer med hans mening “En fullständig vetenskaplig beskrivning av det fysiska universum skulle inte innehålla informationen om vilken tid är “nu”. Som jag har skrivit söker vetenskap, nästan per definition, lagar som håller oberoende av tid och plats och lämnar något att göra med förflutna/nutid/framtid för historiker och futurister. Som citerades i mitt tidigare inlägg kände Einstein själv att “upplevelsen av nu betyder något speciellt för människan, något väsentligt annorlunda från det förflutna och framtiden, men att denna viktiga skillnad inte och inte kan uppstå inom fysiken”. Man kan anta att Einsteins tänkande också var motiverad av hans speciella relativitet där samtidighet visade sig inte ha någon fysisk betydelse, så att man inte kan tänka på universum som helhet som har ett förflutna och en nutid, som alltid rullar när framtida händelser inträffar . På grund av relativitet har varje person sitt eget Nu och när rymdresan blir verklig är det helt klart omöjligt att tro på ett objektivt Nu. I Naradas berättelse är 12 år för Narada en halvtimme för Vishnu och rymdresor kan få det att hända för två människor.

Och faktiskt fortsätter Metzinger att säga “Min idé är att denna samtidighet är just därför vi behöver det medvetna nu”. Det är välkänt att sinnet spelar snabbt och löst med samtidighet, så att två signaler kan uppfattas medvetet som att de inträffar i motsatt ordning än deras förekomst i den fysiska världen. Tillfällig ordning verkar till viss del vara en konstruktion som sinnet gör så bra det kan. Men nu vänder Metzinger logiken. Från implikationen att uppleva ett Nu innebär att uppleva samtidighet vill han säga att upplevelse av samtidighet skapar upplevelsen av Nu. Han hävdar att att skapa en gemensam tidsmässig referensram för alla mekanismer i hjärnan leder till den inre modellen i världen runt ett sådant nu (s.36). Här kan jag inte följa honom: alla datorer har en klocka och organiserar sina beräkningar och kommunikationer i enlighet därmed. Men jag tror inte att de har medvetande. Neuroner sänder signaler mycket långsammare än ljus och det har förmodligen något att göra med de temporära ordningsfel hjärnan gör. Men att få det mesta tillfälligt rakt verkar inte för mig för att få den medvetna känslan av Nu. Du, läsaren, kommer att läsa detta någon gång i framtiden och jag kommer sedan att göra något annat (eller kommer att vara död), varför var och en av oss lever genom vår egen unika sekvens av Nows. Vi kan vara något synkroniserade när vi läser samma nummer av New York Times, men ändå är våra nuvor distinkta och vår synkronisering är dömd att ha viss grad av osäkerhet.

Som nämnts ovan, stavar Metzinger användningen av dessa idéer på konstruktion av medvetna robotar i det senare avsnittet “Hur man bygger ett konstgjordt medvetet subjekt och varför vi inte ska göra det” (s.190). På s.192 beskriver han konstruktionen i fyra steg. Den första är att förse maskinen med en kontinuerligt uppdaterad integrerad inre bild av världen. Den andra är att organisera sitt interna informationsflöde tillfälligt, vilket resulterar i ett psykologiskt ögonblick, ett erfarenhetsmässigt nu. Det tredje är att vara säker på att dessa interna strukturer inte kan erkännas av det konstgjorda medvetna systemet som internt genererade bilder, så att de är transparenta. Det fjärde steget är att integrera en lika transparent intern bild av sig själv i den fenomenala verkligheten. Inget av dessa verkar för Metzinger eller mig anses vara oerhört svårt. Men det är den andra där jag känner att han antar att alltför mycket händer till följd av kiselaktiviteten. Nu verkar för mig det verkligen magiska steget, steget som skapar vad Popper kallar värld II och andra kallar spirituellt.

Det faktum att våra liv levs som en resa längs tidens flod, att vi alltid är medvetna om att vara på en specifik plats omgiven av en lokal bit av den 3-dimensionella världen som förändras när “tiden går”, allt detta verkar uppenbart och allmänna, inte magiska alls. Men det beror på att denna upplevelse av tiden är kärnan i allas medvetande, allas vardag, inte för att i fysiken eller i någon annan vetenskap finns det något som tidens flöde med ett nuvarande ögonblick, upplyst som en fyr. I fysiken är tiden statisk, helt enkelt ett sätt att sätta koordinater på den 4-dimensionella panopin av alla händelser, förflutna, nutid och framtid och på vilken plats som helst. Vi kan konstgjorda ett matematiskt “flöde”, en endimensionell grupp av homeomorfismer av rymdtid, men inget sådant flöde ges av fysiken och det har ingen särskild uppsättning punkter som kallas nuet. Att leva i en värld av tid verkar för mig vara en underbar gåva och jag har ingen aning om hur man, som Gud och Adam på taket i det sixtinska kapellet, kan ge en gåva till en robot.

Slutligen vill jag sätta en länk till en något mer vetenskaplig behandling av mina idéer om medvetande, överlämnade till Tidskrift för Kognitiv Psykologi från mina tre senaste inlägg: länken.


Originalartikel: http://www.dam.brown.edu/people/mumford/blog/2019/conscious2.html

Leave a Reply

Your email address will not be published. Required fields are marked *