Kan en konstgjord intelligensmaskin vara medveten?

av David Mumford

11 april 2019

Teorin om konstgjord intelligens, under min livstid, har genomgått ett halvt dussin cykler av bom och byst: perioder då det sägs säkert att datorer snart kommer att uppnå intelligens på mänsklig nivå och perioder med desillusionering när detta verkade nästan omöjligt. Idag befinner vi oss i den senaste boomperioden och vissa visionära datavetare går ännu längre och frågar när “AI” (med förkortningen AI för att få maskinen att låta som en ny livsform) faktiskt inte bara kommer att uppnå mänsklig intelligens utan ha vårt medvetande också. Andra futurister ber om ett vildare, galnare liv som förändrar välsignelsen: kan jag leva för evigt genom att min hjärna och mitt medvetande laddas ner i kisel, i princip en person som omvandlas till en AI? I en föregående cykels boom var den vilda förutsägelsen att vi var på väg mot “singulariteten”, en tidpunkt då super-AI kommer att skapa en helt ny värld som leder till utrotning av den nu ersatta mänskliga rasen (förutspådd av vissa händer runt 2050). Jag ber mig skyldig att personligen hoppas på mig själv för en halv livstid sedan att jag skulle vara ett vittne när den första datorn uppnådde medvetande. Men nu är jag ganska lite mer skeptisk. Det är kanske negativiteten i ålderdom men kanske också för det att jag ser den här frågan som förankrade frågor inte bara från datavetenskap utan också från biologi, fysik, filosofi och, ja, från religion också. Vem har expertis för att ta reda på hur allt detta påverkar vår förståelse av medvetande? Och till och med att prata om religionens relevans för alla vetenskapliga framsteg är anathem för dagens intelligencia. Men tänk bara på detta: finns det ett trossystem där Silicon Valley drömmer om att människor snart kommer att kunna leva för evigt och den kristna credo av “själens odödlighet” är båda sanna? För mig verkar dessa två övertygelser leva i separata universum.

1. Vad saknas i toppmodern AI?

Låt mig börja med att kommentera den nuvarande AI-boom och varför det kan leda till en byst trots sina framgångar. Den centrala spelaren i koderna som stöder den nya AI är baserad på en algoritm som kallas ett neuralt nät. Varje nät använder emellertid zilljoner parametrar som kallas vikter som måste ställas in innan det kan göra någonting. För att ställa in dem, är det “tränat” med dataprogram i verkliga världen av en andra algoritm som kallas tillbaka förökning. Det resulterande nervnätet tar sedan en uppsättning siffror som representerar något som observeras som dess inmatning och matar ut en etikett för denna data. Till exempel kan det ta som en bild av någons ansikte som representeras av dess pixelvärden och mata ut sitt gissning om ansiktet var manligt eller kvinnligt. Träning av ett sådant nät kräver matning av nätet med ett mycket stort antal både manliga och kvinnliga ansikten korrekt märkta manliga eller kvinnliga och successivt ändra vikterna för att driva det mot bättre förutsägelser. Neurala nät är en enkel design inspirerad av en tecknad version av faktiska kortikalkretsar som går tillbaka till en klassisk artikel från 1943 av McCulloch och Pitts. Ännu viktigare, 1974 skrev Paul Werbos en doktorsavhandling som introducerade tillbakautbredning för att optimera den enorma uppsättningen vikter genom att få dem att fungera bättre på en uppsättning input, dvs ett datasæt som tidigare har märkts av en människa. Detta spelades med i 40 år och främjades särskilt av Yan LeCun med viss framgång. Men statistiker var skeptiska att det någonsin skulle kunna lösa hårda problem på grund av vad de kallade partisk avvikelse avvägning. De sa att du måste jämföra storleken på datasättet som algoritmen tränas på med antalet vikter som måste läras: utan tillräckligt med vikter kan du aldrig modellera ett komplext datasæt exakt och om det finns tillräckligt med vikter kommer du att modellera speciella idiosynkrasier av ditt datasæt som inte kommer att vara representativt för nya data. Så vad hände? Datorer blev riktigt snabba så nervnät med ett stort antal vikter kunde tränas och datasätten blev riktigt stora tack vare internet. Mirabile dictu, trots statistikerens förutsägelser, fungerade algoritmen riktigt bra och på något sätt undgick magiskt problemet med förspändhet. Jag tycker att det är rättvist att säga att ingen vet hur eller varför de undviker det. Detta är en utmaning för teoretiska statistiker. Men nervnät gör att alla typer av applikationer verkligen fungerar, t.ex. i vision, tal, språk, medicinsk diagnos, spelspel, applikationer som tidigare tycks vara mycket svåra att modellera. För att toppa det PR-klokt, har man nu fått döpt lärande att utbilda dessa nervnät. Vem skulle kunna tvivla på att den modiga nya världen för AI har kommit?

MEN det finns en annan kulle att klättra. I mitt tidigare blogginlägg med titeln “Grammatik är inte bara en del av språket” diskuterade jag troen på att tänkande av alla slag kräver grammatik. Vad detta betyder är att ditt sinne upptäcker mönster i världen som upprepas men inte nödvändigtvis exakt. Dessa mönster kan vara visuella arrangemang i utseendet på föremål, som punkter i en linje eller ögonen i ett ansikte, eller de kan vara orden i tal eller enkla åtgärder som att trycka på gaspedalen när du kör eller till och med abstrakta idéer som lojalitet. Oavsett vilken typ av observation eller tankar som bär mönstret, förväntar du dig att den kommer att återuppstå så att den kan användas för att förstå nya situationer. Som vuxna byggs allt i våra tankar från en hierarki av de återanvändbara mönster som vi har lärt oss och en fullständig scen eller händelse eller plan eller tanke kan representeras av ett “parse tree” som består av dessa mönster. Men här är gnuggan: i sin grundform hittar ett neuralnät inte nya mönster. Det fungerar som en svart låda och gör inget annat än att markera dess inmatning, t.ex. berättar “den här bilden ser ut som att den innehåller ett ansikte här”. När jag hittade ett ansikte säger det inte – “först letade jag efter ögon och sedan visste jag var resten av ansiktet borde vara”. Det säger bara berättar dess slutsats. Vi behöver algoritmer som matas ut: “Jag hittar ett nytt mönster i de flesta av mina data, låt oss ge det ett namn”. Då skulle den kunna skicka ut inte bara en etikett utan också en del av de delar som utgör dess inmatningsdata. När det gäller detta desideratum kan vi stänga ögonen och föreställa oss hur en bil ser ut, med hjul, dörrar, huva etc., det vill säga vi kan syntetisera ny data. Detta är som att köra neuralnätet bakåt och producera nya ingångar för varje utgångsetikett. Försök att soppa upp nervnät för att göra detta pågår men är ännu inte redo för prime time. Hur svårt det är att klättra på denna kulle är en öppen fråga, men jag tror att vi inte kan komma nära mänsklig intelligens förrän detta är löst.

Om den konstgjorda intelligensen skulle demonstrera mänsklig intelligens, skulle vi bättre definiera vad mänsklig intelligens egentligen består av. Psykologer har naturligtvis arbetat hårt för att definiera mänsklig intelligens. Under lång tid svävade idén att de kunde klämma fast detta med ett numeriskt mått, IQ. Eller betyder intelligens att lösa “Jeopardy” – frågor?; minns du mer information om fler händelser i ditt liv?; komponera eller måla mer skickliga verk? Ja, det kan det vara, men vänta en stund: vad människor är unikt bra på och vad den stora andelen av våra vardagliga tankar oroar är att gissa vad specifika medmänniskor känner, vad är deras mål och känslor och till och med: vad kan jag säga att påverka hans/hennes känslor och mål så att jag kan arbeta med honom/henne och uppnå mina egna mål? Detta är den färdighet som ofta än inte avgör din framgång i livet. Datavetare har verkligen tittat på behovet av att modellera andra “agenter” kunskap och planer. Ett välkänt exempel ges genom att föreställa sig två generaler A och B på motstående bergstoppar som behöver attackera en fiende i dalen mellan dem samtidigt men endast kunna kommunicera genom att smyga över fiendens linjer. A skickar ett meddelande till B: “attack imorgon?”, B svarar “ja”. Men B vet inte att hans svar kom igenom och A måste skicka ett nytt meddelande till B att han fick det tidigare meddelandet för att vara säker på att B kommer att agera. Fler meddelanden behövs (det finns faktiskt inget slut på de meddelanden de behöver skicka för att uppnå full gemensam förståelse.) Datavetare är väl medvetna om att vi måste förse deras AI med förmågan att upprätthålla och odla modeller av vad alla andra agenter i dess värld vet vad som är deras mål och planer. Detta måste inkludera att veta vad de själva vet och vad de inte vet. Men utan tvekan är detta allt möjligt med samtida kod.

2. Vi behöver känslor # $ @ * &!

Men i denna spelteoretiska värld saknas en väsentlig ingrediens i människans tanke: känslor. Utan detta kommer du aldrig riktigt att ansluta till människor. Jag tycker att det är konstigt att, såvitt jag vet, bara en datavetare har försökt att modellera känslor, nämligen Rosalind Picard på MIT Media Lab. Till och med den vetenskapliga studien av hela mänskliga känslor verkar bedövas, till stor del försummas av många discipliner. Till exempel säger Frans de Waal i sin senaste bok Mamas Sista Kram om djurens känslor, både med avseende på mänskliga och djuriska känslor:

Vi namnger ett par känslor, beskriver deras uttryck och dokumenterar omständigheterna under vilka de uppstår men vi saknar en ram och definierar dem och undersöker vad de gör. 

(Är detta möjligen resultatet av det faktum att så många som går in i vetenskap och matematik är på det autistiska spektrumet?) En psykolog pekade tydligt på vilken roll känslor spelar i mänsklig intelligens. Howard Gardners klassiska bok Sinnesramar: Teori om Flera Intelligenser introducerar, bland olika kunskaper, “interpersonell intelligens” (främst förstå andras känslor) och “intrapersonal intelligence” (förstå dina egna). Detta kallas nu “emotional intelligence” (psykologiskt intelligens) av psykologer, men som de Waal sa, har dess studie undersökts av bristen på exakta definitioner. En nyligen “definition” i Wikipedia’s artikel om EI är:

Emotionell intelligens kan definieras som förmågan att övervaka ens egen och andras känslor, att skilja mellan olika känslor och märka dem på lämpligt sätt och att använda emotionell information ... för att öka tanken och förståelsen för interpersonell dynamik. 

Den äldsta metoden att klassificera känslomässiga tillstånd beror på Hippokrates: de fyra humorerna, kroppsvätskor som korrelerade med fyra distinkta personlighetstyper och deras karakteristiska känslor. Dessa var: sanguine (aktiv, social, lättsam), kololerisk (stark vilja, dominerande, benägen till ilska), flegmatisk (passiv, undviker konflikt, lugn), melankolisk (rasande, tankeväckande, kan vara orolig). De är separerade längs två axlar. Den första axeln är extravert kontra introvert, klassiskt kallas varm mot kyla med sanguine/choleric som extravert, phlegmatisk/melankolisk är introvert. Den andra axeln är avslappnad kontra strävande, klassiskt kallad våt kontra torr, sanguin/flegmatisk är avslappnad, kololer/melankolisk alltid söker mer. Denna klassificering har utvecklats på senare tid av Hans Eysenck, vars färgglada version är här:

Den moderna studien av känslor går tillbaka till Darwins bok Uttrycket av Känslor hos Människor och Djur där han använde ansiktsuttryck som följer känslor för att göra hans klassificering. Hans teorier utvidgades och gjordes mer exakta av Paul Ekman och ledde till teorin om att det finns sex primära känslor var och en med sitt distinkta ansiktsuttryck, ilska, rädsla, lycka, sorg, överraskning och avsky och många sekundära känslor som är kombinationer av primära känslor , med olika hållfasthetsgrader. Robert Plutchik har utökat listan till åtta primära känslor, kallade svagare och starkare varianter och några kombinationer, vilket resulterar i detta häpnadsväckande och färgglada diagram: Det finns verkligen en öppen lista med sekundära känslor, t.ex. skam, skuld, tacksamhet, förlåtelse, hämnd, stolthet, avund, förtroende, hopp, ånger, ensamhet, frustration, spänning, förlägenhet, besvikelse, etc., etc. som inte verkar vara blandningar utan snarare känsliga känslor i sociala situationer med flera agenser och faktorer sammanflätade. Frans de Waal i sin bok (s.85), med hänvisning till listan ovan, definierar känslor genom:

En känsla är ett tillfälligt tillstånd som åstadkommes av yttre stimuli som är relevanta för organismen. Den kännetecknas av specifika förändringar i kropp och själ - hjärna, hormoner, muskler, inrepp, hjärta, vakenhet etc. Vilka känslor som utlöses kan sluts av situationen där organismen befinner sig såväl som från dess beteendeförändringar och uttryck. 

En helt annan strategi har utvecklats av Jaak Panksepp, t.ex. i hans och Lucy Bivens bok Sinneens Arkeologi: Neuroevolutionära Ursprung på Mänskliga Känslor. I stället för att börja med ansiktsuttryck, är hans inställning närmare de grekiska humorerna. Panksepp har länge letat efter mönster av hjärnaktivitet, särskilt subkortisk aktivitet och de olika nervsändarna som skickas till högre områden, vilket leder till distinkta pågående affektiva tillstånd och deras motsvarande aktivitetsmönster. Deras lista är helt annorlunda än Darwins men delvis överlappande. De identifierar 7 primära affektiva tillstånd:

1. söker/utforska
2. arg
3. rädsla/orolig
4. omtänksam/kärleksfull
5. ledsen/orolig
6. lek/glädje
7. lustande

En sida: Jag vet inte varför han inte lägger till ett åttonde affektivt tillstånd: smärta. Även om det inte vanligtvis kallas en känsla, är det verkligen ett affektivt sinnestillstånd med subkortikala rötter, en unik otäck känsla och något som utlöser specifika beteenden samt orsakar specifika ansiktsuttryck och kroppsliga reaktioner. De går vidare i kapitel 11 för att föreslå att ett specifikt mellanhjärnområde, den periaqueductal grå (PAG) (eventuellt tillsammans med dess grannar det ventrale tegmentalområdet (VTA) och den mesencephalic locomotor region (MLR)) samordnar alla ovanstående affektiva tillstånd och ger stiga till vad de kallar kärnen själv eller medvetande.

Inte undra på att de Waal sa att det ännu inte finns några definitiva ramar för känslomässiga tillstånd. Det som behövs för att göra en riktig teori, som är användbar i artificiell intelligenskod, är kanske att börja med massiva data, nyckeln som med neurala nätverk nu låser upp så mycket struktur i tal och vision. Syftet är att definiera trevägskorrelationer av (i) hjärnaktivitet (särskilt amygdala och andra subkortikala områden men också insula och cinguleringsområde i cortex), (ii) kroppslig respons inklusive hormoner, hjärtslag (betonat av William James som kärnsignatur av känslor) och ansiktsuttryck och (iii) social kontext inklusive omedelbar tidigare och framtida aktivitet. Ett känslomässigt tillstånd bör definieras av ett kluster av sådana tripplar – en stereotyp neural och kroppslig respons i en stereotyp social situation. Till att börja med kan vi samla in ett massivt datasätt från frivilliga anslutna till IV: er och MRI och lyssna på romaner via hörlurar. Jag påminns om en psykologkollega vars studenter var tvungna att spendera otaliga timmar i röret under de små nattetimmarna då MR-tid var tillgänglig. Liksom alla klusteralgoritmer behöver detta inte leda till en definitiv uppsättning av tydliga känslor utan mer sannolikt en flexibel klassificering med många varianter. Alla människor verkar känna igen nästan samma primära och sekundära känslor när de förekommer i våra vänner och konstgjorda intelligenser kommer att behöva kunna göra detta också. Utan denna analys kommer datavetare att flundra i att programmera sina robotar för att härma och svara på känslor i deras interaktion med människor, med andra ord för att ha den avgörande viktiga färdigheten som vi borde kalla konstgjord empati. Jag skulle gå vidare och framföra att om vi önskar att en AI faktiskt ska ha medvetande, tror jag att det på något sätt måste ha känslor i sig. Ett bra sätt att undersöka djupare kopplingen mellan medvetande och känslor är att titta på icke-mänskliga djur och se vad vi vet.

3. Medvetande hos djur

Jag vill hävda att om vi försöker gissa om AI: er kan förvärva medvetande, bör vi först fråga om djur har medvetande. Låt mig börja med att säga till den person som läser detta blogginlägg: Jag tror att du, min vän, har medvetande. Med undantag för skruviga solipsister accepterar vi alla att ”inuti” varje medmänniskas huvud, medvetande ligger som inte är till skillnad från ens eget medvetande. Men i sanning har vi inga hårda bevis för detta förutom vår empati. Bör vi använda empati och utvidga medvetenhetens tro till djur? Troligtvis kommer människor med husdjur som hundar och katter definitivt att insistera på att deras husdjur har medvetande. Varför? För det första ser de beteende som omedelbart förstås som ett resultat av liknande känslor som de själva har. De tycker att det är löjligt när etologer hellre vill säga att ett djur visar “rovdjurundvikande” än att säga att det “känner rädsla”. De tycker inte att det är antropomorfiskt att säga att deras husdjur “känner rädsla”, de tycker att det är sunt förnuft och tror att deras husdjur inte bara har känslor, utan också medvetande. Vårt språk när vi pratar om dessa frågor är inte särskilt användbart. Tänk på orden: känslor, känsla, medvetenhet, medvetande. Lägg märke till fraserna: vi “känner känslor”, vi är “medvetna om våra känslor”, vi säger att vi har “medveten medvetenhet”, fraser som länkar varje ord i följd i den här strängen. Med andra ord, vanliga engelska fraser länkar alla dessa begrepp och gör slarvigt tänkande alltför enkelt. Man måste också vara försiktig: i vår digitala tidsålder får många äldre ganska primitiva robotar eller skärmavatarer som följeslagare, och sådana patienter har det lätt att felaktigt tillskriva dessa digitala artefakter riktiga känslor. Så det är frestande att säga att vi helt enkelt inte vet om icke-mänskliga djur känner något eller om de är medvetna. Eller så kan vi säkra våra satsningar och erkänna att de har känslor men drar linjen när de är medvetna. Men i vilket fall som helst är detta en ståndpunkt som en neurovetenskapsman, Jaak Panksepp, anser som terminal agnosticism, och avslutar diskussionen om en fråga som borde ha ett svar.

Det är först nyligen som både känslor och medvetande har fått status som legitima saker för vetenskaplig studie. Under de senaste decennierna har djuren känslor studerats i fantastiska detaljer genom oändliga timmar av patientobservation och tester. Både Frans de Waal’s bok som nämns ovan och Jaak Panksepps bok (op.cit.) Beskriver en otrolig mängd känslomässigt beteende, i arter som sträcker sig från schimpanser till råttor och inkluderar inte bara primära känslor utan några av ovanstående sekundära känslor (t.ex. skam och stolthet över schimpanser och hundar). Panksepp har visat att unga råttor är kittlösa och visar samma reaktioner som mänskliga spädbarn när deras mage kittlas (se s.367, op. Cit.). För mig är dessa böcker och många andra och naturligtvis mina magra upplevelser med att äga hundar, grisar, hästar och med att titta på djur i djurparken ett helt övertygande fall för djurens känslor. Med tanke på den omfattande organ-för-organ-homologin hos alla däggdjurshjärnor, ser jag ingen anledning att tvivla på att alla däggdjur upplever samma grundläggande känslor som vi gör, även om det kanske inte är så stort utbud av sekundära känslor. Och om vi alla delar känslor, så finns det lika mycket anledning att tillskriva medvetande till dem som det är att tillskriva våra medmänniskor medvetande. Detta är ett perfekt exempel på “Occam’s Razor”: det är överlägset det enklaste sättet att förklara data.

För att gå längre än däggdjur är det användbart att granska de olika stadierna i livet, både levande idag och rekonstruerade från fossil, med tanke på deras medvetenhetspotential. Jag inspireras av att göra detta av boken Andra Tankar: Bläckfisk, Havet och de Djupa Medvetenhetens Ursprung av Filosofen och Dykaren, Peter Godfrey-Smith. Vid basen av livets träd har vi två ytligt likartade kungadömen, bakterierna och archaea. Båda är prokaryoter, det vill säga är enkla celler utan kärnor, mitokondrier, ribosomer eller andra organeller. Å andra sidan har båda redan proteiner från de flesta proteinfamiljer, såväl som den universella genetiska koden (implementerad av samma uppsättning av tRNA-molekyler), och mycket väsentligt använder de samma komplexa elektrokemiska mekanism som alla högre liv för att syntetisera ATP, deras energikälla. Den här mekanismen använder jonpumpar som gör cellmembranet till en kondensator, samma mekanism som används i högre djur som nyckeln till informationsöverföring i nervsystemen (levande beskrivet i Nick Lanes bok, Vitalfrågan). Dessa enklaste livsformer känner också sin miljö kemiskt via kanaler i deras membran och de flesta kan röra sig i olika riktningar med sina flageller och därmed reagera och söka bättre miljöer. Detta är början, en primitiv form av uppmärksamhet som startade c. 3,5 bya (miljarder år sedan). Även om jag personligen föredrar att det här är agnostiker, är det fullt möjligt att en medvetenhetsbit finns i dessa celler.

Nästa steg var bildandet av mycket mycket större, mer komplexa encelliga organismer, eukaryoterna c. 2 bya. Det antas att de började från en arke som sväljer en bakterie, bakterien blev mitokondrion i denna nya organisme och genom att fälla dess membran om och om igen utvidgade cellens ATP-fabrik enormt, därmed dess energikälla. Dess kunskaper och rörelser blev betydligt bättre men jag är inte medveten om någon förändring som kan ha fört den närmare medvetandet. Men efter det bildades omkring 0,65 bya (eller 650 mya), multi-cellulära djur. Dessa var större och behövde uppenbarligen betydligt bättre samordning, bättre sinnen och bättre rörelse. Det antas att de första nervsystemen uppstod nästan omedelbart för att koordinera de nu komplexa organismerna. Dessa varelser var mjuka och lämnade inga fossiler men moderna maneter och svampar kan likna organismer från den tiden. Svampar har inte nervsystem men maneter (och kamgeléer) gör och är de enklaste organismerna med nervsystem i dag. Miljön beskrivs som en matta av mikrobiell muck som täcker botten av ett grunt hav över vilket maneter som varelser betade. Någon för medvetande i den här världen?

Världen blir mycket mer kännbar med tillkomsten av predation, större djur äter mindre och alla växer skal för skydd, allt detta i den kambriska åldern 540-485 mya. Nu hittar vi de tidigaste ryggraden med ryggmärgen. Men vi hittar också de första leddjur med yttre skelett och de första bläckfiskarna, rovdjur i phylum mollusca som växte en ring av tentakler och som vid den tiden hade långa koniska skal (se nedan en bild av en rekonstruktion av cephalopod Orthoceras från följande ordovicians ålder). I alla tre grupperna finns det allvarliga argument för medvetande. En metod bygger på att fråga vad djur känner smärta och att känsla av smärta innebär medvetande. Det finns experiment där skadade fiskar har visat sig dras till platser där det finns en smärtdödare i vattnet, även om denna plats tidigare undvikits av andra skäl. Och man kan testa när djur försöker skydda eller groom skadade delar av kroppen: vissa krabbor gör verkligen detta medan insekter inte gör det. (Se Godfrey-Smiths bok, s. 93-95 och referenser i hans anteckningar). Tyvärr väcker detta problem med kokande hummer levande, en aktivitet som är gemensam för alla New Englanders som jag själv. Attans. Ett annat tillvägagångssätt är spegeltestet – berör djuret sin egen kropp på en plats där dess spegelbild visar något ovanligt. Otroligt nog har vissa myror rapporterats klara spegeltestet och skrapa sig själva för att ta bort en blå prick som de såg på sina kroppar i en spegel (se bild nedan, från MC Cammaerts och R. Cammaerts, J. of Science, v. 5 , 2015, s.521-532).

Med bläckfiskar hittar vi djur med hjärnstorlek och beteende som liknar hundens. Godfrey-Smith citerar det romerska naturforskaren Claudius Aelianus från andra århundradet som att säga “Skam och hantverk är tydligt sett karakteristiska för (bläckfisken. De är verkligen mycket intelligenta och tycker om att interagera och spela spel med människor och leksaker. De vet och känner igen enskilda människor genom sina handlingar, även i identiska våtdräkter. Förutom Godfrey-Smiths bok, bör man läsa Sy Montgomerys bästa säljare Bläckfiskens Själ: En Överraskande Utforskning i Medvetandeundern. Deras hjärnor har ungefär samma antal neuroner Men som en hund, istället för en hjärnbotten för att koordinera komplexa handlingar, har de stora delar av sina hjärnor i varje tentakel. Detta är inte till skillnad från hur människor använder deras hjärnbark i en övervakande roll, vilket låter cerebellum och basala ganglia ta över detaljerade rörelser och enklaste reaktioner. Om du kan läsa båda dessa bläckfiskrelaterade böcker och inte dra slutsatsen att en bläckfisk har lika mycket inre liv, så mycket medvetenhet och d medvetande som hund, skulle jag bli förvånad. Den viktigaste punkten här är att det inte finns något speciellt med ryggradsanatomi, att medvetenhet verkar uppstå i helt distinkta phyla utan någon gemensam förfader efter den kambriska åldern.

Min personliga uppfattning är att allt ovanstående också antyder att medvetande inte är en enkel binär affär där du har det eller om du inte har det. Snarare är det en fråga om grad. Detta jibes med mänsklig erfarenhet av nivåer av sömn och av effekterna av många läkemedel på vårt subjektiva tillstånd. Till exempel är Versed en anestesimedel som skapar ett halvmedvetet/halvt medvetslöst tillstånd. När våra hjärnor blir större, får vi säkert mer kapacitet för minnen men en viss grad av minne har hittats till exempel i fruktflugor. När frontalben expanderar börjar vi göra fler och fler planer, förutse och försöka kontrollera framtiden. Men till och med en daggmask förutser framtiden en liten bit: den “vet” att när den skjuter framåt kommer den att känna jordens tryck på huvudet starkare och att detta inte för att jorden pressar den bakåt, dvs de förutsåg att tryck tillbaka (Godfrey-Smith, s.83). Min personliga tro är återigen att en viss grad av medvetande finns i alla djur med ett nervsystem. Å andra sidan, trots att Tolkien och hans män har det svårt att föreställa mig medvetande i ett träd. Jag har läst att deras rötter växer tillräckligt nära för att känna igen det biokemiska tillståndet i sina grannar (t.ex. om grannträdet attackeras av någon sjukdom) men det känns alltför romantiskt att kalla detta en konversation mellan medvetna träd.

4. Upplevelsen av tid och medvetande

Jag vill gå tillbaka till den första frågan om AI: er kan ha medvetande. Mycket av det här sista avsnittet kommer att irritera många som läser det: Jag måste korsa en ytterligare bro och prata om saker som vanligtvis klassas inte bara som filosofiska utan som religiösa eller andliga. Jag vill inte vara “terminalt agnostisk”. Religion har varit karakteristisk för det mänskliga samhället sedan dess tidigaste början och har, med undantag för enstaka ateist, varit en central del av allas liv fram till någon tidpunkt på 1900-talet. Med framväxten av modern medicin har läkarna ersatt ministrar som den viktigaste personen för sjukdomar när sjukdom slår till, och som jag sa ovan är dagens intelligencia liten uppmärksamhet på religion. Men jag kan inte respektera rabiatiska ateister som Richard Dawkins som inte respekterar hela denna historia och de människor som levde den.

Jag vill börja med att upprepa en punkt jag gjorde i min tidigare blogg “Låt mysteriet vara“. Även om känslan, som avkänner världen och agerar som svar på dessa sensationer, tillsammans med motsvarande hjärnaktivitet, ofta anses vara ett väsentligt inslag i medvetandet, tror jag inte det. Jag tror att en erfaren buddhistisk meditator kan sätta sig själv i ett tillstånd där de torkar sina tankar rena tankar och sedan upplever rent medvetande helt av sig självt, fritt från den skrav och röran som fyller våra sinnen vid alla andra vakna tillfällen. Att acceptera detta måste medvetande vara något subtilare än uppsättningen av speciella tankar som vi kan verbalisera, brödet och smöret från laboratorieexperiment på medvetande (t.ex. Dehaenes arbete). Jag kan inte säga att jag har upplevt detta, även om jag försökte lite. Men det är meningsfullt för mig på grund av vissa tider när jag började på denna väg och hittade en viss grad av mental lugn och ro. Jag föreslår istället att upplevelsen av tidens flöde är den verkliga medvetenhetskärnan, något i åren från Eckhart Toles “Kraften i Nu”. Det vilar på idén att uppleva den ständigt föränderliga flyktiga närvarande är något vi upplever men som ingen fysik eller biologi förklarar. Det är en upplevelse som är grundläggande annorlunda än och mer grundläggande än vänner och som gör oss medvetna varelser.

Jag vill citera från de två mest kända fysikerna för att förstärka denna idé. För det första säger Newton i sitt Principia:

Absolut, sann och matematisk tid för sig själv och från sin egen natur flyter lika utan hänsyn till något externt,

Okej, det här är verkligen en bra beskrivning av hur tiden med dess nuvarande stund känns för oss dödliga. Vi flyter nedför en flod – utan åror – och vattnet bär oss på ett sätt som inte kan förändras eller modifieras. Men nu förändrade Einstein denna världsbild helt genom att införa en enhetlig rymdtid vars poäng är händelser med en specifik plats och en specifik tid. Han hävdade att det inte finns något fysiskt naturligt sätt att separera de två, inget sätt att säga två händelser är samtidigt när de inträffar på olika platser eller att två händelser ägde rum på samma plats men vid olika tidpunkter. Därför finns det ingenting i fysiken som motsvarar Newtons tid. Han var emellertid helt medveten om att människor upplever det som Newton beskrev och undrade om detta med sin föreställning om nutiden skulle kunna få en plats i fysiken. Även om han aldrig skrev om detta, hade han ett samtal med Rudolf Carnap där han gjorde detta. (Jag tackar Steven Weinstein för att jag berättade om denna konversation.) Så här beskrev Carnap det:

Einstein sa att problemet med Now orolade honom allvarligt. Han förklarade att upplevelsen av Nu betyder något speciellt för människan, något väsentligt annorlunda från det förflutna och framtiden, men att denna viktiga skillnad inte inträffar och inte kan ske inom fysiken. Att denna erfarenhet inte kan förstås av vetenskapen tycktes honom en fråga om smärtsamt men oundvikligt avgång. Han misstänkte att det finns något väsentligt med Nu som ligger precis utanför vetenskapens rike. 

Ja, ja, ja, det är det jag pratar om! Hur underbart att höra det från Einstein.

Var lämnar detta vår diskussion i det sista avsnittet? Jag vill inte föreslå att samvete inte har något att göra med medvetande. Jag tror att de två är mycket korrelerade och att buddhistiska munkar utför en slags mental gymnastik. Jag vill lista de egenskaper som jag har argumenterat för, egenskaper som i viss mån omskriver vad medvetande är:

1. Medvetande är en verklighet som kommer till många levande varelser någon gång runt födelsen och lämnar dem när de dör, vilket skapar en känsla av att “flytta” från förflutna till framtiden längs en väg i rymden samt känna känslor, känslor och deras kropp rörelser.
2. Medvetandet har grader, som varierar från helt levande (t.ex. positiva känslor som kärlek och negativa känslor som smärta) till marginell medvetenhet. Hjärnan har dessutom en medvetslös såväl som en medveten del, aktiviteter, till och med tankar, som inte når medvetandet ..
3. Medvetande förekommer i många varelser inklusive bläckfiskar såväl som mänskligheten.
4. Medvetande ger oss tron på att vi har fri vilja, att vi kan göra val som förändrar världen. Detta har en viss relation till kvantmekanik.
5. Medvetande kan inte beskrivas av vetenskapen, det är en verklighet på ett annat plan.

Punkterna 1. och 5. följer Einsteins kommentarer citerade ovan, punkterna 2. och 3. är idéerna från det föregående avsnittet (och från Dehaenes bok Medvetande och hjärna). Punkt 4. var en av de viktigaste frågorna som diskuterades i min tidigare blogg och som jag hoppas kunna skriva senare (se t.ex. Stapps bok Mindful Universum). Jag tycker att det är rättvist att säga att religioner är enhälliga omfattar punkterna 1. och 5. och att säga att medvetande, åtminstone hos människor, är resultatet av någon form av anda som återupplivar, snabbar vår kropp, som Michaelangelo visar det:

Min egen version av detta är att säga: medvetande är resultatet av “anda som förälskas i materien”. Varför kärlek? Detta är ett metaforiskt sätt att uttrycka medvetenhetsintensiteten och den tillhörande viljan att leva som verkar universell bland djur. “Kärlek” är bara det mänskliga sättet att säga att andan skapar ett fruktansvärt tätt band med materie där döende är smärtsamt. Huvudpoängen är att om du accepterar att det att uppleva tid inte kan förklaras av vetenskap, utan sker på ett bestämt och inte slumpmässigt sätt, verkar det som om denna erfarenhet måste komma någonstans. Så igen föreslår Occams Razor att den enklaste vägen är att använda ett ord som föreslagits av alla religioner och kalla det ande. Detta är verkligen ett minimalistiskt tillvägagångssätt, inte baserat på någon personlig uppenbarelse.

Så frågan som det här inlägget har titeln blir då: vad skulle göra att en robot verkar vara en sannolik plats för anda att vilja snabbare? Förutom eventuellt för panteister tror ingen att stenar är medvetna. Allt jag har skrivit i det här inlägget antyder att roboten på något sätt borde ha äkta känslor, på ett eller annat sätt för att detta ska hända. Ganska en utmaning. Amen.


Några e-post svar

I. Min kollega Shiva Shankar vid Chennai Math Institute skrev mig:
“Ja, verkligen David, den mystiska ständigt närvarande, ständigt glider bort nu. Buddhismen försöker kämpa med det mycket, och Vipassana-meditation (som jag utövar) förhindrar att fördjupas i Nu kräver att man har gått utöver meningen av jaget och att bli avstängd eller nedsänkt i ett mycket annorlunda (och konstigt) tillståndstillstånd. (Dessutom) Jag ville fråga dig om en mening nedan, och i ditt inlägg: när Einstein säger att NU är utanför vetenskapens rike , menar han att du inte kan förstå det eller dess betydelse eller dess konsekvenser med något replikerbart experiment? “
Mitt svar: Han menar att du inte ens kan definiera det, vetenskapen behandlar bara saker som kan uppstå var som helst.

II. Min kollega C.S.Sadadri skrev mig:
“Jag läste din artikel om AI med stort intresse. Mycket intressant att läsa om medvetande och din skepsis i försök att bygga maskiner med medvetande. På ett besläktat sätt har jag alltid känt att moderna filosofier som kommunism inte handlar om de känslomässiga frågorna. som svartsjuka, kärlek, hat, ambitioner etc., som är centrala frågor för mänskligheten. Endast stora religioner hanterar dessa. Jag gillar ditt citat från Einstein. Med begränsningarna av mänsklig intelligens kommer livet att förbli ett mysterium. Kanske detta inte kan kommuniceras med ord och kan bara upplevas. Man kan inte diskontera andliga upplevelser. Ibland känner jag att andlig erfarenhet är som vi har i matematik, en plötslig blixt som sätter allt på plats.”

Tack Seshadri.

III. Min statistikvän Wu, Yingnian på UCLA skrev mig:
“Uppenbarligen handlar medvetandet om att veta vad du ser, vad du känner och vad du tycker och känslor handlar om vad du känner. Således kan ett djur vara känslomässigt, men det kanske inte är medvetet om dess känslor. att vara en skillnad mellan känslor och medvetande.
“Jag känner att känslor kan fungera som (1) en trigger för handling, dvs en politik. Detta inkluderar ilska och rädsla, för kamp eller flykt. (2) ett surrogat för värde (som i slutändan är genernas överlevnad). Detta inkluderar nöje och smärta. Ett lägre djur har ingen kapacitet för planering. Således förlitar det sig på känslor för att vidta åtgärder. Det kan vara känslomässigt men det har inte medvetande.
“För smartare djur (inklusive kråka) utlöser känslorna inte bara handlingar, den fungerar ofta som en del av planeringsberäkningen, dvs. politiken och värdet spelar rollen som initialisering och surrogat i planeringsberäkningen, och så småningom agerar vi enligt Ibland är emotionerna emellertid så starka att det kan åsidosätta planering, till exempel när människor blir extremt arg (eller situationen är mycket angelägen att vi inte har tid att planera), eller när människor blir mycket beroendeframkallande (dvs. , surrogaten har helt fel om värdet).
“Så känslor och känsla om känslor kan vara två olika saker. Alla djur kan känslor, men bara djur som planerar kan känna och till och med uttrycka känslor. Tyvärr kanske jag har helt fel i detta avseende.
“Planering verkar också kräva symbolisk resonemang (logik och grammatik) eller åtminstone en mycket lågdimensionell representation och abstraktion för att effektivisera beräkningen.”

IV. Min son Jeremy Mumford på Brown skrev mig:
“Jag blev lite förvirrad mot slutet, när du pratade om Einstein, buddhistiska munkar, Eckhart Tolle och upplevelsen av flödet av tid som” rent medvetande “. Subjektivt verkar känslan av att röra sig genom tiden vara mitt hjärta av min medvetenhet. Men när vi drar medvetande hos andra (både människor och djur), är det inte om bevis för att de upplever tidens flöde, utan genom bevis på resonemang och särskilt känslor. Det är bläckfiskens leklighet som gör oss tror att det är medvetet. Så jag är inte säker på varför du privilegierar flödet av tid som att vara “rent medvetande.” “

Innan jag kommenterar dessa två e-postmeddelanden känner jag att jag måste beskriva för att återställa min förståelse av medvetande. Såsom jag ser det, kan medvetande anges som tre ingredienser: a) kognitiva färdigheter, b) subjektiva känslor som smärta och kärlek och c) upplevelsen av tidens flöde. Den första är grunden för vad människor nu studerar i den “vetenskapliga” studien av medvetande, särskilt via mänskliga rapporter om sina egna tankar. Men jag tror inte att detta är kärnan eftersom det är lätt att föreställa sig ditt eget tillstånd utan någon kognitiv aktivitet som planering, t.ex. efter en stroke eller efter trauma lämnar dig i en desorienterad dum. På samma sätt kommer känslor och går och deras avresa stör inte din känsla av tid som går. Detta lämnar den sista som den verkliga kärnan i medvetandet.

Jag tror vad du säger, Yingnian, är att det finns en skillnad mellan lägre djur som har känslor för att utlösa handlingar och högre djur som är medvetna, som planerar och som till och med kan uttrycka sina känslor. Denna idé verkar naturlig och utbredd, men mitt inlägg försöker specifikt tvivla på detta. Jag ser inte varför medvetande borde vila på förmågan att planera eftersom vi har medveten medvetenhet i alla möjliga situationer och sinnestillstånd utan planeringskomponent. Jag föreslår att känslor är närmare kärnan i medvetandet, att vi tror att våra husdjur främst är medvetna på grund av de känslor de uppvisar. Detta är inte ett vetenskapligt argument men jag vet inte ett vetenskapligt skäl för att jag är övertygad om att en annan människa är medveten heller.

Jag håller med, Jeremy, att allt vi behöver för att övertyga oss om att alla djur är medvetna är dess känslor och intelligenta handlingar. MEN det är allt du behöver tro att jag också är medveten! Å andra sidan känns medvetenheten om att tiden går och att vara i NU djupare för mig, kärnan i medvetande som verkar helt ouppnåelig genom experiment. Efter relativitetens upphörande slutade fysiken att försöka modellera denna medvetenhet och den föll i en limbo. Det finns inget sätt att övertyga en solipsist om att han/hon har fel så vitt jag vet. Så vi måste göra en slags myt om ande.

V. En kompis från Florida, John Thomas, skrev mig dessa vidsträckta kommentarer:
“Din kommentar och tro på” Anden som förälskar sig i materien “, ekar Edgar Cayces, den amerikanska psykiska, som sa att vi är andliga medskapare, med Skaparen, som kunde manifestera och ändra form utan hinder. Tyvärr, vi blev förvirrad och förlorade i det materiella planet och dess frestelser och läckerheter, särskilt sex. Han citerade Atlantiska och egyptiska civilisationer som främsta exempel på skapelsens glans och konflikter mellan ambition, aggression och girighet. Därför Miltons “FALLA” och Bibelns ”utkast från Edens trädgård.”
“Cayce spekulerade också att det finns nio existensplan och att det materiella planet är det lägsta, tätaste och svåraste. Jag har läst att kvantfysiker har spekulerat där så många som 11 existensplan. Buddhister tror särskilt att vi upplever flera inkarnationer tills vi är upplysta och befriade från det materiella planets bondage och återvänder till vårt andliga arv och hem.
“Jag var intresserad av att läsa dina och andra svarares kommentarer om” anda “som kommer in i kroppen, när det naturligtvis inte finns något bevis eller bevis på dess existens, annat än de hoppfulla spekulationerna om att vi har en” själ , “Som är en kopia av dödets oundviklighet.” Där det finns liv finns det hopp, “antyder att där det inte finns något liv, dvs döden, finns det inget.
“Spekulationer om själen har gett plats för de mycket mer materiella konsekvenserna av AI. Jag läste Yuval Hararis,” Homo Deus, “med stort intresse efter hans” Sapiens. ” Han tvivlar inte på att vi är överflödiga och kommer att enkelt ersättas av AI, som med sina snabba omvandlingar redan överträffar våra bästa intelligenser som dess algoritmer sammansatta och skapar nya framsteg som ligger utanför våra förmågor, och i vissa fall, förståelse Denna AI-fördel expanderar snabbt i den grad att maskiner kommer att programmera sina egna framsteg, med ofattbara konsekvenser.
“Vi är mycket stolta över våra känslor och mänskliga känslor. Ja, de ger oss kärlek och ömhet, men hat och aggression också, som vår blodiga historia visar. Jag minns att jag läste på 60-talet, Robert Audrey’s “Det Territoriella Imperativet,” och Konrad Lorenz’s, “On Aggression”, som var djupa och utmanande. Så, naturligtvis, var Marshall McLuens “Mediet är Meddelandet.” Alla var förutseende och har kommit på de mest omedelbara frågorna i vår värld idag. Du kan inkludera Rachel Carsons, “Tyst våren” för att slutföra bilden.
“Medvetenheten har aldrig förståts helt, men det finns otaliga spekulationer. Buddha förkunnade att allt är” Maya “, en illusion och överdriven anknytning till materiell vinst, som beskriver vår sammansvängning i det materiella planet.
“Harari dimisses religion som myt, vidskepelse och ett sätt att underordna, och dominera, grupper till något tros- och trossystem. Det är oundvikligen i krig med andra, vilket blir allt tydligare i vår värld idag, när vi återgår till stambeteende .
“Oavsett om AI tar över, eller inte, mänskligheten är i stor fara, och ännu mer planeten. Malthus förutsåg på 1700-talet att mänskligheten så småningom skulle infektera och övervälda planeten och dess livsmedelsförsörjning Dess fortsatta reproduktionshastighet. Tyvärr avlar de som minst har råd att få och uppfostra barn avlar i snabbast takt. Den katolska kyrkan uppmuntrar historiskt till obegränsad reproduktion, och muslimerna föder upp med den snabbaste takt idag. Det är ohållbart, men kort från laglig kontroll (kineserna försökte och övergav “ett barn” – politiken) finns det ingen lösning på hand, annat än krig, sjukdom eller AI-störningar. AI har en fördel eftersom deras diet är el, och man antar att den kommer att lyckas organisera ren energi.
“Jag tänkte lägga upp detta på din blogg, men kunde inte bearbeta.”


Originalartikel: http://www.dam.brown.edu/people/mumford/blog/2019/conscious.html

Leave a Reply

Your email address will not be published. Required fields are marked *