Main menu:

Mina böcker

Sök på sidan

Recent Posts

Recent Comments

Länkar

October 2015
M T W T F S S
« Sep   Nov »
 1234
567891011
12131415161718
19202122232425
262728293031  

Kategorier

Det kinesiska rummets instruktionsbok

Det försiggår just nu en intressant diskussion i den svenska vetenskapliga bloggosfären med anledning av artikeln Kan vi skapa intelligens? av Joanna Rose i Forskning och Framsteg 7/2015. Först bloggade Olle Häggström om Ett osökt tillfälle till reklam, som Ulf Danielsson kommenterade i inlägget Dum, dummare, robot. Detta följdes upp med att de båda parallellpublicerade varsitt brev i Forskning och Framsteg, följt av ännu ett inlägg av Olle: John Searle tänker fel i fråga om AI-risk, och av Ulf: Jag robot? Nu finns från och med igår även ett ytterligare blogginlägg av Olle, I diskussion med Ulf Danielsson om medvetandets natur, samt en intressant utvikning med viktiga specificeringar av Bo Sjögren, Searle och det kinesiska rummet. Ulf har på FB lovat att återkomma med en ytterligare replik.

För att orientera er lite om vad frågan handlar om klipper jag här in avsnittet om det Kinesiska rummet som jag beskrev tankeexperimentet i min bok Samarbete.

Den amerikanske filosofen John Searle har, […] för att ta död på idén om att medvetandet bara är en samling nervceller som samarbetar, konstruerat ett tankeexperiment han kallar det kinesiska rummet. Det fungerar så här.

Tänk dig att en datorprogrammerare har lyckats konstruera en dator som kan kommunicera på kinesiska. En person som talar kinesiska kan knappa in meningar med hjälp av kinesiska tecken och får då ut kinesiska tecken som svar. Programmet är så väl programmerat att det klarar det så kallade Turing-testet: alltså att den kinesisktalande personen inte kan avgöra om han eller hon konverserar med en människa eller en maskin.

Nu är då frågan, förstår datorn/programmet kinesiska? Det finns ju ingen enhet inuti datorn som förstår kinesiska så kan man verkligen hävda att enheten förstår kinesiska bara för att den gör allt som en kinesisktalande person kan göra?

För att visa att programmet inte förstår kinesiska vill Searle nu att man tar nästa steg i tankeexperimentet. Tänk dig att du sitter i ett rum med en bok som innehåller alla algoritmer som datorn använder för att klara av att kommunicera på kinesiska – du har datorprogrammet, helt enkelt. Det kommer nu in ett papper genom en lucka i dörren med en rad med kinesiska tecken.

Du har nu uppgiften att göra det datorn just gjorde, att följa ett nedskrivet datorprogram och producera en sträng kinesiska tecken som svar. Dessa matar du ut genom luckan i dörren. Eftersom datorn klarade att följa algoritmen gör du det också. Du producerar således samma svar som datorn/programmet gjorde, och den kinesisktalande person som försöker ta reda på om du är en dator eller en annan kinesisktalande person gör samma bedömning som förut: det ”kinesiska rummet” måste innehålla en kinesisktalande person.

Men nu har den kinesisktalande personen bevisligen fel. Du kan ju inte kinesiska. (Om du råkar kunna kinesiska så får du byta ut språket i exemplet mot ett som du verkligen inte förstår.) Det finns därför ingen enhet i det kinesiska rummet som förstår kinesiska. Alltså, menar Searle, kan inte en förstående hjärna bestå av en mängd icke-förstående enheter.

Searles exempel har föranlett en enorm mängd gensvar som vill visa var han har fel. Jag tänker här fokusera på ett enda svar, nämligen det som menar att det är hela systemet som är den intressanta enheten.

Lösningen stavas samarbete. För även om du inte förstår kinesiska, rummet inte förstår kinesiska och programmet inte förstår kinesiska, så förstår uppenbarligen alla dessa enheter tillsammans kinesiska.

Om förståelse är att omvandla en sträng inåtgående signaler till en sträng utåtgående signaler enligt ett speciellt mönster, så är förståelse precis det som uppstår i hela systemet. För vad annars menar vi med förståelse? Finns det något annat sätt att förstå sig på förståelse än att avgöra frågan med hjälp av lämplig komplex respons på lämpliga komplexa inåtgående signaler?

En del tror inte på samhället i sinnet för att de hakar upp sig på synvinkeln. Det enda vi egentligen vet är ju det vi upplever. Då borde vi väl börja i den änden? Att börja med det materiella för att komma fram till slutsatser om upplevelser när varje människa har direkt tillgång till sina upplevelser är att börja i fel ände, menar de. Och vi upplever alla att vi är en enhet, alltså är vi det, punkt.

Men kan vi verkligen lita på våra upplevelser till den grad att vi kan basera vetenskap på det? Ett omedelbart problem som uppkommer är att var och en av oss bara har direkt kontakt med sina egna upplevelser, inte med andras. Det finns inga som helst garantier för att du upplever samma sak som jag.

Det är ett rimligt antagande att det gör lika ont när du slår dig på tummen med en hammare som när jag gör det, fast jag inte känner någon smärta alls när du gör det. Jag kan ju till och med se på dina reaktioner att du reagerar på samma sätt som jag. Men med den observationen har jag redan gått utanför min egen upplevelse och påstår saker om sådant som jag fått information om via mina sinnen – utifrån.

Baserar man forskningen om våra psyken enbart på egna upplevelser kommer man aldrig utanför sin egen hjärna. Så fort man ska gå utanför hjärnan måste nämligen all information filtreras genom sinnesorganen.

Och ska man göra påståenden om sådant som händer utanför hjärnan måste man använda sig av vetenskapliga metoder; metoder som ger samma resultat oavsett vem som är betraktaren.

Personligen är jag helt på Olle Häggströms sida i den här diskussionen. Att se hjärnan som något fundamentalt speciellt och märkligt är att ge för stor betydelse till kött. Framför allt hakar jag upp mig på följande i Danielssons argumentation:

Det finns helt enkelt ingen möjlighet att utifrån nuvarande grundläggande naturvetenskap ens på ett principiellt sätt förutsäga vilka objekt som delar denna subjektiva inre erfarenhet och i vilka system den uppträder. Alltså är det något som fattas i beskrivningen.

Det är riktigt, det finns inget sätt att belägga subjektiv upplevelse hos något annat än hos sig själv. Alltså måste vi, för att kunna diskutera frågan, använda oss av yttre tecken på subjektiv upplevelse, samt homologier och analogier. Men detta gäller oavsett om vi pratar om andra människor eller om robotar. Det är inget som “fattas i beskrivningen”, det är bara ett grundläggande problem med frågan.

Påståendet är att man kan simulera en hjärnas funktion, och därmed dess medvetande, om man bara har en tillräckligt kraftfull dator. Simulera? En simulerad mage smälter inte riktig mat på något meningsfullt sätt alls. Och frågan är om en simulerad hjärna tänker några tankar?

Den här analogin är helt missvisande. Mat är något fysiskt som tillförs kroppen utifrån, inte ett icke-materiellt “mönster” som (troligen) uppkommer genom emergens. Det finns helt enkelt inget annat biologiskt organ som har samma funktion som den mänskliga hjärnan, så det går inte att jämföra med andra organ. Det enda som kvarstår är grundfrågan, och det är samma fråga som vi började med: “frågan är om en simulerad hjärna tänker några tankar?

Kroppens samtliga organ, inklusive hjärnan, är ett resultat av miljoner års evolution. De är inte enkla designade konstruktioner där var del har en tydlig och pedagogiskt avgränsad funktion. Det finns en komplexitet som vi helt enkelt inte förstår oss på.

Hur lång evolutionsprocessen var som ledde fram till hjärnan är oväsentligt för sakfrågan. Kulturell förändring är långt mycket snabbare än den biologiska evolutionen, något som är en av grundobservationerna bakom tanken om singulariteten. Och att vi inte förstår oss på hjärnans komplexitet är bara delvis sant. Vi förstår de grundläggande processerna om hur hjärnan växer till och anpassar sig efter miljö och inlärning. Vi saknar “något” för att förstå oss på medvetandets uppkomst, men om förståelsen av detta “något” ligger nära eller långt fram i tiden har vi ingen aning.

För egen del tror jag svaret faktiskt inte ligger i en bättre förståelse av hjärnan, av själva hårdvaran, utan i en bättre förståelse av det kulturella program som matas in i våra hjärnor under uppväxten och kontinuerligt genom livet – i mjukvaran. För att försöka mig på en analogi så är det lika dumt att försöka förstå sig på medvetandet genom att titta på hjärnan som det är att försöka förstå ett dataspels intrikata fantasivärld genom att plocka isär datorn. Medvetandet är det som händer när det kulturella programmet körs i våra hjärnor – det är instruktionsboken i det Kinesiska rummet som är nyckeln, inte vem/vad som läser av den. Hur då? Ja, säg det. Och varför kan bara människors hjärnor ladda in den här typen av instruktionsböcker?

Bookmark and Share

Kommentarer

Pingback från Demokritos fattar galoppen – Ulf Danielsson
Tid: 18 October 2015, 9:54

[…] Min och Olle Häggströms stillsamma diskussion om huruvida den mänskliga civilisationens undergång kommer att orsakas av dumma människor eller smarta robotar har utlöst en engagerad nätdebatt om vad medvetandet egentligen är för någonting. Se bland annat Patrik Lindenfors. […]

Kommentar från per
Tid: 24 July 2019, 17:26

Hej först tack för en bra blogg som lämnat mycket inpiration till min undervisnuing i biologi, gymnasienivå.

Men jag måste ställa en fråga om ditt argument kring Searle. Du vill betrakta försökspersonen och hans lexikon som ett enda system. Men spelar det någon roll? I princip så funkar väl hans experiment lika bra om personen memorerat tecknen. Är inte hans poäng att kinesiskan är ett ordalfabet. Skall jag skriva franska ord måste jag lära mig glosorna och fransk stavning.

Så inte med det kinesiska ordalfabetet.Att försökspersonens totala brist på gramatisk och idiomatisk färdighet skulle avslöja honom och det annars går att ifrågasätta om en döv kines behärskar sitt modersmål är en annan sak.

Kommentar från Patrik Lindenfors
Tid: 25 July 2019, 12:44

Hej!
Tack för beröm. Att alfabetet är ett ordalfabet ingår inte i Searles argument, utan bara att man kan svara på en en input av symboler med en output av symboler.

Skriv en kommentar