DEt kinesiska rummet, jag tror han lurar oss

[Dura M]

Lite lustigt är det att man då finner sig tvungen att stoppa in en intelligens i rummet.

Det är ju det som är hela finessen! Det är på det sättet Searle blandar bort korten och lurar oss att fokusera på fel sak! Som andra har påpekat är det självklart inte mannen i rummet som förstår kinesiska utan rummet som helhet, men genom att stoppa in mannen där och påpeka att han inte förstår kinesiska hoppas Searle att vi skall acceptera att ingen förståelse av kinesiska uppstår i processen. Alltid lurar det någon, som man säger. (Fast jag tror att Searle mest av allt har lurat sig själv.)

För övrigt undrar jag lite varför det, som hos Turing, förutsätts att intelligensen skulle vara mänsklig.

Turing tänkte sig inte testet som ett nödvändigt utan som ett tillräckligt villkor för att påvisa intelligens.

[Avantgardet]

Men jag skulle hävda att det krävs sinnesintryck annat än orden i sig själva kopplade till det kinesiska - idiomatiska - språket, det måste vara fyllt med ett begreppsligt innehåll. Inte en massa tomma symboler, som språkets form och grammatik. Hur är människans relation till existensen? Tycker Calvino uttryckte det bra ovan.

[Calvino]

Handlar inte experimentet om att, utifrån språkkoden besvara frågor som endast frågeställaren (och konstruktören) förstår?

Nä, frågorna och svaren är formulerade på kinesiska. Det är därför det heter "det kinesiska rummet".

Och jag tror inte att någon tänker sig att boken skulle vara särskilt enkel.

Givetvis inte. Men den bok som skulle behövas om experimentet skulle utföras i verkligheten skulle behöva vara väldigt stor. Typ, större än att få plats i ett rum.

Lite lustigt är det att man då finner sig tvungen att stoppa in en intelligens i rummet.

Men "intelligensen" (alltså John Searle själv, vars intelligens väl är vad som står i fråga i den här tråden ) bidrar inte med något av sin egen tankekraft till rummet. Han bara följer reglerna i sin bok, exekverar dem blint på samma sätt som de elektriska signalerna på transistornivån i en dator. Han kunde bytas ut mot en dresserad schimpans eller en enkel robot.

Om vi förenklar experimentet: Jag ger en vätte ett kort med det ultimata rostbrödets färg, stoppar den i min brödrost med instruktion om att skicka upp mackan när dess färg är densamma som kortets. Vad har det med mänskligt medvetande och förståelse att göra?

Du har förenklat experimentet till en nivå där det inte längre finns kvar någon likhet. Poängen är att rummet kan klara ett Turingtest, det vill säga, lura en mänsklig kommunikationspart att det är en människa. Att göra detta är inte samma sak som att blint jämföra en rostbrödmacka med ett färgat kort. Det kräver att man kan producera ett oerhört komplext beteende — formulera meningar, förstå en mänsklig motparts meningar, behärska sociala spelregler, förutsäga framtiden, etc, etc. Om du reflekterar lite över vilken enorm kognitiv prestation det faktiskt är att utföra ett vanligt samtal, så inser du nog vad det är vi kräver av det kinesiska rummet.

För övrigt undrar jag lite varför det, som hos Turing, förutsätts att intelligensen skulle vara mänsklig.

Som Dura M redan påpekat: att klara ett Turingtest är ett tänkt kriterium på intelligens, men inte det enda möjliga tänkbara kriteriet.

[Zokrates]

Med risk/chans för att verka korkad  :oops: : Vad tusan är det kinesiska rummet? Vem skriver om det? Var kan man läsa om det? En ny katt i en låda? Eller är detta ämne bara för "members of the club"? Det kanske avslöjas i något av de kryptiska inläggen vad det handlar om men jag orkar inte läsa dem, så kan ni vara snälla att tala i klartext! Va ä dä?

undrar Algotezza

http://en.wikipedia.org/wiki/Chinese_room

[Calvino]

Men jag skulle hävda att det krävs sinnesintryck annat än orden i sig själva kopplade till det kinesiska - idiomatiska - språket, det måste vara fyllt med ett begreppsligt innehåll. Inte en massa tomma symboler, som språkets form och grammatik. Hur är människans relation till existensen? Tycker Calvino uttryckte det bra ovan.

Då kanske du missförstod mig. Jag har alltså absolut inga problem med att acceptera tanken att det kinesiska rummet förstår kinesiska — eller att det besitter intelligens.

Jag tror nämligen, att för att någon process ska vara förmögen att klara ett Turingtest måste den vara komplex nog för att besitta motsvarigheter till det du kallar "begreppsligt innehåll", "en relation till existensen", etc.

[Doe]

Nä, frågorna och svaren är formulerade på kinesiska. Det är därför det heter "det kinesiska rummet".

Ja, och hade Searle kunnat kinesiska skulle frågor och svar förmodligen varit formulerade på ett annat språk. Just den här prylen tror jag faktiskt att jag lyckades tänka rätt om.

Givetvis inte. Men den bok som skulle behövas om experimentet skulle utföras i verkligheten skulle behöva vara väldigt stor. Typ, större än att få plats i ett rum.

Som trycksak skulle den förstås vara stor, men egentligen räcker det med att den är omfattande. Och hur stort är förresten ett rum

Men "intelligensen" (alltså John Searle själv, vars intelligens väl är vad som står i fråga i den här tråden ) bidrar inte med något av sin egen tankekraft till rummet. Han bara följer reglerna i sin bok, exekverar dem blint på samma sätt som de elektriska signalerna på transistornivån i en dator. Han kunde bytas ut mot en dresserad schimpans eller en enkel robot.

Vet. Tycker ändå att det är lite lustigt.

Du har förenklat experimentet till en nivå där det inte längre finns kvar någon likhet. Poängen är att rummet kan klara ett Turingtest, det vill säga, lura en mänsklig kommunikationspart att det är en människa. Att göra detta är inte samma sak som att blint jämföra en rostbrödmacka med ett färgat kort. Det kräver att man kan producera ett oerhört komplext beteende — formulera meningar, förstå en mänsklig motparts meningar, behärska sociala spelregler, förutsäga framtiden, etc, etc. Om du reflekterar lite över vilken enorm kognitiv prestation det faktiskt är att utföra ett vanligt samtal, så inser du nog vad det är vi kräver av det kinesiska rummet.

Jo, men poängen med förenklingen var inte att göra ett likvärdigt experiment. Vad jag ville få fram var att den mekanik som får rummet att svara, inte har med vare sig medvetande eller förståelse att göra. Alltså blev min fråga i sammanhanget: Hur fungerar det kinesiska rummet som kritik av tanken att AI skulle kunna utveckla mänskligt medvetande och förståelse?

Som Dura M redan påpekat: att klara ett Turingtest är ett tänkt kriterium på intelligens, men inte det enda möjliga tänkbara kriteriet.

Tänkte egentligen frågan mer allmänt, men tack till er båda två för klargörandet.

[Algotezza]

Med risk/chans för att verka korkad  :oops: : Vad tusan är det kinesiska rummet? Vem skriver om det? Var kan man läsa om det? En ny katt i en låda? Eller är detta ämne bara för "members of the club"? Det kanske avslöjas i något av de kryptiska inläggen vad det handlar om men jag orkar inte läsa dem, så kan ni vara snälla att tala i klartext! Va ä dä?

undrar Algotezza

http://en.wikipedia.org/wiki/Chinese_room

Okie. dokie, tack för upplysnimngen.

Varför kinesiska? Därför att Searle inbillar sig att det språket fungerar bara med "bilder" och skulle sakna grammatik?

Handlar det om enkla resonemang - OK - men om man vill analysera något, utreda något, t.ex. i en filosofisk fråga, hur tusan skulle det gå till?

I längden skulle det inte funka bara genom att slumpmässigt välja bland tecken som svar på andra tecken. Hur kan man säga något principiellt innehållsligt nytt men likväl relevant (som ej implicerasn direkt av de dittills nyttjade tecknenena), som ju fallet är när vi t.ex. diskuterar här?

Fört eller senare avslöjas det ju om språkanvändaren bara går efter yttre former och kännetecken eller även efter innehållet.

Detta var min reaktion på wikipedia-artikeln - under dagen skall jag se vad andra svarat på denna tråd...

För övrigt kan medvetandet ses som antingen något som emanerar ur en tillräckligt avancerad materiell struktur (materialitisk synsätt eller tolkning) eller att en tillräckligt avancerad materiell struktur innebär en inkarnationsmöjlighet, tillfälligt eller över viss tid,  för en diskarnerad varelse (idealistisk eller New Age-variant). I båda fallen skulle datorer i framtiden tänkas kunna prestera någon form medvetande och individuell viljeföring, oavsett vilken förkalring vi håller oss till, temporärt eller över längre tid. Ett mänskligt medvetande skulle då också kunna överföras dit. Märk väl, attd et handlar om en tillräckligt avancerad materiell struktur, så resonemanget blir på sätt och vis tautologt och självbevisande... eftersom vi alltid kan förklara uteblivet medvetande med att strukjturen ej var tillräckligt avancerad! Men det är inte logiskt uteslutet att en verkligt avancerad struktur skulle kunna skapas som åtminstone temporärt skulle kunna uppvisa otvetydiga tecken på medvetande. För varför skulle bara biologiska kolvätebaserade enheter kunna vara medvetna? Vad med kiselbaserade? Etc.

Ha det bra!

Algotezza

[Calvino]

. Vad jag ville få fram var att den mekanik som får rummet att svara, inte har med vare sig medvetande eller förståelse att göra.

Nämen, det är ju precis det som står i fråga! Alltså: om materialisterna har rätt, så är medvetande och förståelse ingenting annat än blinda mekaniker, som kan emuleras av ett tillräckligt komplext regelverk.

[Doe]

Nämen, det är ju precis det som står i fråga! Alltså: om materialisterna har rätt, så är medvetande och förståelse ingenting annat än blinda mekaniker, som kan emuleras av ett tillräckligt komplext regelverk.

Men inte nödvändigtvis, som i experimentet, en ensam mekanisk process? Och inte nödvändigtvis den mekaniken, det regelverket etc. Alltså; jag har fortfarande känslan av att min brödrostvätte är lika giltig som rummet... som kritik alltså. Tror inte den skulle ha så stor chans mot Turing.

[Dura M]

Nämen, det är ju precis det som står i fråga! Alltså: om materialisterna har rätt, så är medvetande och förståelse ingenting annat än blinda mekaniker, som kan emuleras av ett tillräckligt komplext regelverk.

Men Searle menar sig väl vara materialist? Han försöker dock argumentera för att det krävs någon speciell slags materiella processer för att medvetande skall uppstå och att det alltså inte räcker med symbolmanipulering i vilket medium som helst. Även Penrose har väl varit inne på liknande tankar, fast jag tror att han lutade sig mot Gödels teorem i sin argumentation. (Ingen av dem övertygar dock.)

[Calvino]

Men inte nödvändigtvis, som i experimentet, en ensam mekanisk process?

Vadå ensam? Det finns inget trivialt sätt att räkna mekaniska processer. Varje "process" kan lika gärna förstås som ett antal subprocesser, som körs parallellt (som i människohjärnan) eller i serie (som i en dator). Och flera processer som körs parallellt eller i serie kan förstås som delprocesser av en enda övergripande process. Hur många processer det naiva, mänskliga ögat ser har ingen relevans för den faktiska funktionaliteten.

Moderna datorer arbetar helt och hållet i serie. Operationer utförs en i taget. Det går bara väldigt snabbt, vilket ger oss illusionen av att våra datorer gör flera saker samtidigt: exekverar olika program, lagrar data i minne, visar saker på skärmen, etc. Är en dators arbete en eller flera processer?

Och inte nödvändigtvis den mekaniken, det regelverket etc.

Du uttrycker det som att det var frågan om någon specifik, väl beskriven process, men så är ju inte fallet. Searle har inte beskrivit hur hans regelverk skulle fungera, han har bara angett som en premiss för sitt tankeexperiment att det funkar, och vidaremera, att det klarar av ett turingtest.

Huruvida det ens är möjligt att konstruera ett regelverk som på det sätt Searle beskriver kan klara av ett Turingtest är helt och hållet beside the point. I tankeexperimentet inbjuds vi att föreställa oss det, att anta det som en premiss, och Searles (felaktiga) poäng är att inte ens under dessa hypotetiska omständigheter kan vi hävda att någonting sådant som "förståelse" uppenbarar sig.

[Calvino]

Men Searle menar sig väl vara materialist? Han försöker dock argumentera för att det krävs någon speciell slags materiella processer för att medvetande skall uppstå och att det alltså inte räcker med symbolmanipulering i vilket medium som helst.

Han kanske kallar sig "materialist", men hans form av materialism ter sig för mig som en slags dualism i förklädnad. "Det finns ett speciellt sorts medium (läs: kartesiansk res cogitans) som är en förutsättning för medvetande")

[Dura M]

Han kanske kallar sig "materialist", men hans form av materialism ter sig för mig som en slags dualism i förklädnad. "Det finns ett speciellt sorts medium (läs: kartesiansk res cogitans) som är en förutsättning för medvetande")

Vad jag förstår menar han inte att mediet är något annat än vanlig materia. Vad han invänder mot är stark AI, dvs tanken att medvetande endast beror av logisk struktur och att den fysiska implementationen är oväsentlig.

[Calvino]

Vad jag förstår menar han inte att mediet är något annat än vanlig materia. Vad han invänder mot är stark AI, dvs tanken att medvetande endast beror av logisk struktur och att den fysiska implementationen är oväsentlig.

Poängen är att om mediet bara är vanlig materia, så måste medvetande vara medieneutralt. Det finns ingen typ av vanlig materia som har några mystiska egenskaper som skulle kunna ge det en särskild status, när det gäller att förläna någonting medvetande.

Och, omvänt, om vi tänker oss att medvetandet faktiskt ligger i mediet, så kan detta endast bero på att det är något speciellt med mediet, att det inte följer den vanliga materiens lagar. Ergo, substansdualism.

[Avantgardet]

Men Searle menar sig väl vara materialist? Han försöker dock argumentera för att det krävs någon speciell slags materiella processer för att medvetande skall uppstå och att det alltså inte räcker med symbolmanipulering i vilket medium som helst.

Han kanske kallar sig "materialist", men hans form av materialism ter sig för mig som en slags dualism i förklädnad. "Det finns ett speciellt sorts medium (läs: kartesiansk res cogitans) som är en förutsättning för medvetande")

Fast det var precis det jag menade med emergenstjoffset som ett slags dualism, eller menar du att bilmetaforen täcker medvetande? Som jag tagit del av den via Searle, åtminstone. Den här diskussionen ter sig lite förvirrad.

Vad gäller "kinesiska rummet", så vill jag mena, faktiskt med Searle som jag förstår det, att det skall till något helt annat för att vi skall kalla det "kinesiska rummet" för intelligent (som vi föreställer oss AI). Och det är väl den dimensionen av varat som du menar oss behöva fenomenologerna till, om jag förstår dig rätt, och om så är fallet så ämnar jag ingalunda bestrida den synpunkten. Fast jag skulle säga att den materialistiska reduktionen aldrig kan förklara något alls - inte om den skall hålla sig fri från teori/ideologi -, den kan bara beskriva. Det är egentligen ett "realismens problematik", berättandet måste finna sin väg in för att begreppsliggöra de processer och lagar som man i naturen upptäcker. Du söker komma undan genom att peka på Chomskys djupstrukturer, men jag anser inte att det räcker - Algotezza påpekade väl detta, och kallade det "Gud" (kan ha varit i en annan tråd), vilket det också skulle vara för poststrukturalisterna. Det är fortfarande metafysik. Searle gör egentligen samma misstag, fast på en annan väg, resultatet blir i den här bemärkelsen likväl detsamma vad jag kan se.