DEt kinesiska rummet, jag tror han lurar oss

[yy]

Det känns som om Searle har ett par oäkta äss i rockärmen när han spelar ut sitt kinesiska rum. Jag vet inte vad jag ska tro, va.

Grejen är ju den va, att Searle säger att han inte förstår enbart i egenskap av att manipulera formella symboler - men jag tycker att han fuskar när han översätter språk :-: som ju fasenimig vi behöver intentionalitet och förståelse för att ha, till sin regelbok.

Han antar att någon intentionellt kan representeras av något ointentionellt - regelboken. Får man göra så?

[Skeptikern]

En annan sak som han inte tycks kunna eller vilja förstå är att om personen i rummet på ett framgångsrikt sätt kan besvara frågor på kinesiska, som han inte förstår, så att de utanför rummet tror att han kan kinesiska, så nog sjutton måste man väl säga att rummet i dess helhet faktiskt förstår kinesiska.
Jag förstår svenska, men jag kan inte peka ut någon av mina hjärnceller som gör det.
Dessutom så är exemplet grovt missvisande då han förutsätter att ett så enkelt system med så få komponenter i princip skulle kunna genomföra uppgiften. För att systemet skulle kunna fungera skulle den behöva vara lika komplex som den mänskliga hjärnan.
Hans syfte med tankeexperimentet är ju att argumentera för att datorer, artificiella system, aldrig kan komma att förstå något och aldrig kan bli självmedvetna. Som om ett system måste bestå av kol (som vi människor), för att kunna bli självmedvetna. Datorer som vi har nu är knappast medvetna om sig själva (även om självmedvetenhet är ett subjektivt tillstånd och aldrig kan mätas objektivt), men datorer som är lika komplexa som den mänskliga hjärnan?
Den mänskliga hjärnan är en biologisk maskin och det finns inget som talar för att vi inte skulle kunna konstruera en lika komplex maskin av ickebiologiska komponenter som skulle kunna utföra samma arbete.
Det är relationen mellan olika partiklar eller komponenter, eller mönster, som är det intressanta, inte vad partiklarna eller komponenterna består av för material.

[yy]

Det är ju lite halvtråkigt att vi håller med varandra till fullo, för det blir ju liksom ingen diskussion.

Har undrat en längre tid över vilka sorters problem som systemteorin (tillräckligt många komponenter -> medvetande) har. Vet du vad de kämpar med?

[J R Auk]

Men beskriv problemet då för en som vagt minns vad som menades. Så skall ni se på fan!

[Calvino]

Han antar att någon intentionellt kan representeras av något ointentionellt - regelboken. Får man göra så?

Det borde man givetvis få göra.

Varje redogörelse för medvetandet utifrån naturalistiska premisser måste förutsätta att det som på en nivå är "intentionellt" på en lägre nivå måste motsvaras av dumma, deterministiska, fysikaliska regler.

Däremot stämmer det förstås som Skeptikern säger att Searle inte fattar att det är rummet, och inte han själv, som kan tillskrivas förståelse för kinesiska.

[yy]

Men då använder ju searle samma metod som de som tror på systemteorin!

[Avantgardet]

Fast då tror jag ni missar Searles poäng. Som jag förstår det ska man tänka sig det hela som en analogi, och vi pratar egentligen om en vanlig ordbehandlare om vi tänker så. Ingen skulle väl påstå att Microsoft Word är artificiell intelligens? Det där klarar ju redan våra datorer idag, men inte ser vi något medvetande hos dem för det. Frågan är ju ställd i en sån kontext, och rör vår förmåga att avgöra huruvida en maskin är medveten (eller finna bevis på medvetande hos varandra för den delen). Det handlar alltså om den där brytpunkten där maskinen blir medveten, när den så att säga "förstår". Fast jag är inte säker på att det ens är det sättet man bör söka efter medvetande på, eller om det ens kan förklaras på det sätt de söker förklara det på. På sätt och vis kan man då se Searle som en homunculus, om man följer er linje, men jag har svårt att tro att Searle skulle argumentera så. Kan det röra sig om att, då ni säger att rummet förstår snarare än enbart personen i exemplet, tänker er något annorlunde karakteristik på medvetandet?

[yy]

Fast då tror jag ni missar Searles poäng. Som jag förstår det ska man tänka sig det hela som en analogi, och vi pratar egentligen om en vanlig ordbehandlare om vi tänker så. Ingen skulle väl påstå att Microsoft Word är artificiell intelligens? Det där klarar ju redan våra datorer idag, men inte ser vi något medvetande hos dem för det. Frågan är ju ställd i en sån kontext, och rör vår förmåga att avgöra huruvida en maskin är medveten (eller finna bevis på medvetande hos varandra för den delen). Det handlar alltså om den där brytpunkten där maskinen blir medveten, när den så att säga "förstår". Fast jag är inte säker på att det ens är det sättet man bör söka efter medvetande på, eller om det ens kan förklaras på det sätt de söker förklara det på. På sätt och vis kan man då se Searle som en homunculus, om man följer er linje, men jag har svårt att tro att Searle skulle argumentera så. Kan det röra sig om att, då ni säger att rummet förstår snarare än enbart personen i exemplet, tänker er något annorlunde karakteristik på medvetandet?

Så det är nedbrytningen av medvetande som verkligen är tvistefrågan? Systemteorin är ju att när man uppnått en viss mängd (jävla stor mängd) symbolmanipuleringar så följer medvetandet som en produkt av det, men Searle säger alltså att medvetandet ska brytas ned på ett annat sätt?

[Avantgardet]

Ja det är så jag har förstått det, just det här exemplet.

Emergensprylen? Men det ser jag som enbart en förskönad omskrivning av dualismen. Men jag är säker på att Searle håller med dig i det. Vet dock inte var Searle stod i frågan om medvetandet 1980, kan ju ha ändrat sig lite fram och tillbaka, i synnerhet om vi talar om vilken "vetenskaplig" metafor som är bäst lämpad att företräda medvetandet. Det är ju trots allt den bildliga framställningen det rör. Men strunta i mig, det är ju intressant att läsa er diskussion kring det filosofiska exemplet, och det finns ju inget som säger att jag överhuvudtaget skulle ha koll på vad jag talar om, och dessutom så berör det ju ingalunda exemplet i sig.

[Calvino]

Avantgardet:

Nä, analogin är helt klart inte till en ordbehandlare. Det anges specifikt i Searles tankeexperiment att hans kinesiska rum förväntas klara ett Turing-test, vilket ingen ordbehandlare i hela världen klarar av.

[Calvino]

Emergensprylen? Men det ser jag som enbart en förskönad omskrivning av dualismen.

Emergens är ett ganska simpelt fenomen. Det är vad som gör att en bilmotor har egenskaper som ingen av dess ingående muttrar, bultar och mojänger har, vad som gör att en molekyl har egenskaper som inte delas av någon av dess atomer, etc.

Tolkar man "emergens" som en form av dualism så blir man alltså automatiskt "mutter/motor-dualist", "atom/molekyl"-dualist, etc in absurdum.

Alla reduktionistiska teorier om medvetandet måste ta sin tillflykt till emergens. De är två sidor av samma mynt: om en företeelse ska förklaras reduktionistiskt, så måste dess unika egenskaper förklaras som emergenta fenomen, alltså, fenomen som uppstår i interaktionen mellan delarna. Vill man inte acceptera emergens så måste man samtidigt acceptera att medvetandet är irreducibelt. Men det är detta som är den strikt dualistiska ståndpunkten.

Själv är jag dualist, men inte i den vulgära kartesianska bemärkelsen. Min dualism gäller å ena sidan materialismen, med dess anspråk på att kunna reducera allting till interaktioner i dum materia, och å andra sidan fenomenologin, som insisterar på en irreducibel mänsklig erfarenhet. Jag tror att allting kan förklaras i termer av materialismen, men det är inte samma sak som att det kan förstås i termer av materialismen. Medvetande, frihet etc ligger delvis inom en meningsdimension som är onåbar för materialismen, och det är denna mening som materialismens kritiker förväxlar med förklaring, när de menar att materialismen inte kan förklara medvetandet. Vad materialismen inte kan erbjuda, är en redogörelse för medvetandets betydelse i den subjektiva erfarenheten. Det är här vi måste vända oss till Heidegger och grabbarna.

[Doe]

Förstår en miniräknare matematik?

Jag tycker nog inte att man kan påstå att vare sig regelboken, personen i rummet, eller rummet som helhet förstår kinesiska. Eftersom experimentet åtminstone verkar genomförbart, och då skulle kunna passera Turingtestet, kanske det kinesiska rummet skulle fungera bättre som kritik av testet, än som det exempel på AI, som det ofta används som. (Mycket möjligt att det utformades som kritik; men jag har aldrig hört det användas som sådan)

För att rummet ska fylla sin funktion, kan man inte nöja sig med svar; det måste kunna formulera frågorna, och veta vad dessa innebär utan att språket översätts till vad personen i rummet nu råkar tala.

[Calvino]

Förstår en miniräknare matematik?

Jag tycker nog inte att man kan påstå att vare sig regelboken, personen i rummet, eller rummet som helhet förstår kinesiska. Eftersom experimentet åtminstone verkar genomförbart, och då skulle kunna passera Turingtestet, kanske det kinesiska rummet skulle fungera bättre som kritik av testet, än som det exempel på AI, som det ofta används som. (Mycket möjligt att det utformades som kritik; men jag har aldrig hört det användas som sådan)

För att rummet ska fylla sin funktion, kan man inte nöja sig med svar; det måste kunna formulera frågorna, och veta vad dessa innebär utan att språket översätts till vad personen i rummet nu råkar tala.

Först ett klargörande: experimentet är ett tankeexperiment. Det är emfatiskt inte möjligt att genomföra i verkligheten. En maskin/protokoll komplex nog att klara av ett Turingtest skulle aldrig kunna rymmas i en enkel bok, eller exekveras av en enda person, som i tankeexperimentet. Det finns idag inga maskiner kapabla att klara av ett Turingtest. Det är ren Science Fiction.

För det andra: testets funktion, i Searles ursprungliga text, är att kritisera tanken på att en AI skulle kunna utveckla mänskligt medvetande och förståelse.

För det tredje: för att kunna klara av ett Turingtest måste en maskin helt klart kunna formulera egna frågor. Den ska helt enkelt kunna vara förmögen att konversera så mänskligt att det kan lura den smartaste examinator.

[Algotezza]

Med risk/chans för att verka korkad  :oops: : Vad tusan är det kinesiska rummet? Vem skriver om det? Var kan man läsa om det? En ny katt i en låda? Eller är detta ämne bara för "members of the club"? Det kanske avslöjas i något av de kryptiska inläggen vad det handlar om men jag orkar inte läsa dem, så kan ni vara snälla att tala i klartext! Va ä dä?

undrar Algotezza

[Doe]

Först ett klargörande: experimentet är ett tankeexperiment. Det är emfatiskt inte möjligt att genomföra i verkligheten. En maskin/protokoll komplex nog att klara av ett Turingtest skulle aldrig kunna rymmas i en enkel bok, eller exekveras av en enda person, som i tankeexperimentet. Det finns idag inga maskiner kapabla att klara av ett Turingtest. Det är ren Science Fiction.

Handlar inte experimentet om att, utifrån språkkoden besvara frågor som endast frågeställaren (och konstruktören) förstår? Som en miniräknare gör med den matematiska språkkoden alltså. Och jag tror inte att någon tänker sig att boken skulle vara särskilt enkel.

Men i princip är det väl bara tid som skiljer experimentets svar från svar avgivna av någon som förstår vad den säger.

För det andra: testets funktion, i Searles ursprungliga text, är att kritisera tanken på att en AI skulle kunna utveckla mänskligt medvetande och förståelse.

Lite lustigt är det att man då finner sig tvungen att stoppa in en intelligens i rummet. Men hur fungerar den kritiken? Om vi förenklar experimentet: Jag ger en vätte ett kort med det ultimata rostbrödets färg, stoppar den i min brödrost med instruktion om att skicka upp mackan när dess färg är densamma som kortets. Vad har det med mänskligt medvetande och förståelse att göra?

Jag håller alltså med om att en AI skulle vara omänsklig, men tycker inte att testet tar upp den frågan.

För det tredje: för att kunna klara av ett Turingtest måste en maskin helt klart kunna formulera egna frågor. Den ska helt enkelt kunna vara förmögen att konversera så mänskligt att det kan lura den smartaste examinator.

Antar att jag har fått mig en väl förkortad beskrivning av Turingtestet till livs. Jag har fått för mig att det är just att besvara frågor det handlar om. Är det så, är det väl fortfarande tidsaspekten som skulle skilja svaren åt, och tid kan väl knappast vara någonting att fästa sig vid vad gäller ett föremåls intelligens.
  För övrigt undrar jag lite varför det, som hos Turing, förutsätts att intelligensen skulle vara mänsklig.