DEt kinesiska rummet, jag tror han lurar oss

[Dura M]

Poängen är att om mediet bara är vanlig materia, så måste medvetande vara medieneutralt. Det finns ingen typ av vanlig materia som har några mystiska egenskaper som skulle kunna ge det en särskild status, när det gäller att förläna någonting medvetande.

Vem har pratat om mystiska egenskaper? Det kan väl ändå inte vara någon nyhet att olika saker kan ha olika egenskaper även om de i grund och botten alla består av materia?

[Algotezza]

För att variera på tjötandet och se om någon i "klubben" kommer att svara på mina inlägg på denna tråd, vill jag ställa några frågor:

1. Hade alla människor klarat av Turing- resp kinesiska rum-testet: dvs. hade man om alla fällt omdömet att de är medvetna/självmedvetna varelser eller hade några klassats som icke-medvetna datorer/maskiner?

2. Vad ligger till grund för att vi klassar någon som medveten/ självmedveten?

a. Att han/hon uttrycker sig med hög grad av komplexitet och djup i sina språkliga utsasgor och kan föra en dialog på ett relevant och intressant sätt?

eller helt simpelt

b. Att han/hon primärt ser ut ungefär som en själv (ser mänsklig ut) och sekundärt uttrycker sig som en själv språkligt? Är det inte så att ju mer någon liknar en själv och uttrycker sig som en själv, desto högre grad av medvetande och självmedvetande anser vi att denna varelse har?

c. Hur höga krav vad gäller grad av komplexitet och djup i språkliga utsagor och  förmåga att föra en dialog på ett relevant och intressant sätt ställer vi på dem som fysiskt liknar oss för att vi skall dra slutsatsen att de är medvetna/självmedvetna? Ställer vi inte högre krav på dem som inte liknar oss för att vi skall kalla dem medvetna/ självmedvetna?

d. Om vi programmerar två robotar på exakt samma sätt och så att de också skulle lätt klara av ett Turingtest och sedan konfronteras med dem "öga mot öga", vilken robot skulle vi kalla mest medveten/självmedveten: den som fysiskt mest liknar en människa eller den som liknar en ordinär dator?

Detta är min tes

Jag menar att vi på tämligen simpla, emotionella, icke-rationella grunder menar att någon  äger medvetande/självmedvetande: i första hand att han/hon liknar en själv och i andra hand han/hon uttrycker sig som en själv. Inte handlar det primärt om graden av komplexitet och djup i  språkliga utsagor och förmåga att föra en dialog på ett relevant och intressant sätt? Är inte därmed både Searle och Turing därmed något ute och reser?

En sista fråga

Vilken utomjording skulle vi kalla medveten/självmedveten om båda kunde kommunicera med oss telepatiskt på analogt sätt: en humanoid som  liknar en skäggig, flintskallig Britney Spears med grön hud och snyggt designade färgstarka kläder och  som andas samma luft som vi, eller ett helt naket grått blötdjursliknande väsen med tjugo tentakler som måste ligga i ett akvarium av svavelsyra för att överleva?


MVH

Algotezza

[Dura M]

1. Hade alla människor klarat av Turing- resp kinesiska rum-testet: dvs. hade man om alla fällt omdömet att de är medvetna/självmedvetna varelser eller hade några klassats som icke-medvetna datorer/maskiner?

Algotezza, som jag redan har skrivit är inte Turingtestet tänkt som ett nödvändigt villkor för intelligens, bara som ett tillräckligt. Det är alltså fullt möjligt att man vid testet "missar" en intelligent varelse, även en mänsklig sådan!

Testupplägget är i korthet att vi har två försöksobjekt, en människa och en AI (man kan även tänka sig upplägg med fler deltagare). Sedan har vi en (mänsklig) försöksledare vars uppgift är att avgöra vilket av försöksobjekten som är människan (han får alltså bara peka ut ett av dem). Försöksledaren kommunicerar med båda försöksobjekten via en textlänk och får ställa vilka frågor han vill eller prata om vad han vill, ungefär som vi gör här på forumet. Försöksobjektens uppgift är att övertyga försöksledaren om att de är människor. Om nu försöksledaren tror att det är AI:n som är människan har AI:n klarat testet. Det är nu lätt att se att även en AI som beter sig precis som en människa (eller de facto är en människa) kommer att misslyckas ungefär hälften av gångerna. Man kan alltså inte dra några långtgående slutsatser av ett misslyckande, utan vad frågan gäller är vilka slutsatser man kan dra av ett lyckat utfall.

Slutligen vill jag påpeka att Turing själv beskrev sitt test som ett test på intelligens, inte som ett test på medvetande. Den skillnaden kan vara värd att notera.

Välkommen in i "klubben"!

[Algotezza]

1. Hade alla människor klarat av Turing- resp kinesiska rum-testet: dvs. hade man om alla fällt omdömet att de är medvetna/självmedvetna varelser eller hade några klassats som icke-medvetna datorer/maskiner?

Algotezza, som jag redan har skrivit är inte Turingtestet tänkt som ett nödvändigt villkor för intelligens, bara som ett tillräckligt. Det är alltså fullt möjligt att man vid testet "missar" en intelligent varelse, även en mänsklig sådan!(/quote]

Skall man dra slutsatser gällande grad av liv också?

Om det nu bara är intelligensen man prövar - och ej graden av medvetenhet - känner jag förvisso en del som nog skulle falla igenom...

Testupplägget är i korthet att vi har två försöksobjekt, en människa och en AI (man kan även tänka sig upplägg med fler deltagare). Sedan har vi en (mänsklig) försöksledare vars uppgift är att avgöra vilket av försöksobjekten som är människan (han får alltså bara peka ut ett av dem). Försöksledaren kommunicerar med båda försöksobjekten via en textlänk och får ställa vilka frågor han vill eller prata om vad han vill, ungefär som vi gör här på forumet. Försöksobjektens uppgift är att övertyga försöksledaren om att de är människor. Om nu försöksledaren tror att det är AI:n som är människan har AI:n klarat testet. Det är nu lätt att se att även en AI som beter sig precis som en människa (eller de facto är en människa) kommer att misslyckas ungefär hälften av gångerna. Man kan alltså inte dra några långtgående slutsatser av ett misslyckande, utan vad frågan gäller är vilka slutsatser man kan dra av ett lyckat utfall.

Ja, jag har läst om Turing-testet - men det var ett tag sedan. Det kinesiska rummet kände jag dock inte till. Handlar det primärt om medvetande eller om intelligens? Det verkar ju handla om att vara medveten för det är vad de flesta skribenter här tagit upp.

Slutligen vill jag påpeka att Turing själv beskrev sitt test som ett test på intelligens, inte som ett test på medvetande. Den skillnaden kan vara värd att notera.

Man kan ju fråga sig hur intelligens skall relateras till medvetande/medvetenhet. Kan man talla om omedveten intelligens? En maskins omedvetena, automatiskt fungerande intelligens?

Medvetande kan ju vara relationellt betingat, alltså emanera ur relationen mellan fysiska, icke medvetna strukturer. Man kan jämföra med att det kanske är oftare att två medelmåttiga föräldrar kan få genier till barn än att två genier skulle få ännu genialare avkomma än de själva.

Välkommen in i "klubben"!

Tackar!

MVH

Algotezza

[Dura M]

Skall man dra slutsatser gällande grad av liv också?

Nej, varför det?

Man kan ju fråga sig hur intelligens skall relateras till medvetande/medvetenhet. Kan man talla om omedveten intelligens? En maskins omedvetena, automatiskt fungerande intelligens?

Det var länge sedan jag läste om detta men jag vill minnas att Turing själv ansåg att frågan om medvetande var meningslös, gissningsvis för att det är en "inre" egenskap som inte är åtkomlig för tester. Intelligens kan däremot ses som en "yttre" egenskap, en förmåga att lösa problem, ge vettiga svar på frågor eller liknande och blir därmed tillgängligt för test.

Searle å sin sida var intresserad av medvetandefrågan och hans kinesiska rum syftar just till att argumentera mot att en dator (eller annat symbolmanipuleringssystem av liknande slag) kan vara medveten. Han menade att även om en sådan maskin kan uppvisa yttre egenskaper som gör att den passerar Turingtestet så är den inte medveten.

[Zokrates]

Skillnaden mellan maskinen och människan är ju att människan har känsel, emotionella värden mm. Maskinen kan ju inte uppleva intrinsikala värden och således ej heller få en heltäckande medvetenhet, annat än den baserad på rent instumentella värden. Men samtidigt så finns det ju handikappade människor, som dels kan sakna all känsel eller ligger i koma, varpå man kan undra, vi ser dem som mänskliga, men deras funktion är likt maskinen kraftigt nedsatt, huruvida vi är lurade av en maskin som föreställer sig vara en människa är en sak, men om vi anser att människor utan att de behöver kunna uppleva eller ens känna, alltid ändå är ett intelligent väsen då vi ser till deras möjliga kapacitet mer än funktion, varför betrakta en fungerande tänkande maskin annorlunda då? Säg att man i framtiden kan lagra en människas hjärna i en avancerad dator, helt elektroniskt. Alla minnen finns bevarade och inte nog med det, människan fortsätter att tänka i denna maskin, det går att kommunicera och ge ny information mm. Skulle avsaknaden av en kropp och känsel vara kriterium för att inte kalla detta medvetande, intelligent? Den klarar Turing testet och uppfyller alla krav på medvetande, att det är en människas hjärna som använts förändrar inte det faktum, att vi talar om en maskin, men istället för enbart ett program, som även det är skapat av människor, så används en mänsklig hjärnstruktur som underlag i programmet. Fusk?

[Calvino]

Poängen är att om mediet bara är vanlig materia, så måste medvetande vara medieneutralt. Det finns ingen typ av vanlig materia som har några mystiska egenskaper som skulle kunna ge det en särskild status, när det gäller att förläna någonting medvetande.

Vem har pratat om mystiska egenskaper? Det kan väl ändå inte vara någon nyhet att olika saker kan ha olika egenskaper även om de i grund och botten alla består av materia?

Nä, men om intelligensen ska ligga i mediet, förstått som en viss speciell sorts materia, kanske ett visst grundämne -- istället för i olika symboliska processer som äger rum i mediet, vilket är de flestas åsikt -- så måste mediet ha egenskaper som är "mystiska" jämfört med de olika egenskaper som vanligtvis skiljer olika sorters materia åt, såsom elektrisk ledningsförmåga, densitet, kemiska egenskaper etc

[Calvino]

Fast det var precis det jag menade med emergenstjoffset som ett slags dualism, eller menar du att bilmetaforen täcker medvetande?

Bilmetaforen täcker medvetande såtillvida att det är enligt en dylik princip som de flesta funktionalistiska medvetandefilosofer föreställer sig att medvetandet fungerar: som interaktioner i ett komplext system. Searle håller givetvis inte med.

Vad gäller "kinesiska rummet", så vill jag mena, faktiskt med Searle som jag förstår det, att det skall till något helt annat för att vi skall kalla det "kinesiska rummet" för intelligent (som vi föreställer oss AI). Och det är väl den dimensionen av varat som du menar oss behöva fenomenologerna till, om jag förstår dig rätt

Nja. Jag vet inte vad som skulle till för att du skulle kalla det kinesiska rummet för intelligent, men för mig räcker det med att det klarar av ett tillräckligt komplext Turingtest.

Jag menar, jag har samma förhållande, rent principiellt, till andra människor. Jag bedömer deras intelligens utifrån deras beteende. Jag har ingen möjlighet att sätta mig i direkt kontakt med deras subjektivitet, deras självmedvetenhet. Den förblir för mig en sluten domän, varför jag aldrig kan vara säkra på att de har medvetande, precis som jag aldrig kan vara säker på att rummet har det (det klassiska "zombieproblemet").

So far, so good. Det verkliga problemet uppstår egentligen först när jag ska begrunda mitt eget medvetande. Det är då jag hamnar i det omöjliga dödläge där den objektiva vetenskapen helt enkelt inte kan hjälpa mig: jag kan inte förstå mitt eget självmedvetande, såsom jag upplever det i min privata subjektivitet, som något yttre, externt, objektivt. Hur jag än försöker reducera mina egna tankeprocesser till något som kan observeras och begrundas på avstånd, så drabbas jag alltid av paradoxen: vem är observatören? Om inte -- jag själv. Detta minimum, denna kvarvarande smula av subjektivitet kommer jag aldrig ifrån, varför det i förlängningen är fåfängt att försöka utföra den reduktionistiska manövern på mitt eget medvetande.

Det är för att förstå denna irreducibla subjektivitet, denna levda erfarenhet, som vi behöver fenomenologin.

Fast jag skulle säga att den materialistiska reduktionen aldrig kan förklara något alls - inte om den skall hålla sig fri från teori/ideologi -, den kan bara beskriva. Det är egentligen ett "realismens problematik", berättandet måste finna sin väg in för att begreppsliggöra de processer och lagar som man i naturen upptäcker.

Jag tror tyvärr inte att jag förstår. Vad är skillnaden mellan att förklara och att beskriva, menar du? Varför måste vetenskapen hålla sig fri från teori -- teorier är väl vad vetenskapen ägnar sig åt? Vari ligger likhetstecknet mellan teori och ideologi? Varför är behovet av begreppsliggörande ett problem för realismen?

Du söker komma undan genom att peka på Chomskys djupstrukturer, men jag anser inte att det räcker - Algotezza påpekade väl detta, och kallade det "Gud" (kan ha varit i en annan tråd), vilket det också skulle vara för poststrukturalisterna. Det är fortfarande metafysik.

Jag ser inte att mitt åberopande av Chomsky skulle vara metafysiskt (det var i Wittgensteintråden) -- men jag har å andra sidan inte järnkoll på vad poststrukturalismen avser med "metafysik".  Jag är även osäker på vad du menar med att jag "söker komma undan". Ja, som du märker så begriper jag inte särskilt mycket alls

[Avantgardet]

Men jag var nästan säker på att Searle själv använde den förklaringsmodellen, fast jag kan ju ha misstagit mig.

Det som skulle krävas för att jag skulle kalla något medvetet är antagligen möjligheten att begå misstag, kreativa misstag, att missförstå osv. Det är ett mynt med två sidor, och jag tycker det verkar som att medvetandefilosoferna missar det där. Att svara korrekt på frågor, och utföra operationer enligt order, vittnar ju inte om någon förståelse eller medvetenhet, blott en linjär programmering. Det är väl det där egna, det oförutsägbara, där vår egen makt över den andra organismen bryts ner så att säga (när den inte längre följer våra order), som vi överhuvudtaget blir medvetna om denna andra organism som ett eget subjekt? Där den upphör att vara ett redskap för mina intentioner och blir sin egen.

Jag menar att du uttrycker dig lite lustigt när du kallar detta för en sista liten "smula", eller rest, av subjektivitet, när det i själva verket är vårt enda sätt att uppleva världen på - det är för mig ett gigantiskt oöverstigligt hinder snarare än en liten smula. Själv skulle jag tvärtom pekat på att det artificiella i en objektivitet som aldrig kan vara något annat än en hypotes, en abstraktion ur det subjektiva.

Det gemensamma i teori och ideologi, i den bemärkelse som jag talade om dem, är narrativ. En "ren" vetenskap kan endast uttryckas med matematiska formler, statistik, m.m. Alltså beskriva i helt neutrala och tomma termer. Här finner Hume sin plats när han kritiserar kausaliteten. För att göra dessa "döda" data begripliga så måste en tolkningsakt komma till stånd, och där denna sker så är den alltid redan indragen i en ideologi (och den finns redan där vetenskapen kastar ut, vad den väljer att undersöka osv.). Det finns inga rena sinnesdata, det finns ingen ren vetenskap. Och om du säger att teori är vad vetenskapen sysslar med så trollar du ju också bort det som den menas referera till - dvs. verkligheten - och den blir ett slutet symboliskt system.

Ditt åberopande av Chomsky är metafysiskt i den mening att Chomsky placerar en struktur inne i människan själv som menas generera "mening" (tinget-i-sig), men världen är ett spel av skillnader, det är skillnaderna som genererar mening och betydelse - i Saussures mening. Saussure skulle förstås drabbas av samma kritik, då han låter språket utgöra detta system, och det inte finns något sätt att hålla strukturen fast. Den är alltid öppen och delar sig, mot det oändliga. Strukturalismen är alltså ett slags närvarometafysik, det är en modern tappning av platonismen om man så vill.

[Sartre]

searle angriper de funktionalistiska idéerna, som hävdar att tänka på (eller förstå) är:

-förmågor
-klara turing-testet
-kunna manipulera ”syntaktiska objekt” (som alltså i sig själva inte har mening)
-enligt regler kunna hantera formella symboler (godtyckliga, som i sig själva inte har mening)

(graden av funktionalism blir starkare för varje steg)

om det ovan stämmer, vilket representanter för stark ai hävdar, så kan vi väl säga att även matsmältningen tänker, för det går att beskriva att magen hanterar formella symboler…

[Calvino]

Det som skulle krävas för att jag skulle kalla något medvetet är antagligen möjligheten att begå misstag, kreativa misstag, att missförstå osv. Det är ett mynt med två sidor, och jag tycker det verkar som att medvetandefilosoferna missar det där. Att svara korrekt på frågor, och utföra operationer enligt order, vittnar ju inte om någon förståelse eller medvetenhet, blott en linjär programmering. Det är väl det där egna, det oförutsägbara, där vår egen makt över den andra organismen bryts ner så att säga (när den inte längre följer våra order), som vi överhuvudtaget blir medvetna om denna andra organism som ett eget subjekt? Där den upphör att vara ett redskap för mina intentioner och blir sin egen.

Men alltså, det som rummet förväntas klara av är inte att "svara korrekt på frågor och utföra operationer enligt order". Det är att klara ett Turingtest, vilket innebär, lura en mänsklig examinator att det är en människa. Om den mänskliga examinatorn vore du, så skulle det innebära att rummet skulle förmå begå kreativa misstag, missförstå osv. Vad som helst som krävs för att rummet ska klara testet -- det är premissen i experimentet.

Jag börjar bli lite less på att påpeka det

det är för mig ett gigantiskt oöverstigligt hinder snarare än en liten smula.

Om du läser min passage igen så kanske du ser, att jag också finner det vara ett oöverstigligt hinder Resten är retorik.

Det gemensamma i teori och ideologi, i den bemärkelse som jag talade om dem, är narrativ. En "ren" vetenskap kan endast uttryckas med matematiska formler, statistik, m.m. Alltså beskriva i helt neutrala och tomma termer. Här finner Hume sin plats när han kritiserar kausaliteten. För att göra dessa "döda" data begripliga så måste en tolkningsakt komma till stånd, och där denna sker så är den alltid redan indragen i en ideologi (och den finns redan där vetenskapen kastar ut, vad den väljer att undersöka osv.). Det finns inga rena sinnesdata, det finns ingen ren vetenskap. Och om du säger att teori är vad vetenskapen sysslar med så trollar du ju också bort det som den menas referera till - dvs. verkligheten - och den blir ett slutet symboliskt system.

Jag tycker att det är lustigt att du i ena ögonblicket hävdar att en "ren" vetenskap endast, om jag förstår dig rätt, får referera till sinnesdata, Rudolf Carnap-style, och sedan hävdar att det inte existerar sinnesdata.  Vem är du att definiera "ren" vetenskap på så vis, att den blir omöjlig att bedriva?

Jag förstår inte varför en teori inte skulle kunna referera till verkligheten. Eller varför en tolkningsakt på något sätt komprometterar språkets förmåga att refera till den här verkligheten. Om det är som du säger, att det inte finns några rena sinnesdata, så kommer det ju att vara omöjligt att referera till verkligheten utan att gå omvägen via någon slags tolkning, både i vårt vanliga språk och i vetenskapens språk. Betyder det att all vår kommunikation är metafysisk? I sådana fall förlorar själva ordet "metafysisk" sin innebörd.

Om man, som du, har allt för stora krav på vad "realism" innebär -- någon slags omedierad, "ren" koppling mellan språk och verklighet -- så är det klart att man blir besviken när verklig språkanvändning gång på gång visar sig vara färgad av förutfattade meningar, tolkningar etc. Men det innebär ju inte att språket inte kan referera till verkligheten. Jag sträcker ut mitt finger mot solen, jag säger "solen" -- voila! Jag har refererat till verkligheten.

Ditt åberopande av Chomsky är metafysiskt i den mening att Chomsky placerar en struktur inne i människan själv som menas generera "mening" (tinget-i-sig)

Ah, men riktigt så enkelt är det inte. Vad den universella grammatiken (du använder ordet "djupstruktur" felaktigt, eftersom det syftar på enskilda meningar snarare än språket som helhet) genererar, är bara språkets användning. För att gå från användning till mening (i bemärkelsen "betydelse") så måste man tillämpa Wittgensteins diktum "betydelse är användning". Detta var varför jag åberopade Chomsky just i tråden om Wittgenstein.

Vi kan inte rikta oss till lingvister som de Saussure och Chomsky för att få svar på frågan, "vad är mening" -- de kommer alltid bara att förklara hur språkliga strukturer uppstår. Frågan om meningen är en genuint filosofisk fråga. Du hävdar:

men världen är ett spel av skillnader, det är skillnaderna som genererar mening och betydelse

och mot detta hävdar jag "betydelse är användning". Den riktiga striden står alltså inte mellan Chomsky och de Saussure, utan mellan Wittgenstein och Derrida.

[Calvino]

om det ovan stämmer, vilket representanter för stark ai hävdar, så kan vi väl säga att även matsmältningen tänker, för det går att beskriva att magen hanterar formella symboler…

Nej, eftersom tänkande enligt funktionalismen givetvis kräver en viss minimal grad av komplexitet, som matsmältningen inte når upp till, samt vissa särskilda funktioner, som matsmältningen inte äger. Däremot stämmer det förstås att matsmältning och tänkande rent principiellt är samma typer av processer, dvs kemisk-fysiologiska processer i människokroppen.

[Sartre]

vilken viss minimal grad av komplexitet?

och

vilka vissa särskilda funktioner är det som matsmältningen inte äger?

[Calvino]

Dessa frågor är vad forskningen i mångt och mycket handlar om att besvara.

[Avantgardet]

Kan nån av er analytiker, med ett ord, placera in Searle i den idéhistoriska kontexten? Jag blir förvirrad av alla bud...

I övrigt, välkommen till klubben - där alltid något händer när jag är i farten - och där man skall lyssna till Algot FM om man vill åt förnuftet, det vi önskar är lite mer medmänsklighet och mänsklighet överhuvudtaget. Där vi bryter tabun helt omotiverat men med bortförklaringar som vinner stilpoäng, och rationaliseringar som trotsar varje förnuftig människas moral, likväl kommer till pudelns kärna som en nötknäckare på lyset. Och det gör detsamma, likförbannat, det är ändå samma existentiella kategorier som behandlas.