Er hjernens sind et computerprogram?

Nej. Et program manipulerer kun symboler, hvorimod en hjerne forbinder betydning til dem

John R. Searle*

Kan en maskine tænke? Kan en maskine have bevidste tanker i nøjagtig den samme forstand, som du og jeg har? Hvis man med "maskine" mener et fysisk system, som er i stand til at udføre visse funktioner (og hvad andet kan man mene?), så er mennesker maskiner af en vis biologisk type og mennesker kan tænke og derfor kan maskiner selvfølgelig tænke. Og, efter alt hvad vi ved, kunne det være muligt at frembringe en tænkende maskine af helt anderledes materialer - f.eks. af silicium chips eller elektronrør. Måske vil det vise sig umuligt, men det ved vi bestemt ikke endnu.
    I de seneste årtier har spørgsmålet om, hvorvidt en maskine kan tænke imidlertid fået en helt anderledes tolkning. Spørgsmålet, der i stedet er blevet stillet, er: Kunne en maskine tænke blot ved hjælp af at anvende et computerprogram? Udgør programmet i sig selv tænkning? Det er et helt anderledes spørgsmål, fordi det ikke drejer sig om de fysiske, virkelige egenskaber ved virkelige eller mulige fysiske systemer men i stedet om de abstrakte, beregningsmæssige egenskaber ved formelle computerprogrammer, der kan gennemføres i enhver substans under forudsætning af at substansen kan bære programmet.
    Et pænt antal forskere i kunstig intelligens (Artificial Intelligence, AI) tror, at svaret på det andet spørgsmål er ja; dvs. at de tror, at de ved at konstruere de rette programmer, med de rette input og output, håndgribeligt skaber sind. De tror ydermere, at de har en videnskabelig prøve til at bestemme succes eller fejl: Turingprøven, som blev anvist af Alan M. Turing, grundlæggeren af kunstig intelligens. Turingprøven, som den forstås i øjeblikket, er helt enkelt dette: hvis en computer kan fungere på en sådan måde, at en ekspert ikke kan skelne dens funktion fra funktionen af et menneske, som har en vis kognitiv evne - f.eks. evnen til at addere eller forstå kinesisk - så har computeren også den evne. Så målet er at konstruere programmer, der vil simulere menneskelig kognition på en sådan måde, at de vil bestå Turingprøven. Ydermere vil et sådant program ikke kun være en model af sindet; det vil håndgribeligt være et sind i samme forstand, som et menneskeligt sind er et sind.
    Men det er slet ikke alle arbejdere i kunstig intelligens, der accepterer et så ekstremt synspunkt. En mere forsigtig indfaldsvinkel er at tænke på computermodeller som værende nyttige ved studiet af sindet på samme måde, som de er nyttige ved studiet af vejret, økonomi eller molekylær biologi. For at skelne mellem disse to indfaldsvinkler kalder jeg den første stærk AI og den anden svag AI. Det er vigtigt at indse nøjagtigt, hvor modig en indfaldsvinkel stærk AI er. Stærk AI hævder, at tænkning blot er manipulationen af formelle symboler og det er nøjagtigt hvad computeren gør: manipulerer formelle symboler. Dette synspunkt opsummeres ofte ved at sige, "Sindet er for hjernen hvad programmet er for hardware."

Stærk AI er usædvanlig blandt teorier om sindet i mindst to henseender: den kan fremsættes klart og den muliggør en enkelt og afgørende gendrivelse. Gendrivelsen kan afprøves af enhver person for sig selv. Her er hvordan den foregår. Overvej et sprog du ikke forstår. I mit tilfælde forstår jeg ikke kinesisk. For mig ligner kinesisk skrift så mange andre kruseduller. Antag nu, at jeg er placeret i et rum, der indeholder kurve, som er fulde af kinesiske symboler. Antag også, at jeg får en bog på engelsk om regler for at sammensætte kinesiske symboler med andre kinesiske symboler. Reglerne identificerer udelukkende symbolerne ved deres former og kræver ikke, at jeg forstår nogen af dem. Reglerne kunne sige ting som, "Tag et krusedulle-krusedulle tegn fra kurv nummer et og anbring det ved siden af et krusedalle-krusedalle tegn fra kurv nummer to.
    Forestil dig, at folk, som forstår kinesisk, uden for rummet indgiver små bundter af symboler og at jeg som svar manipulerer symbolerne ifølge regelbogen og giver flere små bundter af symboler tilbage. Nu er regelbogen "computerprogrammet." Folkene der skrev den er "programmører" og jeg er "computeren." Kurvene fulde af symboler er "databasen," de små bundter, der gives mig, er "spørgsmål" og bundterne, jeg giver ud, er "svar."
    Antag nu, at regelbogen er skrevet på en sådan måde, at mine "svar" på "spørgsmålene" ikke kan skelnes fra dem, en indfødt kinesisk talende person ville give. F.eks. kunne folkene udenfor give mig nogle symboler, der uden mit vidende betyder "Hvad er din yndlingsfarve?" og efter at være gået igennem reglerne kunne jeg give nogle symboler tilbage, som uden mit vidende betyder "Min yndling er blå, men jeg kan også lide grøn." Jeg tilfredsstiller Turingprøven for at forstå kinesisk. Samtidig er jeg helt uvidende om kinesisk. Og der er ingen måde, hvorpå jeg kunne komme til at forstå kinesisk i det beskrevne system, da der ikke er nogen måde, jeg kunne lære betydningen af nogen af symbolerne. Som en computer manipulerer jeg symboler, men tillægger ikke symbolerne nogen betydning.
    Pointen i tankeeksperimentet er denne: hvis jeg ikke forstår kinesisk udelukkende på basis af at køre et computerprogram til forståelse af kinesisk, så er der heller ikke nogen digital computer, der gør det udelukkende på den basis. Digitale computere manipulerer kun formelle symboler ifølge regler i programmet.
    Hvad der gælder for kinesisk gælder også for andre former for kognition. Blot at manipulere symbolerne er ikke nok til at garantere kognition, perception, forståelse, tænkning og så videre. Og da computere, qua computere, er symbol-manipulerende anordninger, er kørsel af programmet ikke nok til at garantere kognition.
    Dette enkle argument er afgørende imod det, den stærke AI hævder. Argumentets første præmis erklærer helt enkelt den formelle karakter af et computerprogram. Programmer defineres ved hjælp af symbolmanipulationer og symbolerne er helt formelle eller "syntaktiske." Forresten er programmernes formelle karakter det, der gør computere så kraftige. Det samme program kan køres på en uendelig variation af hardware og en hardware kan køre et uendeligt område af computerprogrammer. Lad mig forkorte dette "aksiom" som

    Aksiom 1. Computerprogrammer er formelle (syntaktiske).

    Denne pointe er så afgørende, at den er værd at forklare i større detalje. En digital computer behandler information ved først at indkode den i den symbolisme computeren anvender og så manipulere symbolerne gennem et sæt præcist erklærede regler. Disse regler udgør programmet. F.eks. var symbolerne i Turings tidlige teori om computere helt enkelt 0'er og 1'er og programmets regler sagde ting som "Udskriv et 0 på båndet, bevæg dig et kvadrat til venstre og slet et 1." Det forbavsende ved computere er, at enhver information, der kan erklæres i et sprog, kan indkodes i et sådant system og at enhver informationsbehandlende opgave, der kan løses af klare regler, kan programmeres.

To yderligere punkter er vigtige. For det første er symboler og programmer rent abstrakte ideer: de har ingen essentielt fysiske egenskaber, der definerer dem og kan anvendes i ethvert fysisk medium. 0'erne og 1'erne, qua symboler, har ingen essentielle fysiske egenskaber og derfor ingen fysiske kausale egenskaber. Jeg understreger dette punkt, fordi det er fristende at identificere computere med en eller anden specifik teknologi - f.eks. silicium chips - og at tro, at emnerne drejer sig om fysikken i silicium chips eller at tro, at syntaksen identificerer et fysisk fænomen, som kunne have indtil nu ukendte kausale kræfter på den måde, som virkelige fysiske fænomener som elektromagnetisk stråling eller hydrogenatomer har fysiske, kausale kræfter. Det andet punkt er, at symboler manipuleres uden reference til nogen betydninger. Programmets symboler kan stå for alt, som programmøren eller brugeren ønsker. I denne forstand har programmet syntaks, men ingen semantik.
    Det næste aksiom er blot en påmindelse om den indlysende kendsgerning at tanker, perceptioner, forståelser og så videre har et mentalt indhold. På grund af deres indhold kan de være om genstande og tingenes tilstand i verden. Hvis indholdet involverer sprog, vil der, foruden semantik, være syntaks, men sprogmæssig forståelse kræver i det mindste semantiske rammer. Hvis, for eksempel, jeg tænker på det sidste præsidentvalg, vil visse ord passere gennem mit sind, men ordene er kun om valget, fordi jeg tillægger disse ord en særlig betydning i overensstemmelse med mit kendskab til engelsk. I denne henseende er de forskellige fra kinesiske symboler for mig. Lad mig forkorte dette aksiom som

    Aksiom 2. Menneskelige sind har mentale indhold (semantik).

    Lad mig nu tilføje det punkt som det kinesiske rum demonstrerede. At have symbolerne i sig selv - blot have syntaksen - er ikke tilstrækkeligt til at have semantik. At blot manipulere symbolerne er ikke tilstrækkeligt til at garantere kendskab til, hvad de betyder. Jeg vil forkorte dette til

    Aksiom 3. Syntaks i sig selv hverken udgør eller er tilstrækkeligt til semantik.

    På et niveau er dette princip sandt pr. definition. Man kunne, selvfølgelig, definere vendingerne syntaks og semantik anderledes. Punktet er her, at der er en distinktion mellem formelle elementer, som ikke har nogen indbygget betydning eller mening og de fænomener som har indbygget betydning. Ud Fra disse præmisser følger det

    Konklusion 1. Programmer hverken udgør eller er tilstrækkelige til sind.

    Og det er blot en anden måde at sige, at stærk AI er forkert.
    Det er vigtigt at indse, hvad der bevises og ikke bevises af dette argument.
    For det første har jeg ikke prøvet at bevise, at "en computer ikke kan tænke." Da alt, der kan simuleres beregningsmæssigt, kan beskrives som en computer og da vore hjerner til et vist niveau kan simuleres, følger det trivielt at vore hjerner er computere og at de bestemt kan tænke. Men fra det faktum at et system kan simuleres ved symbolmanipulation og det faktum at det tænker, følger det ikke at tænkning er ækvivalent med formel symbolmanipulation.
    For det andet har jeg ikke prøvet at vise, at kun biologisk baserede systemer, som vore hjerner, kan tænke. Lige nu er disse, de eneste systemer vi ved, som en kendsgerning, kan tænke, men vi kunne finde andre systemer i universet, der kan frembringe bevidste tanker og vi kunne endda komme frem til at skabe tænkende systemer kunstigt. Jeg anser dette emne som værende helt åbent.
    For det tredie er stærk AI's thesis ikke, at, efter alt vi ved, computere med de rette programmer kunne tænke, at de kunne have til nu udetekterede psykologiske egenskaber; den er snarere, at de må tænke, fordi det er alt, der er ved tænkning.
    For det fjerde har jeg prøvet at gendrive stærk AI defineret på denne måde. Jeg har prøvet at demonstrere, at programmet i sig selv ikke udgør tænkning, fordi programmet udelukkende drejer sig om formel symbolmanipulation - og vi ved uafhængigt, at symbolmanipulationer i sig selv ikke er tilstrækkelige til at garantere tilstedeværelsen af betydning. Det er det princip, på hvilket argumentet om det kinesiske rum virker.
    Jeg understreger disse punkter her, delvist fordi det forekommer mig at Churchlands [se "Could a Machine Think?" af Paul M. Churchland og Patricia Smith Churchland, side 26] ikke helt har forstået emnerne. De tror, at stærk AI hævder at computere kunne vise sig at tænke og at jeg benægter denne mulighed pga. sund fornuft. Men det er ikke det, stærk AI hævder og mit argument mod det har intet at gøre med sund fornuft.
    Jeg vil have mere at sige om deres indvendinger senere. I mellemtiden burde jeg pege på, at, modsat det Churchlands foreslår, det kinesiske rums argument også gendriver nogle stærk AI påstande om de nye parallelle teknologier, der er inspirerede af og er modeller af neurale netværk. Ulig den traditionelle von Neumann computer, som skrider frem trin-for-trin, har disse systemer mange beregningsmæssige elementer, der virker i parallel og vekselvirker med hinanden ifølge regler, der er inspireret af neurobiologi. Skønt resultaterne stadig er beskedne, rejser disse "parallel distribueret beregning" eller "connectionist" modeller nyttige spørgsmål om, hvordan komplekse parallelle netværkssystemer, som dem i hjernen, i virkeligheden kunne fungere i frembringelsen af intelligent adfærd.
    Den parallelle, "hjernelignende" karakter af behandlingen er imidlertid irrelevant for de rent beregningsmæssige sider af processen. Enhver funktion, der kan beregnes på en parallel maskine, kan også beregnes på en seriel maskine. Fordi parallelle maskiner stadig er sjældne køres connectionistiske programmer sædvanligvis på traditionelle serielle maskiner. Så giver parallel behandling ikke en vej uden om det kinesiske rums argument.
    Ydermere er det connectionistiske system, selv på sine egne betingelser, underlagt en variant af den indvending, der præsenteres af det oprindelige kinesiske rum argument. Forestil dig, at jeg i stedet for et kinesisk rum har en kinesisk gymnastiksal, en hal, som indeholder mange etsprogede, engelsktalende mænd. Disse mænd ville udføre de samme operationer som knudepunkterne og synapserne i en connectionistisk arkitektur som beskrevet af Churchlands og resultatet ville være det samme som at have en mand til at manipulere symboler ifølge en regelbog. Ingen i gymnastiksalen taler et ord kinesisk og der er ingen måde, hvorpå systemet som helhed kan lære betydningen af nogen kinesiske ord. Alligevel ville systemet med passende justeringer kunne give de korrekte svar på kinesiske spørgsmål.
    Som jeg antydede tidligere er der interessante egenskaber ved connectionistiske net, som sætter dem i stand til at simulere hjerneprocesser mere nøjagtigt end traditionel seriel arkitektur. Men fordelene ved parallel arkitektur for svag AI er temmelig irrelevante for emnerne mellem det kinesiske rums argument og stærk AI.
    Churchlands mangler dette punkt, når de siger, at en gymnastiksal, som er stor nok, kunne have mentale egenskaber på højt niveau, som dukker frem af systemets størrelse og kompleksitet, ligesom hele hjerner har mentale egenskaber, der ikke indehaves af individuelle neuroner. Det er, selvfølgelig, en mulighed, men den har intet at gøre med beregning. Beregningsmæssigt er serielle og parallelle systemer ækvivalente: enhver beregning, der kan gøres parallelt, kan gøres serielt. Hvis manden i det kinesiske rum er beregningsmæssigt ækvivalent til begge, så forstår han ikke kinesisk alene på grund af at udføre beregningerne og det gør de heller ikke. Churchlands har ret, når de siger, at det oprindelige kinesiske rum blev konstrueret med henblik på traditionel AI, men tager fejl, når de tror, at connectionismen er immun overfor argumentet. Det gælder for ethvert beregningssystem. Man kan ikke få semantisk ladede tankeindhold alene fra formelle beregninger, hvadenten de er udført serielt eller parallelt; det er derfor det kinesiske rums argument gendriver stærk AI i enhver form.

Mange folk, som er under indtryk af dette argument, er ikke desto mindre forvirrede over forskellen mellem folk og computere. Hvis mennesker, i det mindste i en triviel forstand, er computere og hvis mennesker har en semantik, hvorfor kunne vi så ikke give semantik til andre computere? Hvorfor kunne vi ikke programmere en Vax eller Cray så den også ville have tanker og følelser? Eller hvorfor kunne en ny computer teknologi ikke overvinde gabet mellem form og indhold, mellem syntaks og semantik? Hvad er de faktiske forskelle mellem dyrehjerner og computersystemer, der sætter det kinesiske rums argument i stand til at virke mod computere men ikke mod hjerner?
    Den mest indlysende forskel er, at processerne, der definerer noget som en computer - beregningsprocesser - er fuldstændig uafhængige af nogen reference til en specifik type hardware implementation. I princippet kunne man lave en computer af gamle øldåser forbundet med snore og drevet af vindmøller.
    Skønt videnskaben stort set er uvidende om hvordan hjerner fungerer og frembringer mentale tilstande, slås man af den ekstremt specifikke anatomi og fysiologi. Hvor man har nogen forståelse af hvordan hjerneprocesser frembringer mentale fænomener - f.eks. smerte, tørst, syn, lugt - er det klart, at specifikke neurobiologiske processer er involverede. Visse former for tørst forårsages af neuronfyringer i hypothalamus, som er forårsaget af virkningen af en specifik peptid, angiotensin II. Årsagsrækkefølgen er fra "bunden og op" i den forstand, at neuronprocesser på lavt niveau forårsager mentale fænomener på højt niveau. Så vidt vi ved forårsages hver "mentale" begivenhed, lige fra følelser af tørst til tanker om matematiske teoremer og minder fra barndommen, af specifikke neuroner, der fyrer i specifikke neurale arkitekturer.
    Men hvorfor skulle denne specificitet betyde noget? Trods alt kunne neuronfyringer simuleres på computere, der havde en helt anden fysik og kemi end hjernens. Svaret er, at hjernen ikke bare tilvejebringer et formelt mønster eller program ( det gør den også), men den forårsager også mentale begivenheder gennem specifikke neurobiologiske processer. Hjerner er specifikke biologiske organer og deres specifikke biokemiske egenskaber sætter dem i stand til at forårsage bevidsthed og andre slags mentale fænomener. Computersimulationer af hjerneprocesser giver modeller af disse processers formelle sider. Men simulationen bør ikke forveksles med duplikation. Den beregningsmæssige model af mentale processer er ikke mere virkelig end den beregningsmæssige simulation af noget andet naturfænomen.
    Man kan forestille sig en computersimulering af peptiders virkning i hypothalamus, der er nøjagtig ned til den sidste synaps. Men på samme måde kan man forestille sig en computersimulering af oxidationen af kulbrinter i en bilmotor eller virkningen af fordøjelsesprocessen i en mave når den fordøjer pizza. Og simuleringen er ikke mere den virkelige proces i tilfældet med hjernen end den er i tilfældet med bilen eller maven. Bortset fra mirakler kunne man ikke køre sin bil ved at køre en computersimulering af oxideringen af benzin og man kunne ikke fordøje pizza ved at køre det program der simulerer fordøjelse. Det forekommer indlysende, at en simulering af kognition på samme måde ikke vil frembringe virkningerne af kognitionens neurobiologi.
    Så forårsages alle mentale fænomener af neurofysiologiske processer i hjernen. Derfor

    Axiom 4. Hjerner forårsager sind.

    I forbindelse med min tidligere udledning udleder jeg øjeblikkeligt, trivielt,

    Konklusion 2. Ethvert andet system som er i stand til at forårsage sind, skulle have kausale kræfter som (mindst) er ækvivalente med hjerners.

    Dette svarer til at sige, at hvis en elektrisk motor skulle være i stand til at drive en bil så hurtigt som en benzinmotor, så skal den (mindst) have en ækvivalent kraftydelse. Denne konklusion siger intet om mekanismerne. Faktisk er kognition et biologisk fænomen: mentale tilstande og processer forårsages af hjerneprocesser. Dette betyder ikke at kun et biologisk system kunne tænke, men det betyder, at ethvert alternativt system, hvadenten det er lavet af silicium, øldåser eller hvad, ville være nødt til at have de relevante kausale evner, ækvivalente med hjerners. Så nu kan jeg udlede

    Konklusion 3. Enhver kunstig frembringelse, der frembragte mentale fænomener, enhver kunstig hjerne, ville skulle kunne duplikere hjerners specifikke kausale kræfter og den kunne ikke gøre det blot ved at køre et formelt program.

    Ydermere kan jeg udlede en vigtig konklusion om menneskelige hjerner:

    Konklusion 4. Den måde hvorpå menneskelige hjerner i virkeligheden frembringer mentale fænomener på, kan ikke være ved kun at køre et computerprogram.

Jeg fremsatte først lignelsen om det kinesiske rum i siderne i Behavioral and Brain Sciences i 1980, hvor den fremkom, som det er sædvane i bladet, sammen med kommentarer, i dette tilfælde 26 kommentarer. Jeg synes, at den pointe den fremkommer med er temmelig indlysende, men til min overraskelse blev offentliggørelsen fulgt af en yderligere strøm af indvendinger der - mere overraskende - fortsætter til vore dage. Argumentet om det kinesiske rum har klart berørt et ømt punkt.
    Stærk AI's tese er, at et hvilket som helst system - hvad enten det er lavet af øldåser, siliciumchips eller toiletpapir - ikke blot kunne have tanker og følelser men skal have tanker og følelser, kun under forudsætning af, at det anvender det rette program med de rette input og output. Det er et udpræget antibiologisk synspunkt og man skulle tro at folk i AI ville være glade for at forlade det. Mange af dem, især den yngre generation, er enige med mig, men jeg er forbavset over forsvarernes antal og heftighed. Her er nogle af de almindelige indvendinger.
    a. I det kinesiske rum forstår man virkelig kinesisk, selv om man ikke ved det. Det er, trods alt, muligt at forstå noget uden at vide, at man forstår det.
    b. Man forstår ikke kinesisk, men der er et (ubevidst) undersystem i én der gør. Det er, trods alt, muligt at have ubevidste mentale tilstande og der er ingen grund til, at ens forståelse af kinesisk ikke skulle kunne være helt ubevidst.
    c. Man forstår ikke kinesisk, men hele rummet gør. Man er som en enkelt neuron i hjernen og ligesom en sådan enkelt neuron i sig selv ikke kan forstå, men kun bidrager til forståelsen af hele systemet, forstår man ikke, men hele systemet gør.
    d. Semantik eksisterer alligevel ikke; der er kun syntaks. Det er en slags førvidenskabelig illusion at antage, at der i hjernen findes noget mystisk "mentalt indhold," "tankeprocesser" eller "semantik." Alt hvad der findes i hjernen er den samme slags syntaktisk symbolmanipulation, som foregår i computere. Intet mere.
    e. Man kører i virkeligheden ikke computerprogrammet - man tror kun at man gør. Når man en gang har et bevidst middel, der gennemgår programmets trin, holder det helt op med at være et tilfælde af implementering af programmet.
    f. Computere ville have semantik og ikke blot syntaks, hvis deres input og output blev sat i passende kausal relation til resten af verden. Forestil dig, at vi satte computeren ind i en robot, forbandt tv kameraer til robottens hoved, installerede transducere, som forbandt tv budskaberne til computeren og fik computer output til at drive robottens arme og ben. Så ville hele systemet have en semantik.
    g. Hvis programmet simulerede hjernens funktion hos en kinesisk talende, så ville det forstå kinesisk. Antag, at vi simulerede hjernen hos en kinesisk person på neuronernes niveau. Så var det sikkert, at et sådant system ville forstå kinesisk så godt som nogen kinesisk persons hjerne.
    Og så videre.
    Alle disse argumenter deler en fælles egenskab: de er alle utilfredsstillende, fordi de ikke behandler det aktuelle kinesiske rums argument. Det argument hviler på distinktionen mellem den formelle symbolmanipulation, som udføres af computeren og de mentale indhold som biologisk frembringes af hjernen, en distinktion jeg har forkortet - ikke fejlagtigt, håber jeg - som distinktionen mellem syntaks og semantik. Jeg vil ikke gentage mine svar på alle disse indvendinger, men det vil hjælpe med at klargøre emnerne, hvis jeg forklarer svaghederne ved den mest udbredte indvending, argument c - det jeg kalder systemets svar. (Hjernesimulator svaret, argument g, er en anden populær indvending, men den har jeg allerede beskæftiget mig med i den foregående sektion).

Systemer-svaret forsikrer, at selvfølgelig forstår du ikke kinesisk, men hele systemet - du, rummet, regelbogen, kurvene fulde af symboler - gør. Da jeg først hørte denne forklaring, spurgte jeg en af fortalerne, "Mener du at rummet forstår kinesisk?" Hans svar var ja. Det er en vovet påstand, men bortset fra dens utroværdighed, vil den ikke virke af rent logiske grunde. Punktet i det oprindelige argument var, at symbolmanipulation i sig selv ikke giver nogen adgang til betydningen af symbolerne. Men det er lige så sandt for hele rummet, som det er for personen derinde. Man kan se dette punkt ved at udvide tankeeksperimentet. Forestil dig, at jeg lærer indholdet af kurvene og regelbogen udenad og udfører alle beregningerne i hovedet. Man kan endda forestille sig at jeg arbejder udenfor. Der er intet i "systemet" som ikke er i mig og da jeg ikke forstår kinesisk gør systemet heller ikke.
    I deres ledsagende skrift fremfører Churchlands en variant af systemsvaret ved at forestille sig en morsom analogi. Antag, at nogen sagde, at lys ikke kunne være elektromagnetisk for hvis man ryster en stangmagnet i et mørkt rum vil systemet ikke afgive noget synligt lys. Nu spørger Churchlands om ikke det kinesiske rums argument er ligesådan? Siger det ikke blot at hvis man ryster kinesiske symboler i et semantisk mørkt rum, vil de ikke afgive lyset af kinesisk forståelse? Men på samme måde som senere undersøgelse viste, at lys helt udgjordes af elektromagnetisk stråling, kunne senere undersøgelse så ikke vise at semantik helt bestod af syntaks? Er dette ikke et spørgsmål om videre videnskabelig undersøgelse?
    Argumenter fra analogi er notorisk svage, fordi man, før man kan få argumentet til at virke, skal etablere, at de to tilfælde er virkeligt analoge. Og her mener jeg de ikke er det. Redegørelsen for lys ved hjælp af elektromagnetisk stråling er en årsagsmæssig fortælling helt ned til bunden. Det er en årsagsmæssig redegørelse for den elektromagnetiske strålings fysik. Men analogien med formelle symboler fejler, fordi formelle synboler ikke har nogen fysiske kausale kræfter. Den eneste kraft symboler har, qua symboler, er kraften til at forårsage det næste trin i programmet, når maskinen kører. Og det er ikke et spørgsmål om at vente på yderligere forskning for at afsløre de fysiske, kausale egenskaber ved 0'er og 1'er. De eneste relevante egenskaber ved 0'er og 1'er er abstrakte beregningsmæssige egenskaber og de er allerede velkendte.
    Churchlands klager over at jeg "inviterer til spørgsmålet," når jeg siger, at utolkede formelle symboler ikke er identiske med mentalt indhold. Tja, jeg brugte ikke megen tid på at argumentere for det, fordi jeg anser det for en logisk sandhed. Som med enhver logisk sandhed kan man hurtigt se, at den er sand, fordi man får inkonsistenser, hvis man prøver at forestille sig det omvendte. Så lad os prøve det. Antag, at der i det kinesiske rum virkelig foregår nogen udetekterbar kinesisk tænkning. Hvad er det som eksakt gør manipulationen af syntaktiske elementer til specifikt kinesisk tankeindhold? Tja, trods alt antager jeg, at programmørerne var kinesisk talende, som programmerede systemet til at behandle kinesisk information.
    Fint. Men forestil dig nu at jeg, mens jeg sidder i det kinesiske rum og flytter de kinesiske symboler, keder mig ved kun at flytte de - for mig - meningsløse symboler. Så antag, at jeg beslutter at tolke symbolerne som stående for træk i et skakspil. Hvilken semantik afgiver systemet nu? Afgiver det en kinesisk semantik eller en skaksematik eller begge samtidigt? Antag, at en tredie person kigger ind gennem vinduet og hun beslutter, at symbolmanipulationerne alle kan tolkes som aktiemarked forudsigelser. Og så videre. Der er ingen grænse for antallet af semantiske tolkninger, der kan tillægges symbolerne, fordi, for at gentage det, symbolerne er helt formelle. De har ingen indbygget semantik.
    Er der nogen måde, hvorpå man kan redde Churchlands analogi fra at være usammenhængende? Jeg sagde ovenfor, at formelle symboler ikke har nogen kausale egenskaber. Men selvfølgelig vil programmet altid blive udført i noget hardware og hardwaren vil have specifikke fysiske kausale kræfter. Og enhver virkelig computer vil afgive forskellige fænomener. Mine computere afgiver f.eks. varme og de giver en brummende lyd og sommetider knusende lyde. Så er der nogen logisk overbevisende grund til, at de ikke også skulle kunne afgive bevidsthed? Nej. Videnskabeligt er ideen ikke mulig, men den er ikke noget, det kinesiske rums argument skal tilbagevise og den er ikke noget en tilhænger af stærk AI ville ønske at forsvare, fordi enhver sådan afgivelse måtte stamme fra egenskaberne ved det udførende medium. Men den grundlæggende præmis ved stærk AI er, at de fysiske egenskaber ved det udførende medium er totalt irrelevante. Det, der betyder noget, er programmer og programmer er rent formelle.
    Churchlands analogi mellem syntaks og elektromagnetisme konfronteres så med et dilemma; enten udlægges syntaksen rent formelt ved hjælp af dens abstrakte matematiske egenskaber, eller ikke. Hvis den gør, så bryder analogien sammen, fordi syntaks udlagt på den måde ikke har nogen fysiske kræfter og derfor ingen fysiske, kausale kræfter. Hvis man på den anden side antages at tænke ved hjælp af det udførende mediums fysik, så er der virkelig en analogi, men det er ikke en, der er relevant for stærk AI.

Fordi punkterne, jeg har fremdraget, er temmelig indlysende - syntaks er ikke det samme som semantik, hjerneprocesser forårsager mentale fænomener - rejser spørgsmålet sig: Hvordan kom vi ind i dette rod? Hvordan kunne nogen have antaget, at en computer simulation af en mental proces skal være den virkelige ting? Trods alt er hele pointen ved modeller, at de kun indeholder visse egenskaber ved det område man laver model af og udelader resten. Ingen venter at blive våd i et svømmebassin fyldt med Ping-Pong-bold modeller af vandmolekyler. Så hvorfor skulle nogen tro, at en computermodel af tankeprocesser i virkeligheden ville tænke?
    En del af svaret er, at folk har arvet en rest af behaviouristiske psykologiske teorier fra den tidligere generation. Turingprøven indeholder fristelsen at tro, at hvis noget opfører sig som om det har visse mentale processer, så må det i virkeligheden have disse mentale processer. Og dette er del af behaviouristernes fejlagtige antagelse, at for at være videnskabelig, skal psykologien begrænse sine studier til ydre observerbar adfærd. Det er paradoksalt, at denne resterende behaviourisme er bundet til en resterende dualisme. Ingen tror, at en computersimulering af fordøjelse i virkeligheden ville fordøje noget, men når det drejer sig om kognition, er folk villige til at tro på et sådant mirakel, fordi de ikke indser, at sindet er lige så meget et biologisk fænomen som fordøjelse. De antager, at sindet er noget formelt og abstrakt, ikke en del af det våde og slimede i vore hoveder. Den polemiske litteratur i AI indeholder sædvanligvis angreb på noget forfatterne kalder dualisme, men det, de ikke indser, er, at de selv udviser stærk dualisme, for medmindre man accepterer ideen om, at sindet er fuldstændigt uafhængigt af hjernen eller noget andet fysisk specifikt system, er det ikke muligt at håbe på at skabe sind blot ved at konstruere programmer.
    Historisk er de vestlige videnskabelige udviklinger, der behandler mennesker blot som en del af den almindelige biologiske orden, blevet modarbejdet af forskellige reaktionære fraktioner. Kopernikus og Galileo var imod, fordi de nægtede at jorden var centrum for universet; Darwin var imod, fordi han hævdede at mennesker var opstået fra lavere dyr. Det er bedst at se stærk AI som et af de sidste gisp fra denne antividenskabelige tradition, for den nægter at der er noget essentielt fysisk og biologisk ved det menneskelige sind. Ifølge stærk AI er sindet uafhængigt af hjernen. Det er et computerprogram og har som sådan ingen essentiel forbindelse med nogen specifik hardware.
    Mange folk, som tvivler på den psykologiske betydning af AI, tror at computere kunne forstå kinesisk og tænke på tal, men ikke kan gøre de afgørende menneskelige ting, nemlig - og følger så deres foretrukne menneskelige specialitet - forelske sig, have humoristisk sans, føle angsten ved det postindustrielle samfund under den sene kapitalisme eller hvad nu. Men arbejdere i AI klager - korrekt - over at dette er at flytte målstolperne. Så snart en AI simulering lykkes, holder den op med at være af psykologisk betydning. I denne debat ser begge parter ikke forskellen mellem simulering og duplikation. Hvad angår simulering er det ikke vanskeligt at programmere min computer, så den udskriver "Jeg elsker dig, Suzy"; "Ha-Ha"; eller "Jeg lider af angst for det postindustrielle samfund under den sene kapitalisme." Det vigtige punkt er, at simulering ikke er det samme som duplikering og den kendsgerning er lige så vigtig for at tænke på aritmetik, som den er for at føle angst. Pointen er ikke, at computeren kun kommer til 40-yard linien og ikke hele vejen til mållinien. Computeren kommer slet ikke igang. Den spiller ikke det spil.

* John R. Searle er professor i filosofi på University of California, Berkeley. Han modtog sin B.A., M.A. og Dr. Phil. fra University of Oxford, hvor han var Rhodes elev. Han ønsker at takke Stuart Dreyfus, Stevan Harnad, Elizabeth Lloyd og Irvin Rock for deres kommentarer og forslag.

Fra Is the Brain's Mind a Computerprogram? Scientific American, januar 1990, pp.20-25.

18. juli, 2002.

Index