La Stanza Cinese: l'obiezione di Searle e le sue repliche

Un filosofo americano nel 1980 inventa l’esperimento mentale più citato della filosofia della mente del Novecento: una stanza in cui un uomo che non sa il cinese passa per parlante cinese senza capirne una parola. Da allora, ogni volta che si discute se una macchina possa “comprendere”, si discute con Searle sullo sfondo, anche quando non lo si nomina.

Perché questo capitolo

Berkeley Hills, primavera 1979. John Searle, quarantasette anni, professore di filosofia a UC Berkeley dal 1959, cammina su una collina sopra il campus. Ha in tasca l’estratto di un paper che gli è arrivato dal Yale AI Lab, in cui Roger Schank e i suoi collaboratori sostengono che il loro programma SAM (Script Applier Mechanism) “comprende” brevi storie in inglese. Searle, che ha passato i precedenti vent’anni a lavorare su atti linguistici e linguaggio ordinario nell’eredità di Austin, non è convinto. Non è convinto in modo specifico: gli sembra che gli AI researcher di Yale stiano confondendo manipolazione di simboli con comprensione semantica. Ma non riesce a formulare perché.

Mentre cammina gli viene un’idea. Lui stesso non sa il cinese. Se gli mettessero in mano un manuale in inglese che gli dicesse, dato qualsiasi input cinese, esattamente quale output cinese produrre, lui potrebbe rispondere a domande in cinese senza capire una parola. La produzione corretta di output cinese non implicherebbe la sua comprensione del cinese. Per analogia, l’esecuzione corretta di un programma da parte di un computer non implica la comprensione del computer.

L’idea diventa il paper “Minds, Brains, and Programs” pubblicato l’anno dopo su Behavioral and Brain Sciences. È uno degli articoli più citati e dibattuti della filosofia della mente del XX secolo. Quasi mezzo secolo dopo, ogni volta che si chiede “ma ChatGPT capisce davvero?”, si fa una domanda Searleana, anche quando non si sa di farla.

Il capitolo serve a tre cose. Primo: esporre il Chinese Room Argument (CRA) per quello che dice davvero, distinguendolo dalle decine di parafrasi popolari che gli vengono attribuite. Secondo: ricostruire le sei risposte standard che Searle stesso anticipa nel paper e le sue contro-repliche, perché il dibattito interno al paper è il modello di tutti i dibattiti successivi. Terzo: tracciare le repliche post-1980 (connessionismo, mente virtuale, embodied cognition) e le critiche più serie al CRA, fino al modo in cui l’argomento risuona nel dibattito contemporaneo sugli LLM.

Il capitolo presuppone la lettura di cosa-significa-pensare, che inquadra Searle nel panorama delle quattro strategie filosofiche, e di turing-test, in cui Searle è citato come una delle critiche fondamentali al test di Turing. Qui si fa lo zoom su una sola questione: cosa dice il CRA, contro cosa argomenta, e perché dopo 45 anni il dibattito non è chiuso.

Contesto

Il paper compare nel volume 3, numero 3 di Behavioral and Brain Sciences, autunno 1980, alle pagine 417-457. La rivista, fondata nel 1978 da Stevan Harnad — psicologo cognitivista canadese-ungherese, 1945- — ha un formato peculiare: ogni numero contiene uno o due “target articles”, articoli posizionali sostanziali, seguiti da circa trenta commentari di altri ricercatori invitati, seguiti dalla risposta dell’autore. Il pacchetto “Searle 1980” contiene il target article (pp. 417-424), 28 commentari (pp. 424-450) firmati da figure come Daniel Dennett, Jerry Fodor, John McCarthy, Marvin Minsky, Roger Schank, Aaron Sloman, e una “Author’s Response” finale (pp. 450-457). È uno dei dossier più citati nella storia della disciplina.

Il bersaglio diretto è un programma specifico. SAM (Script Applier Mechanism) è un sistema di natural language understanding sviluppato da Roger Schank — informatico americano, 1946-2023, fondatore del Yale AI Lab — e dai suoi collaboratori tra il 1975 e il 1980. SAM usa “script”, strutture di conoscenza pre-compilate su situazioni stereotipate (entrare in un ristorante, fare la spesa, andare dal medico), per processare brevi storie in inglese e rispondere a domande inferenziali su di esse.

Esempio canonico: la storia “John entered a restaurant. He ordered a hamburger. He left a tip and went home”. Domanda: “Did John eat?”. SAM risponde “Yes” anche se la storia non lo dice esplicitamente, perché lo script “ristorante” implica la sequenza ordinare-mangiare-pagare. Schank e collaboratori sostenevano che SAM “comprende” le storie in senso pieno. La pretesa appare oggi audace, ma nel 1975-1980 era una posizione difendibile dentro il programma di ricerca della “AI simbolica” allora dominante (cfr. ai-simbolica-anni-60 e gli sviluppi seguenti).

Il bersaglio indiretto è più ampio. È il funzionalismo computazionale sviluppato da Hilary Putnam — filosofo americano, 1926-2016 — negli articoli “Minds and Machines” (1960) e “Psychological Predicates” (1967), e radicalizzato da Jerry Fodor — filosofo americano, 1935-2017 — in The Language of Thought (Crowell, 1975).

Il funzionalismo sostiene che gli stati mentali sono identificati dal loro ruolo causale-funzionale, indipendentemente dal substrato fisico. La versione computazionale aggiunge: il ruolo causale rilevante è quello di una computazione formale, quindi il pensiero è computazione su rappresentazioni simboliche. Se questa tesi è vera, allora un programma adeguato implementato su qualsiasi hardware è letteralmente una mente. Il CRA argomenta che la tesi è falsa.

Una nota interessante: lo stesso Putnam, dopo trent’anni di militanza funzionalista, cambia posizione. In Representation and Reality (MIT Press, 1988), Putnam abbandona il funzionalismo computazionale, sostenendo che il contenuto mentale dipende dall’ambiente esterno e non si lascia ridurre a stato funzionale interno. La sua autocritica è indipendente da Searle ma converge in alcune conclusioni: la sintassi formale interna non basta. Il fatto che Putnam stesso, fondatore della posizione attaccata, ne sia uscito, indica che la posizione “Strong AI funzionalista” che Searle attacca era già in difficoltà nella stessa filosofia.

[FIGURE — Chinese Room setup: cross-section view of a small room labeled “the Chinese Room”; inside, a stick figure labeled “Searle (English-only)” sits at a desk with a thick book labeled “rule book in English (formal symbol manipulation rules)”; left wall has an input slot labeled “Chinese symbols in (questions)”; right wall has output slot labeled “Chinese symbols out (answers)”; outside the room on the right, a thought bubble from a Chinese speaker reading the output says “this room understands Chinese!”; outside the room on the left, a thought bubble from Searle says “I am just shuffling symbols. I understand nothing.”; clean technical illustration style; subtitle reads “Searle 1980, the basic setup”]

Searle nel paper introduce una distinzione che diventera standard. Strong AI è la tesi che “il computer adeguatamente programmato è davvero una mente, nel senso che computer dati i programmi giusti possono letteralmente essere detti comprendere e avere altri stati cognitivi” (Searle 1980, sezione 1). Weak AI è la tesi che “il principale valore del computer nello studio della mente sta nel fatto che ci da uno strumento molto potente. Per esempio, ci permette di formulare e testare ipotesi in modo più rigoroso e preciso” (ibid.). Searle dichiara di non avere obiezioni a Weak AI: i programmi sono strumenti scientifici utili. Il CRA attacca solo Strong AI: la pretesa che il programma SIA una mente, non solo che la simuli. La distinzione è analizzata in dettaglio nel suo slug dedicato ai-forte-ai-debole.

[FIGURE — Strong AI vs Weak AI 2x2 matrix: rows labeled “Strong AI” (top) and “Weak AI” (bottom); columns labeled “Claim about programs” and “Searle’s verdict”; cell Strong-claim reads “the right program is literally a mind”; cell Strong-verdict reads “REJECTED by the Chinese Room argument”; cell Weak-claim reads “programs are useful tools to study mental phenomena”; cell Weak-verdict reads “ACCEPTED, no objection”; clean editorial style; subtitle reads “the distinction Searle introduces in 1980”]

Vale la pena allargare brevemente lo sguardo sulla figura di Searle, perché il CRA non nasce dal nulla ma dentro una traiettoria filosofica precisa.

Searle si laurea al Wisconsin nel 1952, poi va a Oxford come Rhodes Scholar, dove fa il PhD sotto la supervisione di John L. Austin, il filosofo del linguaggio ordinario per eccellenza. Dal 1959 è a UC Berkeley, dove resta per più di sessant’anni come Slusser Professor of Philosophy.

La prima fase della sua opera (anni ‘60-‘70) è sulla filosofia del linguaggio: Speech Acts: An Essay in the Philosophy of Language (Cambridge University Press, 1969) sviluppa la teoria degli atti linguistici, riformulando ed estendendo Austin (How to Do Things with Words, postumo 1962); Expression and Meaning (Cambridge University Press, 1979) approfondisce la tassonomia degli atti. La domanda centrale di questa fase è come il linguaggio può “fare cose” oltre che “dire cose”: promettere, ordinare, battezzare, dichiarare aperta una seduta. La risposta passa attraverso l’analisi delle condizioni di felicita degli atti linguistici — che includono, sempre, riferimenti agli stati intenzionali del parlante.

La svolta verso la filosofia della mente avviene proprio con Searle 1980. La continuita con la fase precedente è chiara: se gli atti linguistici dipendono dagli stati intenzionali del parlante, allora capire il linguaggio implica capire l’intenzionalità; se l’AI pretende di replicare la comprensione del linguaggio senza replicare l’intenzionalità, c’e qualcosa che non torna.

Intentionality: An Essay in the Philosophy of Mind (Cambridge University Press, 1983) sviluppa la teoria positiva dell’intenzionalità; Minds, Brains and Science (Reith Lectures BBC, 1984) divulga il CRA al grande pubblico anglofono attraverso le storiche conferenze radiofoniche annuali della BBC; The Rediscovery of the Mind (MIT Press, 1992) sistematizza il “biological naturalism” come posizione filosofica autonoma rispetto alle alternative classiche del campo.

Una terza fase, dagli anni ‘90 in poi, riguarda la filosofia della società: The Construction of Social Reality (Free Press, 1995) e Making the Social World (Oxford, 2010) sviluppano una teoria della realtà sociale come costruita da intenzionalità collettiva. Questa traiettoria — dal linguaggio alla mente alla società — non è casuale: Searle vede tutte e tre come fenomeni che richiedono intenzionalità come ingrediente irriducibile, e tutti e tre, secondo lui, mal compresi se ridotti a fatti puramente fisici o puramente formali.

Una nota biografica è opportuna per onesta informativa. Dal 2017 Searle è al centro di accuse di molestie sessuali da parte di sue assistenti; nel 2019 UC Berkeley gli ha revocato lo status di emerito. Searle è morto nel 2025. Il giudizio sulla figura personale è separato dal giudizio sul lavoro filosofico, ma la nota va fatta in un capitolo enciclopedico per non lasciare buchi informativi.

L’intuizione

Due angoli per il CRA, complementari ma non sovrapponibili.

Angolo 1 — L’intuizione fenomenologica

C’e una differenza qualitativa tra “manipolare simboli per produrre output corretto” e “capire cosa stai facendo”. Questa differenza, secondo Searle, è fenomenologicamente accessibile: se ti chiedono di sostituire simboli secondo regole, e tu lo fai, sai dall’interno se stai capendo o no.

Esempio personale di Searle nel paper: lui sa l’inglese. Quando gli danno una storia in inglese e gli pongono una domanda in inglese, capisce sia la storia sia la domanda, e la risposta che da viene da una comprensione del contenuto. Se gli danno una storia in cinese e una domanda in cinese, e un manuale in inglese che gli dice come correlare i simboli, lui può produrre la stessa risposta corretta — ma stavolta senza alcuna comprensione del contenuto. Dal di dentro la differenza è evidente. Dal di fuori — guardando solo gli output — non si vede. Ma la differenza c’e.

Il punto fenomenologico è che la comprensione non è solo una proprietà funzionale del comportamento esterno. È una proprietà interiore, accessibile in prima persona, che può o non può accompagnare un comportamento funzionalmente identico. Il CRA mostra che il comportamento e la comprensione sono dissociabili: si può avere il primo senza la seconda.

L’argomento è filosoficamente sofisticato per due ragioni. Primo, non rigetta il comportamento come irrilevante; rigetta il comportamento come sufficiente. Secondo, non richiede una teoria positiva della comprensione: basta che il lettore riconosca dall’esperienza personale che capire una lingua è diverso dall’esecuzione meccanica di regole su simboli.

Angolo 2 — L’argomento strutturale: sintassi versus semantica

C’e poi un angolo strutturale, più astratto, che Searle formalizza in un articolo divulgativo del 1990 (“Is the Brain’s Mind a Computer Program?”, Scientific American vol. 262, n. 1, gennaio 1990, pp. 26-31). L’argomento si lascia esprimere in tre premesse e una conclusione:

Premessa 1 (P1): I programmi sono interamente formali (sintattici). Premessa 2 (P2): Le menti hanno contenuti mentali (semantici). Premessa 3 (P3): La sintassi non è di per se sufficiente per, ne costitutiva di, la semantica. Conclusione (C): Quindi i programmi non sono di per se sufficienti per, ne costitutivi di, le menti.

L’argomento è deduttivamente valido: se le tre premesse sono vere, la conclusione segue logicamente. Il dibattito si concentra interamente su P3, che è la premessa controversa. P1 è relativamente non contestata, anche se alcuni computazionalisti distinguono “programma astratto” e “implementazione fisica del programma” — il primo formale, la seconda no. P2 è accettata da quasi tutti i partecipanti al dibattito: che gli stati mentali abbiano contenuto è una constatazione piuttosto basilare. Il peso intero dell’argomento sta in P3. L’esperimento mentale della stanza cinese serve a rendere P3 intuitivamente persuasiva: se Searle nella stanza manipola sintassi e non comprende, allora la sintassi non basta per la comprensione.

Va sottolineato il “di per se” (in inglese “by themselves”). Searle non sta dicendo che una macchina non possa avere mente. Sta dicendo che il fatto di eseguire un programma non è ciò che la rende mente. Una macchina con i giusti poteri causali — e Searle pensa che il cervello biologico li abbia — può avere mente. Ma il programma non è ciò che fa la differenza.

I due angoli non sono in contraddizione. Il primo dice perché la conclusione del CRA è fenomenologicamente plausibile. Il secondo dice come l’argomento si struttura logicamente. Entrambi sono necessari per leggere il paper senza confusioni.

[FIGURE — The argument structure: three boxes vertically stacked labeled P1, P2, P3 with their content; below, an arrow downward to a fourth box labeled “Conclusion”; P1 reads “Programs are syntactic (formal)”; P2 reads “Minds have semantics (content)”; P3 reads “Syntax is not sufficient for semantics”; Conclusion reads “Therefore programs are not sufficient for minds”; right side annotation reads “the Chinese Room thought experiment defends P3”; clean technical diagram style]

La meccanica

Sette sotto-sezioni. Setup formale dell’esperimento; le sei risposte standard discusse nel paper con le repliche di Searle; le tre repliche maggiori post-1980; la posizione positiva di Searle (biological naturalism); le quattro critiche più serie al CRA.

Setup formale dell’esperimento

Searle nella sezione 2 del paper introduce il setup. Vale la pena ricostruirlo con precisione, perché le parafrasi popolari ne perdono spesso elementi cruciali. Lo riassumiamo nei suoi elementi essenziali.

Una stanza chiusa. Dentro la stanza c’e Searle, monolingue inglese: capisce l’inglese, non capisce ne il cinese parlato ne il cinese scritto, non sa neppure distinguere i caratteri cinesi dai giapponesi o da segni privi di senso. Dentro la stanza c’e anche un voluminoso manuale in inglese. Il manuale contiene regole della forma “se vedi questa sequenza di simboli cinesi in input, produci quest’altra sequenza di simboli cinesi in output”. Le regole sono puramente formali: identificano i simboli per la loro forma, non per il loro significato.

Attraverso una fessura nella parete arrivano fogli con simboli cinesi. Searle li raccoglie, consulta il manuale, segue le regole, scrive su altri fogli i simboli cinesi che le regole prescrivono di produrre, e li infila in un’altra fessura che li manda fuori. Ripete il processo per ogni input ricevuto.

Searle nel paper aggiunge un dettaglio: le persone fuori dalla stanza, che gli mandano i fogli, chiamano (senza che lui lo sappia) il primo gruppo di simboli “sceneggiatura” (script), il secondo “storia”, il terzo “domande”, e i suoi output “risposte alle domande”. Da fuori, la stanza sembra rispondere intelligentemente a domande sul cinese. Da dentro, Searle non sa di che cosa sta rispondendo. Non sa neppure di che lingua si tratti.

Il setup è costruito per un confronto diretto con il caso di una storia in inglese. Se la stessa stanza riceve una storia in inglese e una domanda in inglese, Searle capisce direttamente, risponde sulla base della comprensione, e l’output è una risposta sensata. Stesso comportamento esterno per il cinese; ma nel caso del cinese, internamente, non c’e nessuna comprensione. Quindi: l’output corretto non implica la comprensione.

Searle nel paper specifica che il programma in questione è adeguato per passare il test di Turing in cinese. Cioe i giudici esterni, conversando in cinese con la stanza, non saprebbero distinguerla da un parlante cinese nativo. Questo è importante: il CRA non attacca un programma debole, attacca il programma migliore possibile, quello che soddisfa il criterio comportamentale di Turing. Anche così, dice Searle, la stanza non comprende.

Va sottolineato ciò che il setup esclude. Non è un argomento sulla complessità: il programma può essere arbitrariamente sofisticato, il CRA si applica comunque. Non è un argomento sull’efficienza: anche se Searle potesse processare miliardi di simboli al secondo, il CRA si applica comunque. Non è un argomento sull’apprendimento: anche se il programma fosse stato addestrato su miliardi di esempi e si fosse evoluto da capacità iniziali minime, il CRA si applica comunque (Searle dovrebbe seguire le regole apprese, ma le regole apprese restano sintattiche). Searle insiste che nessuna di queste mosse — complessità, velocità, apprendimento — aggiunge intenzionalità.

La conclusione

La conclusione che Searle trae nel paper è duplice. Negativamente: l’esecuzione di un programma non è di per se sufficiente per la comprensione. Positivamente: la comprensione richiede qualcosa di più, qualcosa che il cervello biologico ha e che il sistema “Searle + manuale” non ha. Searle chiama questo qualcosa “intenzionalità”, riprendendo un termine di Franz Brentano (filosofo austriaco, 1838-1917) che indica la capacità di uno stato mentale di essere “circa” qualcosa, di avere contenuto. Il concetto di intenzionalità è sviluppato da Searle in Intentionality (Cambridge University Press, 1983) ed è trattato nel suo slug dedicato intenzionalità.

Per il CRA, basta sapere che intenzionalità è “aboutness”: un pensiero su Parigi è un pensiero che è su Parigi, che riguarda Parigi, che ha Parigi come contenuto. Searle sostiene che gli stati mentali sono intrinsecamente intenzionali. I simboli formali, per contro, non hanno aboutness intrinseca: la loro semantica è assegnata dall’esterno (dagli interpretanti umani). Il CRA mostra che assegnare comportamento input-output corretto a un sistema non gli da intenzionalità intrinseca.

Una distinzione utile, presente in Searle 1983 e ripresa nel dibattito sul CRA, è tra intenzionalità intrinseca e intenzionalità derivata. Le mie credenze e i miei desideri hanno intenzionalità intrinseca: sono “su” qualcosa per loro natura, indipendentemente da chi le interpreta. Le parole su una pagina hanno intenzionalità derivata: sono “su” qualcosa solo perché un lettore le interpreta come tali. Per Searle, i simboli che il programma manipola hanno solo intenzionalità derivata (assegnata dai programmatori e dagli utenti); ciò che manca al programma è l’intenzionalità intrinseca. Critici computazionalisti rispondono che la distinzione è essa stessa contestabile, e che i programmi sufficientemente complessi potrebbero acquisire intenzionalità intrinseca attraverso interazioni causali sufficientemente ricche con il mondo.

Le sei risposte standard discusse nel paper

Una caratteristica unica del paper è che Searle, prima della pubblicazione, lo presenta in vari seminari (al MIT, a Berkeley, a Stanford, a Yale) e raccoglie le obiezioni. Nelle sezioni 3-7 elenca le sei risposte più comuni, le nomina con il luogo da cui provengono, e replica a ciascuna. Le sei risposte sono il modello di tutti i dibattiti successivi sul CRA.

1. Systems Reply (Berkeley)

Argomento: è vero, l’individuo Searle dentro la stanza non capisce il cinese. Ma Searle è solo una parte di un sistema più grande: Searle + manuale + carta + fessure. È il sistema intero che capisce, non Searle individualmente. Esattamente come nessun neurone capisce l’italiano, ma il cervello come sistema lo capisce. La risposta viene attribuita da Searle a un gruppo di Berkeley (probabilmente colleghi che gli avevano sollevato l’obiezione in seminari prima della pubblicazione del paper).

Replica di Searle: lasciate che internalizzi tutti gli elementi del sistema. Memorizzo il manuale completo. Memorizzo tutte le tabelle. Faccio tutti i calcoli a mente. Poi lavoro all’aperto, senza la stanza. Ora io sono il sistema. Eppure ancora non capisco il cinese: sto solo memorizzando schemi formali. E se io che sono il sistema completo non capisco, allora il sistema non capisce.

Critica della replica: Searle assume che ciò che vale per la sua coscienza individuale valga per il sistema esteso “Searle che memorizza tutto”. Ma è proprio ciò che la Systems Reply contesta: i due livelli (Searle-coscienza, Searle-sistema-completo) potrebbero avere proprietà diverse, esattamente come i neuroni e il cervello le hanno. Dennett insistera su questo punto per decenni. La sua formulazione preferita: c’e una “mente virtuale” che si forma quando Searle esegue il programma, e questa mente virtuale capisce il cinese, anche se Searle non lo capisce. La mente virtuale è in Searle ma non è Searle. La sua esistenza non è fenomenologicamente accessibile a Searle, ma ciò non implica che non esista.

2. Robot Reply (Yale)

Argomento: il problema della Stanza Cinese è che il sistema è disconnesso dal mondo. Mettiamo il programma dentro un robot con telecamere, microfoni, attuatori. Il robot riceve input sensoriali dal mondo, li processa, agisce. La connessione causale al mondo dà significato ai simboli.

Replica di Searle: mettiamo Searle dentro il robot. Searle riceve dai sensori sequenze di simboli (numeri che codificano valori di pixel, livelli audio). Applica il manuale. Produce sequenze di simboli che pilotano gli attuatori. Da fuori, il robot interagisce sensatamente con il mondo. Da dentro, Searle non sa neppure che ci sono telecamere. Per lui sono solo nuovi simboli. La Robot Reply non aggiunge intenzionalità: aggiunge solo nuovi simboli senza significato.

Critica della replica: Stevan Harnad in “The Symbol Grounding Problem” (Physica D vol. 42, 1990, pp. 335-346) sviluppa una versione più sottile della Robot Reply, sostenendo che la connessione causale al mondo non è fenomenologicamente accessibile a Searle dentro il robot ma è una proprietà del sistema robot-nel-mondo, e che questa proprietà è ciò che fonda la semantica. Searle ribatte: la proprietà che conta per la comprensione è fenomenologica, non causale. Il dibattito Searle-Harnad continua per anni e genera lo slug futuro symbol-grounding.

3. Brain Simulator Reply (Berkeley e MIT)

Argomento: supponiamo che il programma simuli esattamente, neurone per neurone, sinapsi per sinapsi, il cervello di un parlante cinese nativo che sta processando una storia in cinese. Allora il sistema simulato deve avere le stesse proprietà del cervello reale, inclusa la comprensione del cinese.

Replica di Searle: modifichiamo l’esperimento. Searle nella stanza ha invece di un manuale di regole un complesso sistema di tubi e valvole d’acqua, in cui ogni tubo corrisponde a un assone e ogni valvola a una sinapsi. Searle apre e chiude le valvole quando l’input cinese arriva, simulando il pattern di firing neuronale del cervello cinese. L’output cinese giusto esce dalla stanza. Ma ne Searle ne i tubi ne l’acqua capiscono il cinese. La simulazione formale dei processi causali del cervello non ne replica i poteri causali.

Critica della replica: questo è il punto più delicato del CRA. Searle qui implicitamente assume che la “biologia” del cervello faccia qualcosa di non-computazionale, qualcosa che la simulazione formale non cattura. Cosa, esattamente? Searle dice solo “i giusti poteri causali”, senza specificarli. I critici (Dennett 1991, Chalmers 1996) accusano questa mossa di essere mistery-mongering: si invoca un X non meglio precisato per salvare la conclusione. Searle ribatte (in The Rediscovery of the Mind, MIT Press, 1992) che spetta alla scienza scoprire quali siano i poteri causali rilevanti del cervello, non alla filosofia.

4. Combination Reply (Berkeley e Stanford)

Argomento: combiniamo le tre mosse precedenti. Un sistema che (a) simula esattamente un cervello cinese, (b) è embedded in un robot con sensori e attuatori, (c) è considerato come un sistema integrato di livello superiore. Con tutte e tre le mosse, il sistema deve comprendere.

Replica di Searle: combinazioni di operazioni sintattiche restano sintattiche. Sommare zero più zero più zero non da uno. Se nessuna delle tre mosse individualmente produce semantica, neanche la loro combinazione la produce.

Critica della replica: i sostenitori (Margaret Boden in Computer Models of Mind, Cambridge University Press, 1988; Jack Copeland in Artificial Intelligence: A Philosophical Introduction, Blackwell, 1993) sostengono che le tre mosse sono qualitativamente diverse e potrebbero produrre proprietà emergenti che nessuna ha individualmente. L’argomento di Searle assume invece che la non-semanticità sia una proprietà additiva, il che è contestabile.

5. Other Minds Reply

Argomento: come fai a sapere che gli altri umani capiscono? Solo dal loro comportamento esterno. Se applichi lo stesso criterio comportamentale a una macchina che esegue il programma giusto, devi attribuirle comprensione, per coerenza. Negarla alla macchina e attribuirla agli umani sarebbe doppio standard.

Replica di Searle: il problema delle altre menti è epistemologico (come faccio a sapere che gli altri capiscono) ma non ontologico (cosa rende un sistema una mente). Per gli umani so per inferenza analogica che hanno cervelli simili al mio, e quindi probabilmente hanno menti simili. Per le macchine, so che non hanno cervelli simili, hanno solo processi formali. L’inferenza analogica si applica al primo caso, non al secondo.

Critica della replica: gli avversari (Dennett, Hofstadter) sostengono che l’inferenza analogica è un cattivo standard. Se due sistemi producono lo stesso comportamento, l’attribuzione di mente non dovrebbe dipendere da pregiudizi sul substrato. Searle ribatte: non è pregiudizio, è constatazione empirica che la differenza di substrato è rilevante. Il dibattito resta aperto.

6. Many Mansions Reply

Argomento: forse i computer attuali non possono pensare con i programmi attuali. Ma “computer” è un termine elastico — qualsiasi sistema fisico che processa informazione. Magari computer futuri (ottici, quantistici, biocomputer) avranno i poteri causali necessari. Quindi il CRA non confuta che le macchine possano pensare in linea di principio.

Replica di Searle: concedo. Il CRA è un argomento contro la tesi specifica che l’esecuzione di un programma sia di per se sufficiente per la mente. Non è un argomento contro la possibilità che macchine future, con architetture diverse, abbiano menti. Se “computer” include sistemi che replicano i poteri causali del cervello, allora certo, “computer” possono pensare. Ma allora il dibattito non è su programmi, è su architettura fisica.

La concessione è interessante. Mostra che il CRA è un argomento mirato, non una negazione generale dell’AI. Searle non è un anti-AI alla Hubert Dreyfus (filosofo americano, 1929-2017, autore di What Computers Can’t Do, MIT Press, 1972, critica fenomenologica all’AI simbolica). Searle ammette che macchine possano pensare, purche abbiano i giusti poteri causali; nega che i programmi siano ciò che produce il pensiero.

[FIGURE — Six standard replies and Searle’s responses: a 6-row table; columns are “Reply name” (with origin in parentheses), “Argument”, “Searle’s response”, “Status of the response”; rows: Systems Reply (Berkeley), Robot Reply (Yale), Brain Simulator Reply (Berkeley/MIT), Combination Reply (Berkeley/Stanford), Other Minds Reply, Many Mansions Reply; entries are short summaries; clean editorial table style; subtitle reads “the dialogue inside Searle 1980, sections 3-7”]

Le repliche maggiori post-1980

Dopo la pubblicazione, il dibattito si amplia. Tre repliche importanti che non appaiono nel paper originale.

Connectionist Reply (Smolensky, Rumelhart, McClelland)

Le reti neurali — in particolare il Parallel Distributed Processing di David Rumelhart e James McClelland (Parallel Distributed Processing, MIT Press, 1986, due volumi) e la formulazione filosofica di Paul Smolensky (filosofo cognitivista americano, 1955-) in “On the Proper Treatment of Connectionism” (BBS vol. 11, n. 1, 1988, pp. 1-23) — non sono manipolazione di simboli classica. Le rappresentazioni sono distribuite su pattern di attivazione di molti nodi, non locali. Il calcolo è parallelo, non sequenziale. Forse il CRA non si applica a questi sistemi.

Replica di Searle (in “Is the Brain’s Mind a Computer Program?”, Sci Am 1990, e in Rediscovery of the Mind 1992, capitolo 9): immaginiamo “una stanza cinese parallela”. Invece di un singolo Searle con il manuale, immaginiamo molti italiani in palestra che si scambiano biglietti seguendo regole distribuite. Ognuno fa la sua parte, il sistema globale produce output cinese corretto. Ma nessun singolo italiano capisce il cinese, e neanche il gruppo. La distribuzione del calcolo non aggiunge semantica. La sintassi resta sintassi, anche quando è distribuita.

Critica della replica: Smolensky (1988) e altri sostengono che le proprietà sub-simboliche delle reti neurali non sono equivalenti a manipolazione simbolica a livello sub-simbolico, e quindi l’argomento di Searle non si trasferisce direttamente. Il dibattito si infittisce nel corso degli anni ‘90 e non si chiude.

Virtual Mind Reply (Hofstadter, Dennett)

In The Mind’s I: Fantasies and Reflections on Self and Soul (Basic Books, 1981), Douglas Hofstadter (cognitivista americano, 1945-) e Daniel Dennett (filosofo americano, 1942-2024) raccolgono testi classici di filosofia della mente con commentari, incluso il paper di Searle, accompagnato da un commentario di Hofstadter particolarmente caustico (“Reflections” pp. 373-382, in cui Hofstadter scrive che leggere Searle è “come leggere argomenti raffinati per il geocentrismo nel 1700”). La risposta congiunta — sviluppata poi da Dennett in Consciousness Explained (Little, Brown, 1991) — sostiene che il CRA confonde livelli.

Argomento: la simulazione computazionale a un livello più alto può creare una “mente virtuale” che emerge dal substrato. La mente virtuale è reale nello stesso senso in cui un programma di scacchi (eseguito su hardware silicio) gioca a scacchi reali, non simulati. Il fatto che il livello-implementatore (Searle, transistor) non capisca, è irrilevante: la mente virtuale è a un livello diverso e ha proprietà diverse.

Replica di Searle: una “mente virtuale” è ancora un sistema formale, ancora privo di intenzionalità intrinseca. Il termine “virtuale” non aggiunge niente: è una sigla per “implementato su un altro substrato” e non risolve il problema della semantica. Una stanza virtuale che simula la stanza cinese sarà una stanza cinese virtuale, non un parlante cinese.

Critica della replica: Dennett (1991, capitolo 14) accusa Searle di fare un argomento “intuition pump” — una macchina retorica che produce la conclusione voluta solo perché l’intuizione è manipolata dal setup. La velocità di esecuzione, ad esempio, è irrealistica: un umano che esegue il programma per il cinese impiegherebbe milioni di anni per una singola risposta, e a quella scala temporale le intuizioni sulla “comprensione” non sono affidabili.

Embodied / Situated Reply (Brooks, Varela, Clark)

Negli anni ‘90 emerge una corrente che sostiene che la cognizione è embodied (incorporata) e situated (situata). Rodney Brooks (informatico australiano, 1954-) al MIT, con il programma “behavior-based robotics” e il paper “Intelligence without Representation” (Artificial Intelligence vol. 47, 1991, pp. 139-159), sostiene che l’intelligenza richiede un corpo che interagisce con l’ambiente, non un programma astratto disincarnato. Francisco Varela (biologo cileno, 1946-2001), Evan Thompson e Eleanor Rosch in The Embodied Mind (MIT Press, 1991) sviluppano la teoria enattivista. Andy Clark (filosofo inglese, 1957-) con Being There (MIT Press, 1997) e Supersizing the Mind (Oxford, 2008) elabora la mente estesa, sviluppata insieme a David Chalmers nel paper “The Extended Mind” (Analysis vol. 58, 1998).

Questa corrente è in parte alleata di Searle: anche loro dicono che la pura manipolazione simbolica disincarnata non è sufficiente per la mente. Ma differiscono sulle ragioni: Searle dice che il problema è la mancanza di “poteri causali biologici”; gli embodied dicono che il problema è la mancanza di interazione corpo-mondo. Per loro, un robot adeguatamente corporeo potrebbe avere mente, anche senza biologia. Per Searle, no. Lo slug mente-estesa tratta la posizione di Clark e Chalmers in profondità.

La posizione positiva di Searle: biological naturalism

Nel decennio dopo il paper originale, Searle sviluppa la sua posizione positiva. The Rediscovery of the Mind (MIT Press, 1992) sistematizza il biological naturalism: la coscienza e l’intenzionalità sono fenomeni biologici, causati dai processi del cervello, ma irriducibili a essi. La mente non è qualcosa di metafisicamente separato dal corpo, ma è un fenomeno biologico di alto livello, come la digestione o la fotosintesi.

Da questo segue: quali sistemi possano avere mente? Non quelli che eseguono il programma giusto. Quelli che hanno i giusti poteri causali, qualunque essi siano. Il cervello biologico li ha, lo sappiamo per introspezione. I computer attuali non li hanno, lo dimostra il CRA. Computer futuri con architetture diverse potrebbero averli (Many Mansions Reply concessa).

Critica: questa posizione è accusata di “carbon chauvinism”, termine coniato da Aaron Sloman (informatico inglese, 1936-) nei commentari BBS al paper di Searle stesso. Perché solo carbonio? Cosa hanno i neuroni biologici che il silicio non può replicare? Searle non risponde tecnicamente: dice che è una questione empirica per la neuroscienza, non filosofica. I critici ribattono che senza specifica, la posizione è un’asserzione vuota — un mistery-mongering. Searle non si lascia spostare dall’obiezione e mantiene la posizione fino agli ultimi scritti.

Va notato che il biological naturalism di Searle è una posizione filosoficamente originale. Non è dualismo cartesiano (la mente non è una sostanza separata dal corpo); non è funzionalismo (la mente non è una proprietà funzionale che si può realizzare in qualunque substrato); non è riduzionismo materialista classico (la mente non si lascia ridurre a fatti puramente fisici di basso livello). È una via di mezzo: la mente è un fenomeno biologico, causalmente determinato da processi cerebrali, ma con proprietà proprie (coscienza, intenzionalità) che non sono altrettanto presenti in altri sistemi causali. Questa posizione è minoritaria nella filosofia della mente analitica contemporanea — la maggioranza è funzionalista in qualche variante — ma è difesa con coerenza da Searle e ha alcuni sostenitori vicini (Galen Strawson, in modo diverso, propone un “panpsichismo realistico” che condivide con Searle l’idea che la coscienza non si lasci ridurre a funzione).

[FIGURE — Causal powers reply diagram: two boxes side by side; left box labeled “biological brain” containing icons of neurons and synapses, with arrow labeled “intrinsic causal powers” pointing to a thought bubble labeled “intentionality / understanding”; right box labeled “silicon implementation of same program” containing icons of transistors, with arrow labeled “no intrinsic causal powers” pointing to a thought bubble labeled “syntactic manipulation only”; subtitle reads “Searle 1992: biological naturalism, the asymmetry between substrates”]

[FIGURE — Post-1980 replies summary table: a 4-row table; columns are “Reply name”, “Author and year”, “Core idea”, “Searle’s counter”; rows: Connectionist Reply (Smolensky 1988, Rumelhart-McClelland 1986), Virtual Mind Reply (Hofstadter-Dennett 1981, Dennett 1991), Embodied/Situated Reply (Brooks 1991, Varela 1991, Clark 1997), Causal Powers Reply (Searle’s own positive position, 1992); entries are short summaries; clean editorial table style; subtitle reads “the four major replies that emerged after 1980, with Searle’s responses”]

Le quattro critiche maggiori al CRA

Quattro critiche al CRA, sviluppate nei decenni successivi alla pubblicazione.

Critica 1 — Argument by intuition (Dennett 1991). Il CRA è un “intuition pump”, un dispositivo retorico che produce un’intuizione voluta manipolando il setup. L’intuizione “Searle non capirebbe il cinese” viene data per ovvia, ma è ovvia solo perché il setup nasconde elementi cruciali. Nello specifico la velocità: un umano che esegue il programma per processare cinese token-by-token impiegherebbe un numero astronomico di anni per una singola conversazione. A quella scala temporale, le intuizioni sulla coscienza e la comprensione non sono affidabili. Dennett insiste che l’argomento si appoggia su una scena fisicamente impossibile per spingere l’intuizione nella direzione voluta. Searle ribatte che l’argomento è di principio: se in linea di principio Searle non capisce, la velocità non aggiunge né toglie comprensione.

Critica 2 — Confusion of levels. Il CRA confonde il livello dell’implementatore (Searle, l’hardware) con il livello del programma. Nessuno sostiene che Searle, il fisico nella stanza, capisca il cinese. La Strong AI sostiene che il PROGRAMMA implementato capisca, non l’hardware su cui gira. Similmente, nessuno sostiene che i transistor di un computer giochino a scacchi: è il programma di scacchi che gioca a scacchi. Searle ribatte che la distinzione livello-programma vs livello-implementatore è essa stessa parte del computazionalismo che il CRA contesta, e non può essere usata per difendere il computazionalismo senza circolarita.

Critica 3 — Sintassi e semantica non sono completamente separabili. P3 nell’argomento formale è “la sintassi non basta per la semantica”. Ma molti filosofi (Robert Brandom in Making It Explicit, Harvard University Press, 1994; Jerry Fodor in Concepts, Oxford, 1998) sostengono che la semantica EMERGE dalla sintassi quando questa raggiunge una certa complessità e si lega a un contesto inferenziale ricco. Brandom in particolare, con il suo “inferentialismo”, sostiene che il significato di un termine è costituito dal suo ruolo inferenziale (cosa si può concludere da esso, cosa lo implica). Ma il ruolo inferenziale è una proprietà sintattico-formale a un livello sufficientemente alto. Dunque la separazione netta sintassi/semantica che Searle assume è contestabile. Searle ribatte che il ruolo inferenziale è una proprietà funzionale, non semantica nel senso forte di intenzionalità verso il mondo.

Critica 4 — Begging the question. Il CRA assume ciò che cerca di provare. P3 (“sintassi non basta per semantica”) è la conclusione mascherata da premessa. L’esperimento mentale serve a far sembrare P3 ovvia, ma in realtà è P3 che fa tutto il lavoro: chi accetta P3 accetta la conclusione, chi non accetta P3 trova l’esperimento poco persuasivo. L’argomento dunque non può convincere chi non è già convinto. Searle ribatte che P3 è ovvia perché compresa correttamente: la sintassi è una proprietà formale, la semantica è aboutness, sono categorie diverse e il CRA serve a rendere chiaro che lo sono.

Ricezione e contesto storico del paper

Il formato BBS open peer commentary è raro nella filosofia accademica e ha amplificato in modo decisivo l’impatto del CRA. Pubblicare un paper “target” insieme a 28 commentari simultanei — alcuni concordi, molti dissidenti — significa pubblicare un dibattito già in corso al posto di una posizione isolata. Il lettore vede direttamente che cosa pensano i ricercatori del campo, prima ancora di formarsi un’opinione propria.

Il dossier 1980 contiene commentari di figure di primo piano. Daniel Dennett firma uno dei commentari più critici, gettando le basi della polemica decennale tra i due (Dennett 1991, Consciousness Explained, capitolo 14, e Searle 1992, Rediscovery of the Mind, capitolo 9, rispondendo a Dennett). Jerry Fodor commenta dal punto di vista del Language of Thought, parzialmente convergente con Searle ma critico sui dettagli. John McCarthy (informatico americano, 1927-2011, padre del termine “Artificial Intelligence” e organizzatore di Dartmouth 1956) commenta in difesa della Strong AI. Marvin Minsky (informatico americano, 1927-2016, fondatore del MIT AI Lab) commenta in modo molto critico, sostenendo che Searle ha frainteso cosa sia l’intelligenza artificiale. Roger Schank, il diretto bersaglio del paper, ovviamente risponde anche lui — ma in modo sorprendentemente moderato. Aaron Sloman conia in questo dossier il termine “carbon chauvinism” per accusare Searle di pregiudizio sostanziale a favore del substrato biologico.

Searle nella sua “Author’s Response” (pp. 450-457) risponde a tutti i commentatori in modo puntuale. Il dibattito interno al numero 3/3 di BBS è il modello di tutti i dibattiti successivi sul CRA: chi entra nella discussione oggi ripercorre, di solito senza saperlo, mosse già fatte nel 1980.

L’impatto bibliometrico è notevole. Il paper Searle 1980 ha oltre 8.000 citazioni Google Scholar al 2024, in crescita costante. È uno dei paper più citati nella storia della filosofia della mente analitica del Novecento, comparabile per impatto a Nagel “What Is It Like to Be a Bat?” (Philosophical Review 1974), Putnam “The Meaning of Meaning” (Mind, Language and Reality 1975), Lewis “What Experience Teaches” (1988), Chalmers “Facing Up to the Problem of Consciousness” (Journal of Consciousness Studies 1995).

La ricezione si è articolata in fasi. Anni ‘80: dibattito intenso ma confinato in filosofia analitica e cognitive science. Anni ‘90: il CRA entra nella divulgazione (Penrose 1989, Hofstadter-Dennett 1981, Pinker 1997). Anni 2000: stato di “argomento canonico” insegnato in corsi universitari di philosophy of mind e di AI; raccolte di saggi specifici (Preston e Bishop, Views into the Chinese Room, Oxford 2002). Anni 2010: il CRA viene ripreso nei dibattiti su deep learning e reti neurali, con risultati alterni. Anni 2020-2026: con l’esplosione degli LLM, il CRA torna in auge nella divulgazione pubblica, citato (e fraintezza) in articoli di giornali, podcast, libri popolari.

Posizioni intermedie sono emerse nel corso dei decenni. David Chalmers (filosofo australiano, 1966-) in The Conscious Mind: In Search of a Fundamental Theory (Oxford University Press, 1996) propone l’organizational invariance: la coscienza dipende dall’organizzazione causale di un sistema, non dalla sua sostanza. Se due sistemi hanno la stessa organizzazione causale (qualunque substrato), avranno la stessa coscienza. La posizione è più permissiva di Searle (silicio può bastare se replica l’organizzazione del cervello), ma più restrittiva di Dennett (non basta passare il test, serve replicare l’organizzazione fine). Chalmers usa esperimenti mentali sofisticati (i “fading qualia” e i “dancing qualia”) per argomentare la sua posizione. Lo slug hard-problem-chalmers tratta Chalmers in dettaglio.

Ned Block (filosofo americano, 1942-) in “On a Confusion about a Function of Consciousness” (BBS vol. 18, 1995, pp. 227-247) distingue access consciousness (informazione disponibile per il controllo del comportamento) e phenomenal consciousness (esperienza qualitativa). Sostiene che la prima è funzionalmente realizzabile, la seconda non è chiaro. Questa distinzione permette di articolare il dissenso con Searle in modo più fine: forse i programmi possono avere access consciousness senza phenomenal consciousness. Il CRA mostrerebbe l’assenza della seconda, non della prima. Lo slug coscienza-access-phenomenal tratta Block in profondità.

Nessuna delle parti ha “vinto”. Il dibattito CRA è ancora vivo nel 2026. Searle ha continuato a difendere la sua posizione fino agli ultimi scritti, senza sostanziali concessioni. I computazionalisti (Dennett, Fodor, Pinker, Hofstadter, fino agli ultimi giorni di vita di Dennett nel 2024) hanno continuato a rigettarla. Le posizioni intermedie (Chalmers, Block) sono diventate riferimenti di chi vuole evitare la dicotomia. Il dibattito ha prodotto chiarimenti concettuali importanti — su sintassi e semantica, su intenzionalità, su livelli di descrizione, su organizational invariance — ma non risposte definitive.

Significato culturale

Il CRA è uno dei pochi argomenti filosofici tecnici a essere entrato nella cultura generale. La diffusione è avvenuta lungo tre canali principali.

Primo canale: la divulgazione scientifica e filosofica. Godel, Escher, Bach: an Eternal Golden Braid di Hofstadter (Basic Books, 1979, vincitore Pulitzer 1980) anticipa parzialmente le critiche al CRA in dialoghi come “A Conversation with Einstein’s Brain” e ”…Ant Fugue”, che esplorano i livelli di descrizione e l’emergenza di proprietà a livelli alti dal substrato a livelli bassi. The Mind’s I di Hofstadter e Dennett (1981), che include il paper di Searle con un commentario caustico, è diventato un libro di riferimento per chi entra in filosofia della mente da un background scientifico. Penrose, The Emperor’s New Mind (Oxford University Press, 1989), libro divulgativo di un fisico-matematico premio Wolf, cita il CRA e costruisce un argomento parallelo basato su Godel: se l’intelligenza umana può “vedere” la verita di proposizioni godeliane non dimostrabili, allora non è algoritmica. Penrose arriva a una conclusione simile a Searle (no Strong AI) per ragioni diverse (matematiche, non fenomenologiche). Pinker, How the Mind Works (Norton, 1997), discute il CRA in capitolo 2 da prospettiva cognitivista funzionalista: contrario alla conclusione, ma lealmente espone la forza dell’argomento.

Secondo canale: la stampa e i media. Wired, The New Yorker, The Guardian, Scientific American, Atlantic hanno citato regolarmente il CRA in articoli divulgativi sull’AI dal 1985 in poi. La citazione è spesso superficiale (“il filosofo Searle ha mostrato che i computer non possono pensare”) e perde le sfumature dell’argomento, ma diffonde il riferimento. Nel 2022-2026, con l’esplosione degli LLM, ogni articolo di divulgazione su “ChatGPT capisce davvero?” cita Searle, di solito senza averlo letto.

Terzo canale: la fiction. Il CRA ha ispirato dramatizzazioni in vari media. L’episodio “The Measure of a Man” di Star Trek: The Next Generation (1989, scritto da Melinda Snodgrass) usa intuizioni simili sulla questione se l’androide Data sia una persona. Il film Ex Machina (2014) di Alex Garland gioca esplicitamente con i temi del Turing test e della Stanza Cinese, mostrando come le sole prestazioni linguistiche non bastino a stabilire la coscienza. Westworld (HBO, 2016+) struttura intere stagioni attorno alla domanda se gli “host” abbiano “vera” coscienza o solo simulazione. Black Mirror dedica vari episodi al tema. La presenza nella fiction non è decorativa: indica che la questione del CRA è diventata patrimonio culturale generale, non solo accademico.

Aneddoti storici

Searle ha raccontato in vari interviews (Berkeley Online Archive 2008; Closer to Truth 2014, in vari episodi disponibili su YouTube) che l’idea del CRA gli venne durante una passeggiata sulle Berkeley Hills nel 1979, riflettendo sulla pretesa di Schank che SAM “comprendesse” le storie. Il fatto che lui stesso, Searle, non sapesse il cinese gli sembro l’esempio più chiaro del problema: poteva immaginarsi di eseguire un programma per il cinese senza capirne nulla. La storia è un piccolo classico della genesi degli esperimenti mentali filosofici, paragonabile per stile alla genesi del demone di Maxwell o del cervello in una vasca di Putnam.

Il CRA fu presentato per la prima volta in una conferenza al MIT nel 1979, dove Marvin Minsky reagi vivacemente. Searle racconta che Minsky disse qualcosa come “ma il sistema lo capisce!” — cosa che Searle prese come spunto per articolare la Systems Reply nel paper successivo. Il dato è interessante perché mostra che le risposte standard non sono speculazioni di Searle: sono raccolte da reazioni reali di colleghi, ascoltate dal vivo nei seminari prima della pubblicazione. Searle ha sempre dichiarato di trovare BBS un formato editoriale superiore proprio per questo: pubblica il dibattito, non solo la posizione.

Il formato BBS open peer commentary fu suggerito a Searle dall’editor Stevan Harnad, che da curatore di BBS aveva inaugurato quel formato negli anni ‘70. Harnad è anche autore di una delle critiche più importanti al CRA in versione estesa (symbol grounding, 1990): un raro caso di editor che diventa contributore alla discussione che ha curato. Il rapporto Searle-Harnad è rimasto cordiale per decenni nonostante il dissenso filosofico.

Hofstadter in The Mind’s I (1981) include il paper di Searle con un commentario in cui scrive che “leggere Searle è come leggere argomenti raffinati per il geocentrismo nel 1700: argomenti elegantissimi per una conclusione palesemente sbagliata”. Il commentario ha generato una polemica personale fra Hofstadter e Searle che è durata decenni. Hofstadter ha detto in seguito (in interviews vari) che ha sempre rimpianto il tono del commentario, pur restando del tutto in disaccordo nel merito.

Daniel Dennett ha dedicato a Searle quattro decenni di critica, dai primi commentari del 1980 fino a libri tardi come From Bacteria to Bach and Back (Norton, 2017). La polemica è diventata una specie di prestazione filosofica in se: due posizioni inconciliabili che si articolano sempre meglio attraverso il confronto, senza mai convergere.

Dennett è morto nell’aprile 2024, Searle nel 2025. Il dibattito è formalmente chiuso solo nel senso che entrambi i protagonisti sono usciti di scena; le posizioni continuano a essere difese da successori (Chalmers, Block, Sprevak da una parte; Pinker, Hofstadter, varie figure pro-computazionalismo dall’altra). È uno dei rari casi in cui due filosofi del Novecento hanno costruito reciprocamente una parte della propria identità filosofica nel rigetto delle posizioni dell’altro: Dennett sarebbe stato Dennett anche senza Searle, ma il suo pensiero su coscienza e mente sarebbe stato diverso; Searle sarebbe stato Searle anche senza Dennett, ma le sue contro-risposte hanno affilato la sua posizione nel corso dei decenni.

Una curiosita storiografica chiude la sezione. Nel paper originale Searle scrive che il programma SAM di Schank “non capisce niente”. Schank, che era il bersaglio diretto, ha risposto in più occasioni che “comprende” era una scorciatoia tecnica per “produce risposte che sarebbero appropriate se le avesse generate un essere comprendente”, e che mai aveva inteso letteralmente la pretesa Strong-AI nella forma in cui Searle l’attaccava.

Se questa difesa di Schank è sincera o post-hoc è ancora dibattuto. Comunque, il bersaglio diretto del CRA potrebbe non essere stato il bersaglio reale: una situazione in cui un argomento filosofico finisce per dire qualcosa di vero ma su una posizione che forse nessuno difendeva nella forma estrema attribuita. La storia delle idee filosofiche è piena di casi simili.

Esempi

Tre esempi concreti per fissare l’argomento.

Esempio 1 — Una conversazione cinese passo per passo

Immaginiamo un input cinese che arriva alla stanza. Per chi non legge cinese, sostituiamolo con simboli geometrici (un cerchio, un quadrato, un triangolo) senza perdere la struttura dell’argomento.

Input alla stanza: [△ ○ ☐ ○ ☐ △].

Searle prende il foglio, lo confronta con le pagine del manuale. Il manuale ha una voce: “se vedi [△ ○ ☐ ○ ☐ △], scrivi e produci [○ ☐ △ ○ △]”. Searle copia diligentemente i simboli su un foglio nuovo e lo infila nella fessura di output.

Fuori dalla stanza, un parlante cinese vede: “Hai mangiato oggi?” come input, “Si, un panino al ristorante vicino” come output. Trova la risposta perfettamente appropriata. Da questo conclude che la stanza capisce il cinese.

Dentro la stanza, Searle ha visto solo combinazioni di forme geometriche e ha applicato regole di sostituzione. Non sa di che cosa si stia parlando. Non sa che si stia parlando. Non sa se i simboli formino domande, descrizioni, equazioni matematiche o liste della spesa. Manipola, non comprende.

L’esempio mostra concretamente la dissociazione che il CRA punta a evidenziare. La stessa interazione, da due prospettive diverse, ha proprietà diverse: dall’esterno è comprensione apparente; dall’interno è manipolazione cieca.

Esempio 2 — La Systems Reply concretizzata

La Systems Reply dice che è il sistema (Searle + manuale + carta) a comprendere, non Searle individualmente. Searle replica: lasciate che internalizzi tutto.

Concretamente: immaginiamo Searle con memoria perfetta. Studia il manuale per anni. Memorizza tutte le tabelle. Memorizza tutte le regole. Ha tutto in testa. Ora abbandona la stanza e cammina per la strada di Berkeley. Un parlante cinese gli si avvicina e dice qualcosa in cinese. Searle, nella sua testa, applica le regole al pattern di suoni che ha sentito (assumiamo che le regole siano abbastanza ricche da gestire input parlato), produce nella sua testa una risposta in pattern di suoni cinesi, la pronuncia.

Da fuori, Searle sembra un parlante cinese fluente. Ha conversazioni complete sulla strada. Tiene conferenze in cinese. Da dentro, Searle non capisce niente di quello che sta dicendo: sta solo recitando pattern memorizzati. Lui stesso, identico al “sistema completo”, non comprende. Quindi, dice Searle, neanche il sistema comprende.

Il punto della Systems Reply è che la comprensione non è una proprietà del singolo agente ma del sistema intero. Internalizzando il sistema, Searle non lo elimina, lo sposta da fuori a dentro la sua testa. Searle insiste che, se la comprensione esistesse, dovrebbe essere accessibile a lui dall’interno; non essendolo, non c’e. Dennett e Hofstadter ribattono che questa è un’assunzione cartesiana ingenua: la coscienza personale di Searle non esaurisce le proprietà cognitive del sistema completo che lui ora implementa. Il dibattito ruota attorno a quanto questa assunzione sia accettabile.

Esempio 3 — Il caso connessionista

Una rete neurale moderna addestrata su un grande corpus cinese impara a fare predizione del prossimo token. Mostrato un prompt “你好” risponde “你好,有什么可以帮你的吗?” (in italiano: “Ciao, come posso aiutarti?”). La rete non ha un manuale di regole esplicite: ha pesi numerici distribuiti su milioni di neuroni artificiali. Le rappresentazioni interne non sono simboli localizzati ma pattern di attivazione distribuiti.

Il sostenitore connessionista dice: questa rete non è una stanza cinese. Non c’e nessun “manuale” da consultare; non c’e nessuna sintassi formale di alto livello. La rete elabora informazione in modo distribuito, parallelo, sub-simbolico. Le rappresentazioni “emergono” dall’addestramento. Il CRA, che attacca la manipolazione sintattica esplicita, non si applica.

Searle ribatte: a un livello di descrizione adeguato, la rete è ancora un sistema formale. I pesi sono numeri; le attivazioni sono numeri; la propagazione è aritmetica. La “stanza cinese parallela” — molti italiani in palestra che si scambiano biglietti seguendo regole distribuite — replica la struttura connessionista mantenendo l’intuizione del CRA. Nessuno degli italiani capisce il cinese. La distribuzione del calcolo non produce semantica.

Il connessionista ribatte ancora: ma le proprietà sub-simboliche delle reti distribuite non sono equivalenti a manipolazione simbolica esplicita. C’e una differenza qualitativa, non solo di velocità. Smolensky 1988 elabora questa difesa in dettaglio. Searle ribatte che la differenza è a un livello di descrizione non rilevante per la semantica. Il dibattito non si chiude.

L’esempio mostra che il CRA, esteso al connessionismo, resta un’arena attiva. Le posizioni si raffinano da entrambe le parti. Nessuna delle parti vince, ma entrambe articolano meglio le proprie tesi.

Esempio 4 — Il bersaglio originario rivisitato

Per chiudere il giro degli esempi, riconsideriamo il bersaglio originario: SAM di Schank. La storia “John entered a restaurant. He ordered a hamburger. He left a tip and went home”, domanda “Did John eat?”, risposta SAM “Yes”. SAM ha “capito” la storia?

Schank diceva di sì, in un senso tecnico. Aveva uno script “ristorante” che codificava la sequenza tipica (cliente entra, viene seduto, ordina, mangia, paga, lascia mancia, esce); applicandolo alla storia, SAM riempiva i buchi non esplicitati e poteva rispondere a domande inferenziali come “Did John eat?” o “Did John pay?”. Questa capacità di inferenza pragmatica è non triviale, e per chiunque abbia provato a costruire sistemi di natural language understanding negli anni ‘70 era un risultato notevole.

Searle dice di no, in un senso fenomenologico. SAM non ha alcuno stato mentale “su” il ristorante. Non ha la sensazione di aver capito la storia. Non ha l’aboutness. Lo script “ristorante” è una struttura formale che mappa input a output; il significato — il fatto che parli di vere persone in veri ristoranti che mangiano vero cibo — è assegnato dall’esterno, da Schank e dai lettori, non è intrinseco al sistema.

I due hanno entrambi ragione, ma a domande diverse. Schank risponde alla domanda funzionale: “il sistema produce inferenze appropriate?”. Searle risponde alla domanda fenomenologica: “il sistema ha esperienza di significato?”. Le due domande non si sovrappongono. Una buona parte del dibattito CRA, esteso ai sistemi moderni, riproduce questa dualita: chi vede gli LLM come “comprendenti” rispondendo alla domanda funzionale; chi li vede come “non comprendenti” rispondendo alla domanda fenomenologica. Riconoscere quale domanda si sta ponendo è meta del lavoro filosofico.

Eredità oggi

[DATATO 2026-04]

ChatGPT (novembre 2022, basato su GPT-3.5; successivi GPT-4 marzo 2023, GPT-4o maggio 2024) e i modelli di altri laboratori (Claude di Anthropic, Gemini di Google DeepMind, Llama di Meta) passano facilmente versioni casual del Turing test (cfr. turing-test). Capiscono?

Searle direbbe no. Gli LLM sono manipolatori di simboli su scala enorme, ma sono ancora manipolatori di simboli. Il CRA si applica direttamente: un LLM è la Stanza Cinese, scalata di molti ordini di grandezza. Il fatto che produca risposte indistinguibili da un parlante competente non implica comprensione.

L’eredità più diretta di Searle nel dibattito 2020+ è l’argomento dei stochastic parrots. Emily Bender (linguista computazionale americana, 1973-), Timnit Gebru (informatica eritreo-americana, 1983-), Angelina McMillan-Major e Margaret Mitchell pubblicano “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” alla conferenza FAccT 2021 (proceedings ACM, pp. 610-623). L’argomento centrale: gli LLM sono “pappagalli stocastici” che riproducono pattern linguistici su scala statistica senza comprenderli. La parola “stocastico” è aggiunta perché gli LLM producono variazione, ma il punto di fondo è lo stesso di Searle: pattern linguistici corretti senza grounding semantico. Bender et al. non citano Searle direttamente nel paper, ma per analogia argomentativa la struttura è la stessa: comportamento linguistico non implica comprensione.

La critica al pappagallismo è stata sviluppata negli anni 2022-2025. Gli LLM mostrano comportamenti emergenti che non sembrano puro pattern matching: ragionamento multi-step, generalizzazione (limitata) fuori distribuzione, capacità di seguire istruzioni complesse, capacità di tradurre tra lingue mai viste affiancate in training. Il pappagallismo nella sua versione semplice non spiega questi comportamenti. La risposta neo-Searleana: il fatto che il pattern matching sia molto sofisticato non lo rende comprensione. Un pappagallo molto bravo resta pappagallo.

Una possibile risposta empirica al CRA viene dalla mech interpretability, la corrente di ricerca su “cosa succede dentro” i modelli, sviluppata in parallelo da Anthropic, OpenAI, Google DeepMind tra il 2022 e il 2026. Strumenti come gli Sparse Autoencoders (SAE), il causal tracing, l’activation patching identificano “circuiti” e “feature” dentro i modelli che corrispondono a concetti specifici. Esempio: Anthropic 2024 trova un feature che si attiva in modo specifico per il concetto “Golden Gate Bridge” attraverso lingue, modalita e contesti diversi.

La risposta neo-anti-Searleana usa questi risultati. Se possiamo identificare circuiti che corrispondono a concetti specifici, e se questi circuiti hanno proprietà funzionali simili a quelle dei concetti corrispondenti nel cervello umano, è davvero solo sintassi? Il computazionalismo si rinforza: i concetti sono fatti di organizzazione causale, e quella organizzazione è presente nei modelli. La risposta neo-Searleana ribatte: trovare un “circuito Golden Gate Bridge” in un LLM non è diverso dal trovare un pattern di tubi e valvole nel sistema acqua di Searle. La mappatura formale c’e, l’intenzionalità intrinseca no. La semantica resta non-intrinseca.

[FIGURE — Modern LLM analog of the Chinese Room: cross-section view similar to first figure but the room is replaced by a stylized neural network labeled “LLM (transformer architecture, billions of parameters)”; input slot labeled “user prompt (any language)”; output slot labeled “model response”; outside on the right, a thought bubble from a user reading the response says “this LLM understands me!”; outside on the left (a critic) says “Searle would say: same room, scaled up. Still no intentionality.”; subtitle reads “the Chinese Room Argument applied to large language models”]

Il dibattito non è chiuso, e probabilmente non sarà chiuso da empirica. Le questioni metafisiche sostantive (cos’e la comprensione, cos’e la coscienza, cos’e l’intenzionalità) non si risolvono trovando nuovi fatti: si chiariscono articolando meglio le posizioni e riconoscendo dove convergono e dove divergono. Searle è morto nel 2025. Il CRA gli sopravvive come strumento argomentativo.

Va aggiunta una nota su un punto delicato. Tecniche moderne come il constitutional AI (Anthropic 2022+) e i metodi di alignment (RLHF, DPO, etc.) ereditano implicitamente il problema searleano. Quando si “allinea” un modello a valori umani, si suppone che il modello “capisca” cosa sono quei valori. Ma se il CRA ha ragione, il modello non li capisce: li riproduce. La distinzione ha implicazioni pratiche per la sicurezza dei sistemi AI, non solo filosofiche. Se il modello ha solo intenzionalità derivata e nessuna intenzionalità intrinseca verso “non danneggiare gli umani”, allora il vincolo comportamentale potrebbe rompersi in modi che non potremmo prevedere — il modello non sta cercando di non danneggiare, sta seguendo pattern statistici che lo portano a non danneggiare nei casi in distribuzione. Gli slug di Parte XX (sicurezza, allineamento, superallineamento) toccano questi temi dal lato operativo.

Una lezione meta del dibattito CRA, importante per chi viene dall’AI applicata: il dibattito non è chiuso, e probabilmente non sarà chiuso, ma l’esistenza del dibattito è un’informazione utile in se. Significa che le pretese forti su “comprensione” o “consapevolezza” o “intenzionalità” dei sistemi AI vanno fatte con cautela, perché le categorie filosofiche sottostanti sono contestate. Significa anche che le pretese forti opposte (“è solo un pappagallo, non capisce niente”) vanno fatte con altrettanta cautela, per la stessa ragione. La posizione filosoficamente più prudente, nel 2026, è riconoscere che gli LLM mostrano comportamenti molto simili a quelli che attribuiamo alla comprensione negli umani, e che resta un problema aperto se questa similarita comportamentale implichi similarita ontologica. Searle direbbe di no, Dennett direbbe di sì, Chalmers direbbe “dipende dall’organizzazione causale”. Nessuna delle tre posizioni è palesemente sbagliata; tutte e tre sono articolate da filosofi seri; nessuna ha vinto il dibattito.

Dove si rompe

Il CRA è un argomento potente, ma ha limiti, edge case, e una serie di fraintendimenti popolari da disinnescare.

Limite 1 — Argument by intuition. Come notato nelle Critiche, l’argomento si appoggia su un’intuizione che molti trovano persuasiva ma che non si lascia formalizzare facilmente. Chi già condivide P3 trova il CRA convincente. Chi non la condivide trova l’esperimento mentale poco persuasivo. L’argomento non può convincere un computazionalista convinto; serve a chiarire la posizione di chi già dubita.

Limite 2 — Velocita poco realistica. Lo Searle nella stanza che processa cinese token-by-token è fisicamente impossibile in tempi umani. Un programma che passa il test di Turing avrebbe miliardi di regole; consultare una regola richiederebbe secondi; una conversazione fluida richiederebbe centinaia di consultazioni al secondo. Lo “Searle nella stanza” è una creatura logica, non fisica. Le intuizioni che ricaviamo dal pensare a una creatura impossibile sono di affidabilita incerta. Dennett insiste su questo punto.

Limite 3 — Confusione di livelli. Il CRA è accusato di confondere il livello dell’implementatore con il livello del programma. La Strong AI dice che il programma capisce, non che l’hardware capisca. Searle ribatte che non c’e nessun “livello del programma” indipendente dall’implementazione, ma è una mossa filosoficamente impegnativa che molti non accettano.

Mito 1 — “Searle ha dimostrato che l’AI non può pensare”. Falso. Searle ha argomentato (non dimostrato) che l’esecuzione di un programma non è di per se sufficiente per il pensiero. Il CRA è un argomento filosofico, non una dimostrazione formale. Searle stesso concede (Many Mansions Reply) che macchine future con architetture diverse potrebbero pensare. Non è un argomento contro l’AI in generale, è un argomento contro una specifica tesi computazionalista.

Mito 2 — “I computazionalisti hanno risposto definitivamente al CRA”. Falso. Le risposte computazionaliste (Systems Reply, Virtual Mind Reply, Connectionist Reply) sono articolate ma nessuna ha ottenuto consenso. Searle ha controreplicato a tutte. Il dibattito è aperto. Chi dichiara una vittoria per una delle parti sta tifando, non riportando lo stato del campo.

Mito 3 — “Il CRA si applica solo a sistemi simbolici classici”. Parzialmente falso. Searle ha esplicitamente esteso il CRA al connessionismo (in Rediscovery 1992 e in Sci Am 1990). I sostenitori del connessionismo contestano l’estensione. Il dibattito su se il CRA si applichi davvero alle reti neurali distribuite è attivo e non risolto.

Mito 4 — “Searle è anti-AI”. Falso. Searle è stato esplicito (in vari interviews, e nelle sue concessioni nel paper) sul fatto che l’AI come campo scientifico è legittima e utile (Weak AI). Non rigetta la possibilità di macchine pensanti in linea di principio. Rigetta una specifica tesi metafisica sul rapporto tra programmi e menti. La differenza è importante.

Mito 5 — “Il CRA prova che l’introspezione è una guida affidabile alla comprensione”. Parzialmente falso. Il CRA si appoggia sull’introspezione di Searle (“io non capisco il cinese”), ma Searle non sostiene che l’introspezione sia sempre affidabile, solo che lo sia per la non-comprensione di una lingua sconosciuta. La forza dell’argomento dipende da quanto si considera affidabile l’introspezione in casi specifici, e questo è contestato.

Mito 6 — “GPT-4 confuta Searle”. Falso. GPT-4 e gli LLM in generale producono output molto più sofisticato del programma di Schank del 1980, ma il CRA non è un argomento sulla complessità, è un argomento sulla natura. Un sistema più complesso ha la stessa struttura: simboli, regole, manipolazione formale. Il CRA non viene confutato da prestazioni migliori, viene messo in discussione solo se si articola perché la struttura del sistema è qualitativamente diversa, e questo è precisamente ciò che gli avversari di Searle cercano di fare (con successo parziale).

Limite 4 — Mancanza di teoria positiva tecnicamente specificata. Il CRA dice che la sintassi non basta, e Searle dice che servono “i giusti poteri causali del cervello biologico”, ma non specifica tecnicamente quali. La posizione positiva è filosoficamente coerente ma scientificamente vaga. Critici (Sloman, Dennett) accusano questa mancanza di rendere la posizione non falsificabile.

Limite 5 — Asimmetria epistemica dell’introspezione. Searle dice “io non capisco il cinese” appoggiandosi alla propria introspezione. Ma l’introspezione è una guida affidabile per i casi negativi (so di non capire qualcosa) tanto quanto per i casi positivi (so di capire qualcosa)? Numerosi studi di psicologia cognitiva dagli anni ‘70 in poi (Nisbett e Wilson “Telling More Than We Can Know” Psychological Review 1977) hanno mostrato che l’introspezione è inaffidabile in molti contesti. Searle assume che sia affidabile per il caso specifico della comprensione di una lingua sconosciuta; gli avversari contestano l’assunzione.

Mito 7 — “Il CRA dice che l’AI è impossibile in linea di principio”. Falso. Come già notato (Mito 1), Searle è esplicito sul fatto che macchine future con i giusti poteri causali potrebbero pensare. La sua posizione è che il programma, in se, non è ciò che produce il pensiero. Distinguere la negazione di una specifica tesi computazionalista dalla negazione dell’AI in generale è fondamentale per leggere il CRA correttamente.

Mito 8 — “Il CRA si applica solo alla natural language understanding”. Falso. Searle nel paper presenta l’argomento usando il cinese come esempio, ma la struttura si applica a qualsiasi competenza cognitiva: matematica, gioco degli scacchi, riconoscimento di immagini. Se la sintassi non basta per la comprensione del linguaggio, non basta nemmeno per la comprensione di proposizioni matematiche, di posizioni di scacchi, di immagini. Il CRA è generale, non specifico al linguaggio.

Va aggiunto un punto metodologico generale, che riguarda la natura stessa del CRA come argomento. Il CRA non è un argomento empirico: non si lascia confermare o falsificare con esperimenti. È un argomento concettuale che chiarisce cosa significhi “comprensione” e cosa significhi “esecuzione di programma”, e mostra che le due nozioni sono distinte. Aspettarsi che la ricerca empirica (in AI, in neuroscienza, in mech interp) “risolva” il dibattito CRA è un errore di categoria. La ricerca empirica può cambiare quali sistemi consideriamo plausibili candidati alla comprensione, ma non può cambiare l’analisi concettuale di cosa la comprensione sia. Questo è importante per chi viene dall’AI: il dibattito CRA non è un problema tecnico in attesa di soluzione tecnica, è un problema filosofico in attesa di articolazione filosofica migliore.

Va segnalata anche una difficoltà meta-storiografica. Il CRA è diventato così famoso che ogni discussione filosofica successiva sull’AI lo deve includere come riferimento, anche quando non aggiunge molto. Il rischio è che il dibattito si ossifichi su mosse rituali (esposizione del setup, citazione di una risposta standard, rinvio alla risposta di Searle) senza progresso filosofico reale. Filosofi più giovani come Mark Sprevak hanno argomentato che il dibattito CRA, dopo quarant’anni, ha esaurito la sua produttivita e che le questioni filosofiche sull’AI andrebbero impostate diversamente — magari partendo da casi concreti di sistemi attuali piuttosto che da esperimenti mentali astratti. Questa critica meta-filosofica è essa stessa parte del dibattito ed è una delle direzioni in cui la discussione si sta muovendo nel 2020-2026.

Collegamenti

• cosa-significa-pensare — Searle è una delle figure principali della Parte II e una delle posizioni nel panorama delle quattro strategie filosofiche; il CRA è la sua argomentazione tecnica più importante.
• turing-test — il CRA è la critica filosofica più canonica al test di Turing, ridotta li a un paragrafo con rinvio a questo capitolo. Qui il dettaglio.
• turing-macchina-mente — Turing 1950 introduce il framework che Searle attacca; il CRA è la risposta filosofica più sostanziale al programma turingiano in 30 anni.
• ai-forte-ai-debole — la distinzione introdotta da Searle nel paper, che diventa standard nel dibattito. Qui usata, lì approfondita nelle implicazioni concettuali.
• funzionalismo — il bersaglio indiretto del CRA. Qui presentato come “ciò contro cui Searle argomenta”, li analizzato in profondità storica e tecnica.
• computazionalismo — il bersaglio diretto del CRA. La tesi che il pensiero sia computazione, attaccata frontalmente da Searle.
• intenzionalità — il concetto chiave della posizione positiva di Searle, qui esposto in sintesi operativa, li sviluppato come tema filosofico autonomo (Brentano, Husserl, Searle 1983).
• symbol-grounding — Harnad 1990 estende la Robot Reply al problema del grounding sensoriale; filiazione esplicita dal CRA.
• coscienza-access-phenomenal — Block 1995 distingue access consciousness e phenomenal consciousness; rilevante per chiarire quale tipo di “comprensione” il CRA neghi al programma.
• hard-problem-chalmers — Chalmers 1995 distingue easy problems e hard problem; offre una posizione intermedia tra Searle e Dennett (organizational invariance) discussa qui in sintesi.
• mente-estesa — Clark e Chalmers 1998 sviluppano la mente estesa; relazione complessa con Searle (entrambi anti-computazionalisti puri ma con motivazioni diverse).
• antropomorfismo-rischi — l’attribuzione di mente a sistemi che mostrano comportamento intelligente è precisamente l’errore che Searle vuole prevenire; complementare al CRA dal lato pragmatico.

Per andare oltre

• John R. Searle, “Minds, Brains, and Programs”, Behavioral and Brain Sciences vol. 3, n. 3, 1980, pp. 417-457. Il paper originale. Leggibile in due ore. La fonte primaria irrinunciabile per chiunque voglia avere un’opinione informata sul CRA. Disponibile online su Cogprints.

• John R. Searle, “Is the Brain’s Mind a Computer Program?”, Scientific American vol. 262, n. 1, gennaio 1990, pp. 26-31. Riformulazione divulgativa del CRA con l’argomento formalizzato in 4 premesse e conclusione. Risposta diretta al connessionismo. Da leggere insieme al paper “Could a Machine Think?” di Paul e Patricia Churchland, pp. 32-37 dello stesso numero.

• Douglas R. Hofstadter, Daniel C. Dennett (eds.), The Mind’s I: Fantasies and Reflections on Self and Soul, Basic Books, 1981. Antologia che include Searle 1980 con un commentario caustico di Hofstadter. Punto di partenza per il dibattito Hofstadter-Searle, durato decenni.

• John R. Searle, The Rediscovery of the Mind, MIT Press, 1992. Sistematizzazione della posizione filosofica di Searle (biological naturalism). Capitolo 9 dedicato all’aggiornamento del CRA dopo 12 anni di dibattito. Da leggere se si vuole capire dove Searle è arrivato dopo la sua argomentazione iniziale.

• David Cole, “The Chinese Room Argument”, Stanford Encyclopedia of Philosophy, ultima revisione 2020. URL: https://plato.stanford.edu/entries/chinese-room/. Mappa rigorosa di Searle 1980, delle 6 risposte standard del paper, delle repliche post-1980, delle critiche, della ricezione. Bibliografia aggiornata. Punto di partenza per ogni approfondimento accademico, scritto da uno dei filosofi più informati sul tema.

• John Preston, Mark Bishop (eds.), Views into the Chinese Room: New Essays on Searle and Artificial Intelligence, Oxford University Press, 2002. Raccolta di 22 saggi specificamente sul CRA, ventidue anni dopo il paper originale. Contributi di Searle, Dennett, Boden, Copeland, Harnad, Sloman e altri. Stato del dibattito al 2002, prima dell’esplosione degli LLM. Utile per chi vuole vedere come si articolavano le posizioni in un momento di relativa stabilita del dibattito, prima che l’AI moderna lo rilanciasse.

• Roger Penrose, The Emperor’s New Mind: Concerning Computers, Minds, and the Laws of Physics, Oxford University Press, 1989. Argomento parallelo al CRA basato su Godel: se l’intelligenza umana può “vedere” la verita di proposizioni godeliane non dimostrabili, allora non è algoritmica. Penrose arriva a una conclusione simile a Searle (no Strong AI) per ragioni diverse (matematiche, non fenomenologiche). Da leggere insieme a Shadows of the Mind (Oxford, 1994) che approfondisce l’argomento.