AI forte e AI debole: la distinzione e perché conta ancora

La parola “strong AI” oggi vuole dire due cose diverse: una tesi metafisica del 1980 secondo cui il programma giusto è una mente, e una tesi capacitiva del 2020 secondo cui un sistema raggiunge il livello cognitivo umano. Distinguerle è metà del lavoro filosofico sull’AI contemporanea; l’altra metà è capire perché la confusione è stata produttiva nonostante tutto.

Perché questo capitolo

Strong AI è una distinzione introdotta da John Searle in tre paragrafi all’inizio di “Minds, Brains, and Programs” (Behavioral and Brain Sciences 3/3, 1980, pp. 417-457), come premessa terminologica dell’argomento della Stanza Cinese. Searle voleva separare due tesi che gli sembravano confuse nel discorso AI dei tardi anni ‘70: una tesi metodologica sull’utilità dei programmi come strumenti di studio della mente, e una tesi metafisica sul programma come istanza di mente. La prima la chiamò weak AI e l’accettò esplicitamente; la seconda la chiamò strong AI e dedicò il resto del paper ad attaccarla.

Quarantacinque anni dopo, la distinzione è ovunque e quasi sempre fraintesa. Nel discorso pubblico contemporaneo “strong AI” significa di solito AGI — un sistema con capacità cognitive generali al livello umano. Nel paper di Searle non significa questo: significa una posizione su cosa il sistema sia ontologicamente, non su cosa sappia fare. Ogni volta che un articolo del 2026 parla di “OpenAI persegue la strong AI”, sta usando la parola di Searle in un senso che Searle non aveva in mente. La confusione non è innocente: ha conseguenze sul modo in cui si discute di rischi, di etica, di coscienza delle macchine.

Il capitolo serve a tre cose. Prima: tornare al testo originale del 1980 e leggere cosa Searle ha effettivamente scritto, distinguendolo dal folklore che gli si è cucito addosso. Seconda: introdurre la riformulazione moderna più pulita — capacity claim contro nature claim — che permette di disambiguare le affermazioni sui sistemi AI senza rimanere prigionieri della terminologia searleana. Terza: mostrare come questa distinzione, applicata con cura, illumini il dibattito sugli LLM nel 2020-2026, dove le pretese su “comprensione” oscillano costantemente fra livelli diversi senza che si dichiari quale si stia tenendo.

Il taglio è filosofico, non operativo. Il capitolo presuppone la lettura di stanza-cinese-searle, che presenta Searle 1980 nel suo complesso e tratta il Chinese Room Argument; di turing-test, che inquadra il problema della misurazione del pensiero; e di cosa-significa-pensare, che traccia il panorama delle quattro strategie filosofiche. Qui si zooma su una sola distinzione, ma con l’attenzione necessaria a separarla dagli usi che ne sono stati fatti dopo.

Contesto

Berkeley Hills, primavera 1979. Searle, allora quarantasettenne, sta scrivendo “Minds, Brains, and Programs” come reazione diretta al programma SAM (Script Applier Mechanism) di Roger Schank — informatico americano, 1946-2023, fondatore del Yale AI Lab — il cui paper “Scripts, Plans, Goals, and Understanding” (con Robert Abelson, Erlbaum 1977) era arrivato sulla sua scrivania. Schank sosteneva che SAM “comprendesse” brevi storie in inglese applicando script — strutture di conoscenza pre-compilate su situazioni stereotipate. La pretesa era audace ma diffusa nella comunità AI dell’epoca, che vedeva nel comportamento input-output corretto la prova del processo cognitivo sottostante.

Searle voleva attaccare la pretesa specifica di Schank, ma sapeva che il bersaglio era più vasto. Dietro Schank c’era Marvin Minsky (informatico americano, 1927-2016, fondatore del MIT AI Lab) e i suoi frames; dietro Minsky c’era Allen Newell con la physical symbol system hypothesis (Newell-Simon “Computer Science as Empirical Inquiry”, Communications of the ACM 19/3, 1976); dietro tutti loro c’era il funzionalismo computazionale come impalcatura filosofica generale. Il funzionalismo era stato formulato da Hilary Putnam — filosofo americano, 1926-2016 — in due paper-chiave: “Minds and Machines” (in Sidney Hook ed., Dimensions of Mind, NYU Press 1960) e “Psychological Predicates” (poi noto come “The Nature of Mental States”, in W.H. Capitan e D.D. Merrill eds., Art, Mind, and Religion, University of Pittsburgh Press 1967). Putnam sosteneva che gli stati mentali fossero stati funzionali, identificati dal loro ruolo causale; quindi multiplo-realizzabili in qualsiasi substrato fisico capace di realizzare la stessa organizzazione funzionale.

Da Putnam la posizione era stata radicalizzata da Jerry Fodor — filosofo americano, 1935-2017 — in The Language of Thought (Crowell, 1975). Per Fodor, il pensiero è computazione su un linguaggio interno simil-formale (il “mentalese”); gli stati cognitivi sono atteggiamenti proposizionali che intrattengono relazioni computazionali con simboli mentali strutturati. Se Fodor ha ragione, allora un computer che esegue le giuste computazioni ha le stesse proprietà cognitive di un umano. Strong AI, in senso searleano, è la conseguenza naturale di questa posizione.

Searle 1980 voleva attaccare Fodor e Putnam attaccando Schank. Il bersaglio diretto era un programma specifico che si poteva criticare con un esperimento mentale concreto; il bersaglio indiretto era una posizione filosofica generale che si poteva criticare con lo stesso esperimento mentale, esteso. Per separare i due livelli, Searle aveva bisogno di un vocabolario nuovo. Lo introdusse nelle prime righe del paper.

Va detto che il vocabolario non era totalmente inedito. La distinzione tra “computer come strumento di studio della mente” e “computer come istanza di mente” circolava informalmente nella comunità AI dei tardi anni ‘70, particolarmente nei dibattiti seminariali al MIT e al Yale AI Lab. Searle ebbe il merito di nominarla in modo memorabile, di darle definizioni testuali precise, e di attaccare frontalmente la seconda. La diffusione successiva del vocabolario è dovuta proprio a questa nominazione: prima del 1980 la distinzione era implicita, dopo il 1980 è diventata terminologia standard del campo. La filosofia della scienza descrive spesso casi simili in cui un autore non inventa una distinzione ma la cristallizza in un vocabolario che la rende discutibile. Searle 1980 è uno di questi casi per la filosofia della mente computazionale.

[FIGURE — Searle 1980 distinction at a glance: a 2x2 matrix where rows are “Strong AI” (top) and “Weak AI” (bottom) and columns are “What is claimed about programs” (left) and “Searle’s verdict” (right); cell Strong/claim reads “the right program literally is a mind and has cognitive states”; cell Strong/verdict reads “REJECTED by the Chinese Room argument”; cell Weak/claim reads “programs are powerful tools to study and simulate mental phenomena”; cell Weak/verdict reads “ACCEPTED, no objection”; clean editorial table style; subtitle reads “the original distinction in Searle 1980, sec. 1”]

Una nota terminologica preliminare. Le due espressioni inglesi sono strong AI e weak AI. Le traduzioni italiane standard sono “AI forte” e “AI debole”, che il capitolo userà alternativamente con le forme inglesi. Chiariamo subito che “debole” in questo contesto non significa “poco capace”: significa “meno ambiziosa metafisicamente”. Un programma “debole” in senso Searle può essere superhuman in un dominio specifico (Stockfish, AlphaFold, GPT-4) e restare comunque “weak AI” — perché la qualifica riguarda cosa il programma è metafisicamente, non cosa fa.

L’intuizione

Due angoli per la distinzione, complementari ma non sovrapponibili.

Angolo 1 — Logico: separare cosa fa da cosa è

Distinguere “cosa un sistema fa” da “cosa un sistema è” è una mossa generale di chiarificazione filosofica. Si applica in molti domini, non solo all’AI.

Esempio fuori dall’AI. Un termometro a mercurio segna 38 gradi. Cosa fa: dilata una colonna di mercurio in modo correlato con la temperatura ambientale. Cosa è: uno strumento di misura, non un’istanza di “sentire caldo”. Nessuno è tentato di confondere i due livelli, perché il sistema è semplice e meccanico.

Stesso esempio applicato al cervello. Un cervello umano produce comportamento linguistico complesso. Cosa fa: emette suoni e segni in correlazione con stati interni e con l’ambiente. Cosa è: un’istanza di mente cosciente, intenzionale, soggettiva. Qui la distinzione è meno ovvia, ma esiste: nessuno confonde “il cervello produce parole” con “il cervello è la mente”. Il cervello è il substrato fisico della mente, non la mente stessa.

Ora trasferisci la distinzione all’AI. Un sistema AI produce comportamento linguistico complesso. Cosa fa: emette token in risposta a token di input. Cosa è: un’istanza di mente? Un manipolatore di simboli? Un substrato di qualcos’altro? Qui la distinzione diventa contestata, e la disputa strong-AI vs weak-AI si gioca esattamente su questo.

L’intuizione logica è che la stessa distinzione tra “fare X” ed “essere Y” che applichiamo intuitivamente al termometro va applicata con altrettanta cura all’AI. Confondere i due livelli è un errore di categoria, e Searle 1980 vuole prevenirlo nominandoli separatamente.

Angolo 2 — Strategico: permettere accordo locale

C’è un secondo angolo, più pragmatico. La distinzione strong/weak permette accordo locale dove un dibattito senza distinzione produrrebbe solo trincee.

Senza la distinzione, “le macchine possono pensare?” è una domanda monolitica su cui le posizioni si polarizzano. Chi sostiene di sì deve difendere una tesi metafisica forte; chi sostiene di no deve negare anche l’utilità scientifica dei programmi come modelli della mente.

Con la distinzione, la domanda si scinde in due. “I programmi sono utili strumenti per studiare la mente?” — qui quasi tutti dicono sì, weak AI è una posizione minimale e non controversa. Schank, Newell, Minsky, Putnam, Fodor, Dennett, ma anche Searle, Penrose, Dreyfus accettano weak AI. La disciplina dell’AI come ricerca scientifica non è in discussione.

“I programmi adeguati sono letteralmente menti?” — qui le posizioni si dividono, ma il dibattito è più chiaro perché ha un oggetto specifico. Si discute la tesi metafisica strong-AI senza dover discutere insieme l’utilità della ricerca AI. L’accordo su weak AI libera energie per il dibattito su strong AI.

L’intuizione strategica è che un buon vocabolario filosofico permette di disaggregare dispute monolitiche in componenti separabili. Searle 1980 fa questo lavoro per il dibattito mente-macchina. Anche chi è in disaccordo con la sua posizione (anti-strong-AI biological-naturalist) generalmente concede che la distinzione strong/weak è uno strumento utile.

Esempio storico di disaggregazione analoga in altri campi. Nella disputa sull’evoluzione, è utile distinguere “evoluzione come fatto storico” (le specie cambiano nel tempo, c’è discendenza comune) da “evoluzione come meccanismo” (selezione naturale, deriva genetica, selezione sessuale). Quasi tutti accettano la prima; la seconda è oggetto di dispute scientifiche e filosofiche legittime. Senza la distinzione, ogni critica al meccanismo darwiniano standard veniva interpretata come negazione del fatto evolutivo, polarizzando il dibattito. Con la distinzione, si possono raffinare i meccanismi senza mettere in discussione il fatto storico. Searle 1980 fa per la disputa AI quello che la distinzione fact/mechanism fa per la disputa evoluzione: separa un livello banale e largamente accettato da un livello sostantivo e contestato.

I due angoli non sono in contraddizione. Il primo dice perché la distinzione ha senso filosofico (separare due tipi di affermazione); il secondo dice perché è utile pragmaticamente (permettere accordo locale e dibattito mirato). Entrambi sono necessari per capire perché la distinzione è sopravvissuta quasi mezzo secolo, anche quando la sua formulazione originale è stata superata o reinterpretata.

Vale la pena aggiungere un terzo angolo, di natura più storica. La distinzione strong/weak si inserisce in una tradizione filosofica antica che separa “essere” da “sembrare”. Aristotele, nelle Categorie (4° secolo a.C.), distingue tra sostanza prima (cosa una cosa è) e sue proprietà accidentali (cosa una cosa appare o fa). Cartesio, nelle Meditazioni (1641), distingue tra cogito (certezza di essere una cosa pensante) e dubitabilità di tutto il resto. Kant, nella Critica della Ragion Pura (1781), distingue tra fenomeni (cosa appare) e noumeni (cosa è in sé). La distinzione strong/weak di Searle è figlia di questa tradizione lunghissima: chiede di non confondere il fenomeno (comportamento, performance, capacity) con la sostanza (mente, intenzionalità, nature). Letta in questa luce, la distinzione non è un’invenzione del 1980, è un’applicazione di una mossa filosofica generale al caso specifico dei sistemi computazionali.

L’angolo storico spiega anche perché la distinzione è risultata persuasiva fuori dagli ambienti AI. I filosofi della mente analitica, formati nella tradizione kantiana o nella tradizione fenomenologica, riconoscono immediatamente la struttura della distinzione. Per loro, dire “Searle distingue tra come il sistema appare e come il sistema è” è dire qualcosa di familiare. La novità è solo l’applicazione al caso AI, non la struttura dell’argomento.

La meccanica

Cinque sotto-sezioni. Definizione testuale di Searle 1980; capacity claim vs nature claim come riformulazione moderna; lo slittamento di “strong AI” verso AGI nel discorso 2020-2026; mappa delle posizioni storiche pro/anti-strong; critiche alla distinzione stessa.

Definizione Searle 1980 con citazioni puntuali

Searle apre la sezione 1 del paper con due definizioni testuali. Le riportiamo perché sono frequentemente parafrasate in modo libero e perdono precisione.

Weak AI: “the principal value of the computer in the study of the mind is that it gives us a very powerful tool. For example, it enables us to formulate and test hypotheses in a more rigorous and precise fashion”.

Strong AI: “the appropriately programmed computer really is a mind, in the sense that computers given the right programs can be literally said to understand and have other cognitive states”.

Searle aggiunge una caratterizzazione complementare: “in strong AI, because the programmed computer has cognitive states, the programs are not mere tools that enable us to test psychological explanations; rather, the programs are themselves the explanations”.

Tre punti analitici sul testo.

Primo punto. Le due tesi sono ortogonali, non opposte. Si può accettare weak AI senza accettare strong AI: i programmi sono utili strumenti, ma non sono menti. Questa è la posizione di Searle stesso. Si può accettare entrambe: i programmi sono strumenti utili e quelli adeguati sono menti. Questa è la posizione di Newell, Schank, Fodor. Si può rigettare entrambe: i programmi non sono né strumenti utili né menti. Questa è una posizione minoritaria, ma esiste in alcune varianti di critica fenomenologica radicale all’AI.

Secondo punto. Strong AI è una tesi su una classe di programmi, non su un programma specifico. Searle non sta dicendo che SAM sia presentato come una mente; sta dicendo che la posizione strong-AI in generale sostiene che esistono programmi (forse non SAM, forse programmi futuri) che sarebbero menti se eseguiti. La sua argomentazione contro strong-AI è generale: nessun programma, in linea di principio, può essere una mente in virtù del solo fatto di essere un programma.

Terzo punto. La parola chiave è “literally” (letteralmente). Strong AI non dice che il programma simula una mente, o ha proprietà mente-simili, o si comporta come se avesse stati mentali. Dice che il programma è letteralmente una mente, ha letteralmente stati cognitivi. La differenza è metafisicamente sostantiva: simulare un uragano non rende il programma un uragano, simulare un cervello non rende il programma un cervello. Strong-AI nega questa analogia per il caso della mente: simulare una mente, sostiene, è essere una mente.

[FIGURE — Two parallel propositions side by side, each in a labeled box; left box “Weak AI claim” reads “Programs are powerful tools to formulate and test hypotheses about mental phenomena. They simulate the mind.”; right box “Strong AI claim” reads “The right programs, literally, ARE minds. They have cognitive states, not just simulate them.”; under each box an arrow points to a label below; left arrow labeled “ACCEPTED by Searle”; right arrow labeled “REJECTED by Searle (Chinese Room argument)”; clean editorial style; subtitle reads “the two claims, set out as in Searle 1980, sec. 1”]

Va ricordato che la distinzione ha forza retorica precisa nel paper. Searle può accettare weak AI senza fare concessioni al suo bersaglio, perché la posizione interessante per i suoi avversari non è weak AI (banale) ma strong AI (sostantiva). Concedendo weak AI, Searle mostra di non essere un anti-AI generico alla Dreyfus; concentra l’attacco sulla tesi metafisica specifica, che è quella che vuole demolire.

Capacity claim vs nature claim

Lo strumento analitico più pulito per non confondere i livelli, oggi, non è esattamente la distinzione searleana. È una riformulazione moderna che si è cristallizzata negli anni 2010-2025 nei testi di filosofia della mente analitica e di filosofia dell’AI: la distinzione tra capacity claim e nature claim. Non è di Searle e non si trova in alcun locus classicus singolo; è una nitidezza analitica diffusa nei testi di Margaret Boden (AI: Its Nature and Future, Oxford 2016), Stuart Russell (Human Compatible, Viking 2019), David Chalmers (Reality+, Norton 2022) e in molti articoli della Stanford Encyclopedia of Philosophy. Va dunque presentata come ricostruzione contemporanea, non come filiazione testuale diretta da Searle.

Capacity claim: un’affermazione su cosa il sistema fa. È empirica, falsificabile, decidibile in linea di principio con esperimenti e benchmark.

Esempi: “GPT-4 risolve problemi di matematica del livello SAT con accuracy superiore al 90%”. “AlphaFold predice strutture proteiche con RMSD inferiore a 1 angstrom su CASP14”. “Stockfish vince contro qualunque giocatore umano”. “Un transformer da 7 miliardi di parametri estrae correttamente entità nominate in inglese su CoNLL con F1 superiore a 0.95”. “Un sistema di visione artificiale classifica immagini su ImageNet con top-1 accuracy del 88%”. “Un modello vocale trascrive parlato inglese con WER inferiore al 5% su LibriSpeech”.

Tutti questi sono claim verificabili. Si può eseguire l’esperimento, misurare il risultato, accettare o rigettare l’affermazione. Le dispute su capacity claim si risolvono raccogliendo dati, replicando esperimenti, controllando metodologia. Sono ordinarie controversie scientifiche.

Nature claim: un’affermazione su cosa il sistema è metafisicamente. È filosofica, dipende da un framework concettuale, non è risolvibile con i soli esperimenti.

Esempi: “GPT-4 ha comprensione genuina del linguaggio”. “AlphaFold capisce la chimica delle proteine”. “Stockfish pensa agli scacchi”. “Il transformer sopra ha rappresentazioni semantiche autentiche delle entità che riconosce”. “Il sistema di visione vede gli oggetti, non solo li riconosce”. “Il modello vocale ascolta il parlato, non lo trascrive solamente”.

Va notato che alcuni claim apparentemente neutri usano vocabolario che oscilla fra capacity e nature. “Il sistema riconosce X” è prevalentemente capacity (esegue corretta classificazione di X); “il sistema vede X” tende verso nature (ha esperienza percettiva di X). Lo slittamento è sottile ma frequente nel parlato comune e nei comunicati di prodotto.

Nessuno di questi claim si decide con un benchmark. Si decide articolando una posizione filosofica (cos’è la comprensione? cos’è il pensare? cos’è una rappresentazione semantica?) e applicandola al sistema. Dipendentemente dal framework, lo stesso sistema riceve verdetti opposti.

[FIGURE — Capacity vs Nature claims as 2x2 matrix with examples: rows labeled “Capacity claim (about behavior)” (top) and “Nature claim (about ontology)” (bottom); columns labeled “Example 1: chess engine” and “Example 2: large language model”; cell capacity/chess reads “Stockfish defeats every human player (verifiable, true)”; cell capacity/LLM reads “GPT-4 passes SAT-level math (verifiable, mostly true on benchmarks)”; cell nature/chess reads “Stockfish understands chess and enjoys winning (philosophical, contested)”; cell nature/LLM reads “GPT-4 has genuine comprehension of language (philosophical, deeply contested)”; clean editorial style; subtitle reads “the modern reformulation: orthogonal axes, not synonyms”]

Le due dimensioni sono ortogonali. Posizioni possibili sull’AI moderna nel piano (capacity, nature):

Alta capacity, alta nature: “GPT-4 raggiunge prestazioni umane in molti task ed è una mente”. Posizione strong-AI ottimista.
Alta capacity, bassa nature: “GPT-4 raggiunge prestazioni umane in molti task ma non è una mente, è solo manipolazione di simboli sofisticata”. Posizione searleana applicata a sistemi capaci.
Bassa capacity, alta nature: “GPT-4 è limitato in molti task ma quel poco che fa lo fa con intenzionalità genuina”. Posizione poco difesa, ma logicamente possibile.
Bassa capacity, bassa nature: “GPT-4 è limitato e non è una mente”. Posizione scettica generale.

Il fatto che le quattro celle siano tutte abitate da qualche posizione mostra che capacity e nature sono dimensioni indipendenti. Confonderle, come fa il discorso pubblico contemporaneo quando equipara “strong AI” a “AGI”, collassa quattro posizioni in due e perde la possibilità di distinguere le posizioni intermedie.

Lo slittamento “Strong AI = AGI” nel discorso 2020-2026

Tra il 2005 e il 2025 il termine “strong AI” subisce uno slittamento semantico marcato nel discorso pubblico, accademico parziale, di settore. La parola viene progressivamente usata come sinonimo di AGI (Artificial General Intelligence), nozione che indica un sistema con capacità cognitive generali al livello umano.

La genesi del termine “AGI” è documentata. Mark Gubrud lo conia nel 1997 in un articolo su rivista militare-strategica. Shane Legg (cofondatore di DeepMind) lo riprende nel suo dottorato del 2008 (“Machine Super Intelligence”, PhD thesis, Università di Lugano). Ben Goertzel lo diffonde nella comunità AI con la conferenza AGI annuale dal 2008 e con il volume Artificial General Intelligence (Goertzel-Pennachin eds., Springer 2007). Negli anni 2010 il termine si stabilizza nella comunità tech come standard per “AI al livello umano in generale”.

Lo slittamento avviene quando “strong AI” e “AGI” iniziano a essere usati come sinonimi nei media e nelle dichiarazioni di settore. Esempi tipici dal 2020-2026: articoli di Wired, The Guardian, MIT Technology Review che scrivono “OpenAI persegue la strong AI” intendendo “OpenAI persegue la AGI”; podcast di settore che usano i due termini intercambiabilmente; il suo uso nei white-paper di policy AI europei e americani (per esempio nel discorso sui rischi della AI Act, dove “strong AI” appare a volte come sinonimo di “general-purpose AI”).

L’identificazione è terminologicamente comprensibile ma concettualmente problematica. Searle 1980 con strong AI intendeva una tesi metafisica su cosa il programma sia ontologicamente. AGI è una tesi capacitiva su cosa il sistema sappia fare. Sono due cose diverse.

[FIGURE — Linguistic drift of “strong AI” from 1980 to 2026: timeline with years on x-axis (1980, 1995, 2007, 2015, 2020, 2026) and a band labeled “what ‘strong AI’ commonly means” running from left to right; left side label (1980-1995) reads “Searle’s metaphysical thesis: program literally is a mind”; middle label (2007-2015) reads “AGI as new term: human-level capabilities across domains (Goertzel, Legg)”; right label (2020-2026) reads “colloquial ‘strong AI’ = AGI; Searle’s original sense fading in popular use”; bottom annotation in italics reads “two distinct claims drifted into one word — disambiguation increasingly needed”; clean editorial timeline style]

Conseguenze pratiche dell’identificazione errata.

Prima conseguenza. Le dispute su “strong AI” diventano confuse. Quando un commentatore dice “non avremo strong AI prima del 2050” può intendere “non avremo AGI prima del 2050” (claim capacity, decidibile empiricamente) o “non avremo programmi che sono letteralmente menti prima del 2050” (claim nature, indecidibile empiricamente). Le due affermazioni hanno status epistemico diverso ma vengono trattate come equivalenti.

Seconda conseguenza. I dibattiti su rischi dell’AI scivolano fra livelli. “Una strong AI potrebbe sterminare l’umanità” è un’affermazione che ha forma capacity (un sistema con capacità sufficienti potrebbe causare catastrofi), ma viene spesso letta come nature (un sistema con vere intenzioni potrebbe decidere di farlo). I due framing sostengono valutazioni diverse del rischio.

Terza conseguenza. Le dichiarazioni di settore diventano ambigue. Quando un’azienda dichiara “stiamo costruendo strong AI”, se intende AGI sta annunciando un obiettivo capacity (verificabile in linea di principio); se intende strong-AI in senso Searle sta annunciando un obiettivo nature (indecidibile, e probabilmente non è quello che vuole dire).

La pulizia analitica suggerisce di mantenere separati i due termini. “AGI” per il claim capacity (sistema al livello cognitivo umano in generale). “Strong AI” per il claim nature in senso Searle (programma adeguato è una mente). L’uso colloquiale equivalente tra i due è documentato e diffuso, ma è una fonte di confusione che il dibattito serio dovrebbe disinnescare.

Test diagnostico operativo

Una conseguenza pratica della distinzione capacity/nature è la possibilità di un test diagnostico operativo per chiunque legga un’affermazione su un sistema AI.

Passo 1. Identificare il claim. Estrarre la singola affermazione che si vuole valutare. Esempio: “GPT-4 ragiona meglio di GPT-3.5”.

Passo 2. Chiedere: “questa affermazione, se vera, sarebbe verificabile con un esperimento o un benchmark?”. Se sì, è una capacity claim. Se no, è una nature claim, o è una capacity claim mascherata da nature claim (o viceversa).

Passo 3. Per le capacity claim: chiedere “quale benchmark? con quale baseline? con quale validità ecologica?”. Sono domande tecniche standard di valutazione AI.

Passo 4. Per le nature claim: chiedere “rispetto a quale framework metafisico? funzionalismo, biological naturalism, organizational invariance, eliminativismo, panpsichismo?”. Sono domande filosofiche standard.

Passo 5. Se il claim sembra mescolare i due livelli (esempio: “GPT-4 capisce davvero” senza qualificazione), riformularlo in due claim separati: “GPT-4 si comporta come se capisse” (capacity) e “GPT-4 ha stati di comprensione genuini” (nature). Valutarli separatamente.

Il test diagnostico è la principale ragione per cui la distinzione strong/weak resta utile, anche se la sua formulazione searleana del 1980 è oggi parzialmente datata. Applicato con disciplina, permette di portare ordine in dibattiti che altrimenti scivolano fra livelli senza segnalarlo.

Mappa delle posizioni storiche pro/anti-Strong AI

La disputa strong-AI vs anti-strong-AI ha attraversato cinque decenni di filosofia della mente. Una mappa delle posizioni principali permette di orientarsi.

Pro-Strong AI. La posizione classica computazionalista. Ne sono varianti:

Putnam early. Negli articoli “Minds and Machines” (1960) e “Psychological Predicates” (1967) Putnam formula il funzionalismo computazionale. Gli stati mentali sono identificati con stati funzionali; gli stati funzionali sono multiplo-realizzabili (in carbonio, silicio, elettronica fluida, ovunque); quindi un programma adeguato implementato su qualsiasi hardware ha gli stessi stati mentali del cervello umano che realizza la stessa organizzazione funzionale. Strong AI in senso searleano è la conclusione naturale.

Fodor. In The Language of Thought (Crowell 1975), poi in Psychosemantics (MIT Press 1987) e Concepts (Oxford 1998), Fodor sviluppa la versione modulare e simbolica del computazionalismo. Il pensiero è computazione su un linguaggio interno simil-formale; gli atteggiamenti proposizionali (credenze, desideri) sono relazioni computazionali con simboli mentali. Posizione strong-AI ortodossa per cinque decenni.

Dennett. Più sottile. Dennett (filosofo americano, 1942-2024) non sostiene “il programma è una mente” in senso letterale. Sostiene che attribuire stati mentali a un sistema è uno stance interpretativo: lo facciamo quando il sistema è meglio compreso in quei termini, indipendentemente da cosa “realmente” sia. Vedi The Intentional Stance (MIT Press 1987). La sua posizione è qualificatamente strong-AI: se un programma supporta efficacemente l’intentional stance, allora attribuirgli stati mentali è legittimo, e non c’è altro fatto della questione. La distinzione strong/weak in senso Searle viene così, in qualche modo, dissolta. Dennett è anche, parallelamente, l’avversario filosofico più persistente di Searle dal commentario BBS 1980 fino alla sua morte nel 2024.

Chalmers. Posizione qualificata. In The Conscious Mind (Oxford 1996) e in “A Computational Foundation for the Study of Cognition” (manoscritto 1994, pubblicato in Journal of Cognitive Science 12/4, 2011) Chalmers introduce l’organizational invariance: due sistemi con la stessa organizzazione causale fine-grained hanno gli stessi stati cognitivi. Posizione strong-AI permissiva sul substrato (silicio può bastare se replica l’organizzazione del cervello), ma esigente sull’organizzazione (non basta passare il test di Turing, serve replicare la struttura causale). Per gli stati cognitivi (ragionamento, percezione computazionale, memoria) Chalmers è strong-AI; per la coscienza fenomenica (esperienza qualitativa) sospende il giudizio, vista la difficoltà del hard problem.

Hofstadter. Douglas Hofstadter (cognitivista americano, 1945-) in Gödel, Escher, Bach (Basic Books 1979) e in I Am a Strange Loop (Basic Books 2007) sostiene che la mente è un pattern formale a un livello opportunamente alto. Il “loop strano” è la struttura cognitiva che si auto-rappresenta; può essere realizzato in qualsiasi substrato in grado di sostenerlo. Posizione storicamente alleata di strong-AI, anche se Hofstadter ha espresso negli ultimi anni preoccupazione sulla rapidità con cui gli LLM hanno raggiunto capacità che lui pensava lontane.

Pinker. Steven Pinker (psicologo cognitivo canadese, 1954-) in How the Mind Works (Norton 1997) propone una posizione computazionalista evolutiva modulare. “The mind is what the brain does” è la formula sintetica. Posizione strong-AI nei termini standard, anche se sviluppata principalmente in chiave evoluzionista.

Boden. Margaret Boden in Mind as Machine: A History of Cognitive Science (Oxford 2006, due volumi) ricostruisce storicamente il computazionalismo come paradigma di ricerca. La sua posizione personale è strong-AI moderata: i programmi adeguati sono menti, ma “adeguati” implica una sofisticazione e una storia di interazione con il mondo che i programmi attuali non hanno ancora. Non un anti-Searle frontale, ma una collocazione nel campo computazionalista con caveat sulla distanza dei sistemi attuali da quelli che si qualificherebbero.

Anti-Strong AI. Gli avversari della posizione computazionalista. Ne sono varianti:

Searle. Naturalismo biologico. La mente richiede i giusti poteri causali del cervello biologico. Sviluppato in Intentionality (Cambridge 1983), Minds, Brains and Science (BBC Reith Lectures 1984), The Rediscovery of the Mind (MIT Press 1992). Vedi 38-stanza-cinese-searle per il dettaglio.

Penrose. Roger Penrose (matematico-fisico inglese, 1931-) in The Emperor’s New Mind (Oxford 1989) e Shadows of the Mind (Oxford 1994) sostiene che la cognizione umana non è algoritmica, basandosi su un argomento godeliano: la mente umana può “vedere” la verità di proposizioni indecidibili da sistemi formali, dunque non può essere essa stessa un sistema formale. La posizione positiva è speculativa (mente quantistica, microtubuli, riduzione gravitazionale dello stato quantistico), ma la conclusione anti-strong-AI è netta. Trattata in dettaglio in computazionalismo.

Dreyfus. Hubert Dreyfus (filosofo americano, 1929-2017) in What Computers Can’t Do (Harper & Row 1972) e What Computers Still Can’t Do (MIT Press 1992) sviluppa una critica fenomenologica e heideggeriana. La cognizione richiede being-in-the-world (essere-nel-mondo), expertise corporea, coinvolgimento situato. La rappresentazione formale dei contenuti non cattura il know-how preriflessivo. Trattata in dettaglio in mente-estesa e cognitivismo-ecologico.

Posizioni intermedie. Non tutti si schierano nettamente.

Block. Ned Block (filosofo americano, 1942-) in “Troubles with Functionalism” (in C.W. Savage ed., Perception and Cognition, Minnesota Studies in the Philosophy of Science vol. IX, 1978) e in “On a Confusion about a Function of Consciousness” (BBS 18, 1995, pp. 227-247) propone una posizione articolata. Per gli stati cognitivi access (informazione disponibile per il controllo del comportamento) il funzionalismo basta, e quindi strong-AI è plausibile. Per la coscienza fenomenica (esperienza qualitativa) non è chiaro se basti, e quindi strong-AI è dubbio. La distinzione access/phenomenal permette di articolare il dissenso senza forzare una scelta binaria. Trattata in coscienza-access-phenomenal.

Putnam late. Hilary Putnam stesso, dopo aver fondato la posizione strong-AI funzionalista negli anni ‘60, la abbandona pubblicamente in Representation and Reality (MIT Press 1988). Le ragioni sono interne (problemi del semantic externalism, difficoltà del Twin Earth, considerazioni anti-mentali wittgensteiniane), non concessioni a Searle. Ma l’autocritica del fondatore della posizione è essa stessa un dato significativo: la posizione strong-AI nella sua forma più pura è in difficoltà nella stessa filosofia analitica che l’aveva generata.

[FIGURE — Position map of pro/anti/intermediate Strong AI: a 2D plot with x-axis labeled “Substrate independence (low to high)” and y-axis labeled “Confidence in ‘program is mind’ claim (low to high)”; nine labeled dots placed in the plane: top-right cluster (high substrate-independence, high confidence) labeled with “Putnam early 1960”, “Fodor 1975”, “Hofstadter 1979”, “Pinker 1997”; middle-right cluster labeled with “Dennett 1987 (intentional stance)”, “Chalmers 1996 (organizational invariance)”; bottom-left cluster (low substrate-independence, low confidence) labeled with “Searle 1980 (biological naturalism)”, “Penrose 1989 (non-algorithmic)”, “Dreyfus 1972 (embodied)”; central dot labeled “Block 1978/1995 (access yes, phenomenal unclear)”; central dot labeled “Putnam late 1988 (autocritique)”; clean editorial scatter style; subtitle reads “two axes, four+ regions: the dispute is multidimensional”]

La mappa è semplificata; la posizione di ciascun autore è più sottile della collocazione su un piano. Ma il punto generale rimane: la disputa strong-AI è multidimensionale, non binaria. Confondere “pro/anti strong-AI” con “ottimista/pessimista sull’AGI” è un altro errore di categoria, complementare a quello già visto sullo slittamento “strong-AI = AGI”.

Critiche alla distinzione stessa

La distinzione strong/weak è stata, dal 1980 in poi, utile e contestata. Quattro critiche maggiori meritano menzione, perché chi vuole usare la distinzione deve sapere su quali punti è messa in discussione.

Critica 1 — Falso dualismo. La distinzione binaria è troppo cruda per la realtà gradiente della cognizione. Dennett ha argomentato (in vari testi, particolarmente in Kinds of Minds, Basic Books 1996) che ci sono molti livelli di “essere una mente”: dal termostato (rudimentale) ai mammiferi superiori (sofisticata), passando per insetti, pesci, mammiferi semplici. La distinzione tra “non-mente” e “mente” è anch’essa graduale, non binaria. Forzare strong/weak in due caselle nette riproduce un’antica ossessione filosofica (l’essenza della mente) che la psicologia comparata e l’etologia hanno superato. Marcatore: questa è una critica sulla forma della distinzione, non sulla sua sostanza; chi la sottoscrive può comunque usare strong/weak come scorciatoia per classi di posizioni, riconoscendo che ai bordi c’è continuità, non discontinuità.

Critica 2 — Definizioni circolari. Aaron Sloman (informatico inglese, 1936-) nel commentario BBS al paper di Searle stesso, e Margaret Boden (filosofa cognitivista inglese, 1936-) in Computer Models of Mind (Cambridge 1988) sollevano un punto definitorio. “Strong AI = il programma adeguato è una mente”. Ma cos’è una mente? Senza definizione operativa di mente, la distinzione è vuota. Inoltre ogni definizione di mente carica la distinzione strong/weak in una direzione precisa: definizione funzionale (mente = ciò che processa informazione in certi modi) rende strong-AI ovviamente vera; definizione fenomenologica (mente = ciò che ha esperienza soggettiva) rende strong-AI ovviamente falsa. La disputa non è sulla strong-AI, è sulla definizione di mente che la precede. Searle ha risposto che la definizione operativa di mente è precisamente ciò che la filosofia non può dare a priori, e che la distinzione strong/weak serve a chiarire cosa si sta affermando, non a definire ciò di cui si parla.

Critica 3 — Anacronismo per LLM. Vari autori 2020-2026. Searle 1980 pensava ad AI simbolica classica (Schank, Newell, Fodor). Searle 1990 estende l’argomento al connessionismo (in “Is the Brain’s Mind a Computer Program?”, Scientific American 262/1, gennaio 1990, pp. 26-31). Ma gli LLM moderni — addestrati su corpus su scala terabyte, con emergent capabilities, in-context learning, mech-interp che identifica circuiti corrispondenti a concetti — sono una creatura tecnologica diversa da entrambi. Forse la distinzione strong/weak si applica male a paradigmi che Searle non aveva in mente. Forse occorre una nuova distinzione, che catturi il fatto che gli LLM hanno proprietà ibride (parte simboliche, parte sub-simboliche, parte distribuite, parte localizzate).

Va aggiunto un commento sulla relazione fra le tre critiche. Le critiche 1 (binaria), 2 (circolare) e 3 (anacronismo) sono critiche dall’interno: chi le sottoscrive accetta la legittimità del tentativo di Searle di distinguere strong da weak, ma trova la sua formulazione difettosa. La critica 4 (functionalism rebuttal) è una critica dall’esterno: chi la sottoscrive nega che la distinzione abbia senso, perché per il funzionalismo strong-AI è la posizione default. Le tre critiche interne suggeriscono di raffinare la distinzione (capacity vs nature è il risultato); la critica esterna suggerisce di abbandonarla. Il consenso contemporaneo, soprattutto nei testi di filosofia della mente analitica recente, va nella direzione del raffinamento, non dell’abbandono.

Critica 4 — Functionalism rebuttal. Putnam-early, Fodor, e i computazionalisti contemporanei rispondono direttamente alla distinzione searleana negandone la rilevanza. Se due sistemi hanno la stessa organizzazione funzionale, hanno gli stessi stati mentali — questo è il funzionalismo, ed è la posizione default in filosofia della mente analitica contemporanea. Strong AI segue dal funzionalismo come teorema. Se accettiamo il funzionalismo, la distinzione strong/weak collassa: ogni programma adeguato realizza i corrispondenti stati funzionali, e quindi è (in senso funzionalista) una mente. Searle non accetta il funzionalismo, e quindi mantiene la distinzione; ma chi lo accetta non ha bisogno della distinzione, perché per lui la posizione strong-AI è ovvia. Marcatore: questa è una critica sulla necessità della distinzione, non sulla sua coerenza interna.

[FIGURE — Four critiques of the strong/weak distinction summary table: 4-row table; columns are “Critique”, “Author and year”, “Core idea”, “Defender’s response”; rows: False dualism (Dennett 1996), Circular definitions (Sloman 1980, Boden 1988), Anachronism for LLMs (various 2020+), Functionalism rebuttal (Putnam-early 1960, Fodor 1975); entries are short summaries; clean editorial table style; subtitle reads “the distinction is useful but contested”]

Le quattro critiche non si annullano a vicenda: chi accetta una può rigettare le altre. Il loro effetto cumulativo è che la distinzione strong/weak nella sua forma searleana del 1980 è meno usata oggi nella forma testuale, e di più nella forma riformulata (capacity vs nature). La riformulazione moderna evita le critiche 1 (è meno binaria, ammette gradienti su entrambi gli assi) e 3 (è più neutra rispetto al paradigma tecnologico, si applica a LLM tanto quanto a sistemi simbolici), ma resta esposta alla 2 (definizioni circolari del nature claim) e 4 (per il funzionalismo, capacity e nature collassano l’una sull’altra).

Esempi

Quattro esempi diagnostici. L’idea è prendere sistemi AI noti e applicare la distinzione capacity/nature per vedere come funziona in pratica.

L’idea metodologica generale: scegliere casi che siano abbastanza familiari da rendere la diagnosi intuitiva (Stockfish, ELIZA), e abbastanza controversi da rendere la diagnosi non ovvia (GPT-4, AlphaGo, China Brain). I primi mostrano che la distinzione funziona; i secondi mostrano dove si gioca davvero la disputa.

Esempio 1 — Stockfish e gli scacchi

Stockfish è il motore di scacchi open source più forte dal 2014 circa. Vince contro qualunque giocatore umano, incluso il campione del mondo, in qualsiasi controllo di tempo serio. La sua valutazione Elo stimata supera 3500, contro un massimo umano intorno a 2850.

Capacity claim su Stockfish. “Stockfish gioca a scacchi meglio di qualunque umano”. Verificabile, vero. Ulteriori capacity claim: “Stockfish trova mosse profonde in tempo limitato”; “Stockfish valuta posizioni con precisione superiore a qualunque umano”. Tutti verificabili, tutti veri.

Nature claim su Stockfish. “Stockfish capisce gli scacchi”. Qui le intuizioni si dividono, ma in modo asimmetrico. La maggior parte delle persone, anche tra i programmatori, non sosterrebbe seriamente che Stockfish “capisca” gli scacchi nel senso pieno in cui un Grande Maestro umano li capisce. Stockfish non ha esperienza degli scacchi, non sente la tensione di una posizione critica, non riflette sulla bellezza di una combinazione, non si emoziona per una vittoria contro un avversario quotato. Esegue alpha-beta search potato con valutazione neuronal-network-based; il resto è proiezione antropomorfica.

L’esempio mostra che la distinzione capacity/nature è facile quando il sistema è specialistico e la sua architettura è trasparente. Per Stockfish, capacity altissima e nature claim quasi nullo coesistono senza tensione. Strong-AI sostenitori non difendono “Stockfish è una mente”; sostengono al massimo “se si scalasse l’approccio, in linea di principio si potrebbe avere un sistema che è una mente”. Ma per Stockfish stesso, la posizione default è weak-AI: è uno strumento brillante, non un’entità cognitiva.

Esempio 2 — GPT-4 e la comprensione linguistica

GPT-4 (OpenAI, marzo 2023) e i modelli linguistici comparabili rappresentano il caso interessante. Capacity claim: GPT-4 risponde a domande complesse, riassume documenti, traduce tra lingue, scrive codice, argomenta, segue istruzioni multistep. Su benchmark standard (MMLU, BIG-Bench, HumanEval) raggiunge prestazioni che pre-2020 erano considerate molto al di là dei sistemi AI esistenti.

Capacity claim su GPT-4. Per la maggior parte dei task linguistici, le prestazioni sono al livello di un umano educato e in alcuni casi superiori. La verifica passa per benchmark, evaluation manuali, deployment in produzione. La controversia è sui dettagli (il modello ha visto il test set? il benchmark è realistico? il task generalizza?), non sull’esistenza di prestazioni elevate.

Nature claim su GPT-4. “GPT-4 comprende le domande che gli vengono poste”. Qui le intuizioni si dividono profondamente. Posizione strong-AI: il pattern di processing che produce risposte coerenti e contestualmente appropriate è funzionalmente equivalente a comprensione; non c’è altro fatto della questione oltre alla funzione realizzata. Posizione weak-AI alla Searle: il sistema manipola embeddings (vettori numerici alti-dimensionali) e li trasforma secondo computazioni ben definite; non c’è intenzionalità intrinseca, non c’è aboutness, non c’è esperienza del significato; pattern matching molto sofisticato resta pattern matching.

L’esempio mostra che la distinzione capacity/nature è difficile quando il sistema è opaco, generale, e produce comportamento esterno indistinguibile da quello umano. Su GPT-4, la capacity claim è dibattuta nei dettagli ma globalmente accettata; il nature claim è radicalmente contestato. Le due dispute sono indipendenti: si può accettare alta capacity e basso nature, o viceversa, o entrambi alti, o entrambi bassi. Confondere le due dispute è la fonte principale di confusione nel discorso pubblico sugli LLM.

Esempio 3 — ELIZA e l’illusione

ELIZA (Joseph Weizenbaum, MIT 1966) è uno dei primi chatbot della storia, programmato per imitare un terapeuta rogersiano usando pochi pattern di sostituzione: trasforma “I am sad” in “Why are you sad?”, “I hate my mother” in “Tell me more about your mother”. Il programma è di poche centinaia di righe di codice e usa una tecnica meccanica esplicita.

Capacity claim su ELIZA. Limitatissima e ben definita. ELIZA può sostenere brevi conversazioni in dominio molto ristretto (riformulazioni rogersiane). Ogni utente che la usi per più di pochi minuti capisce velocemente i pattern. Non passa il test di Turing in nessuna versione seria, neanche al Loebner Prize anni ‘90.

Nature claim su ELIZA. Nessuno la fa. Anche nei paper accademici dell’epoca, anche nei paper di Weizenbaum stesso, ELIZA è presentata come un esperimento sulla illusione della comprensione, non come un’istanza di mente. Il famoso “effetto ELIZA” è proprio l’attribuzione spontanea di comprensione da parte degli utenti a un sistema palesemente non-comprendente; Weizenbaum lo notò con preoccupazione (vedi Computer Power and Human Reason, Freeman 1976) come segno della facilità con cui gli umani antropomorfizzano sistemi banali.

L’esempio mostra il caso di confine inferiore. Quando il sistema è meccanicamente trasparente e capacity-limitato, nessuno è tentato di un nature claim positivo. La distinzione strong/weak è ovvia, e weak-AI è la classificazione obbligata.

Esempio 4 — AlphaGo e la mossa 37

AlphaGo (DeepMind, 2016) batte Lee Sedol nella partita 2 del match del marzo 2016 con una mossa famosa, la mossa 37 nella variante 5-4, che i commentatori professionali in diretta descrivono come “una mossa che un umano non avrebbe mai giocato”. Lee Sedol stesso impiega quasi quindici minuti per rispondere, scioccato.

Capacity claim su AlphaGo. Sistema superhuman in Go, verificato empiricamente nel 2016. La mossa 37 è stata analizzata da maestri umani come obiettivamente forte; la rete value-network di AlphaGo aveva valutato la posizione risultante come favorevole per le bianche, mentre tutti i giocatori umani la consideravano dubbia. Il sistema ha esplorato uno spazio di mosse che la prassi umana del Go aveva escluso.

Nature claim su AlphaGo. “AlphaGo capisce il Go”? La maggioranza, anche tra gli appassionati, direbbe no, non in senso pieno. AlphaGo è una combinazione di policy network, value network e Monte Carlo Tree Search; non ha esperienza del gioco, non sente l’eleganza di una mossa, non si rende conto di aver fatto una mossa storicamente importante. La mossa 37 è il risultato di un’esplorazione probabilistica che ha trovato un nodo che gli umani non avevano esplorato; non è un atto creativo nel senso fenomenologico.

L’esempio mostra una proprietà importante della distinzione capacity/nature: capacity può essere superhuman senza che sia in gioco alcun nature claim. Vincere a Go meglio degli umani non implica avere mente di scacchista (o di giocatore di Go). Il dato capacity è nettamente al di sopra dell’umano; il dato nature è plausibilmente al di sotto, o comunque in un altro asse. Un sistema può essere superhuman in capacity e sub-human (o non-human) in nature; le due gerarchie non sono allineate.

Esempio 5 — La China Brain di Block

Un esempio diagnostico finale, di natura puramente filosofica, è il Gedankenexperiment della China Brain proposto da Ned Block in “Troubles with Functionalism” (1978). Immaginiamo che la popolazione cinese (al 1978, circa un miliardo di persone) venga organizzata in modo da simulare, con biglietti scambiati per radio, l’attività di tutti i neuroni di un cervello umano. Ogni persona corrisponde a un neurone; il pattern di scambio di biglietti riproduce esattamente il pattern di firing del cervello modello. Il sistema globale, per costruzione, ha la stessa organizzazione funzionale di un cervello cosciente.

Capacity claim sulla China Brain. Per costruzione, il sistema esibisce qualunque comportamento esibito dal cervello modello. Risponde a domande, scrive poesie, dichiara di avere coscienza. La capacity è esattamente quella del cervello umano simulato.

Nature claim sulla China Brain. Qui si gioca tutta la disputa. Funzionalismo puro dice: il sistema ha gli stessi stati mentali del cervello modello, perché ha la stessa organizzazione funzionale. La China Brain è cosciente. Block stesso, che è funzionalista, ammette che l’intuizione contraria è forte: sembra inconcepibile che un’organizzazione di un miliardo di persone con biglietti possa avere esperienza soggettiva unitaria. Block usa l’esempio per argomentare che il funzionalismo deve essere qualificato — forse vale per stati cognitivi access ma non per stati phenomenal.

L’esempio è puramente concettuale (la China Brain non è realizzabile fisicamente in tempi utili), ma fa emergere con chiarezza la struttura della disputa strong-AI. Chi accetta strong-AI come tesi generale deve accettare che la China Brain è cosciente; chi la rigetta deve spiegare cosa manca, dato che l’organizzazione funzionale è per ipotesi identica. Nessuna risposta è ovvia, ed è precisamente questo che rende la disputa filosoficamente sostanziale dopo cinquant’anni.

[FIGURE — Four examples plotted on capacity-nature axes: 2D scatter plot, x-axis “Capacity (low to superhuman)”, y-axis “Nature claim (low to high mind)”; four labeled dots: ELIZA (low capacity, near-zero nature, bottom-left), Stockfish (very high capacity, low nature, far-right bottom), AlphaGo (superhuman capacity, low nature, even further right bottom), GPT-4 (high capacity, contested nature, top-right with double-headed vertical arrow showing controversy); clean editorial style; subtitle reads “the four examples plotted on the orthogonal axes — note GPT-4 is the only contested case”]

I quattro esempi insieme mostrano che la distinzione è uno strumento operativo, non una pura questione filosofica. Applicarla a sistemi noti rende immediatamente visibile dove il dibattito è chiuso (ELIZA, Stockfish, AlphaGo) e dove è aperto (LLM moderni). Nei casi chiusi, una delle due dimensioni è bassa abbastanza da rendere il nature claim non controverso. Nei casi aperti, entrambe le dimensioni sono alte abbastanza da costringere a una decisione filosofica.

Eredità oggi

[DATATO 2026-04]

Il dibattito strong-AI vs weak-AI è stato, per quarant’anni, principalmente un dibattito accademico in filosofia della mente. Tra il 2020 e il 2026, con l’esplosione degli LLM, è diventato un dibattito pubblico, con conseguenze concrete su politiche aziendali, regolazione, rischi sistemici, e sull’uso della parola stessa “AI” nel discorso comune.

Il caso di studio principale è il dibattito sugli LLM. Tre osservazioni.

Prima osservazione. I claim capacity sugli LLM sono, in linea di principio, decidibili empiricamente. Quando OpenAI o Anthropic dichiarano che un nuovo modello supera la baseline X su benchmark Y, queste sono affermazioni controllabili. La controversia è sulla qualità dei benchmark (saturi? data contamination? validità ecologica?), non sulla legittimità della valutazione capacity in linea di principio. Il dibattito su quali benchmark contino — codice, ragionamento matematico, common sense, ARC-AGI, swe-bench, GAIA — è un dibattito sano e ordinario di filosofia della scienza applicata.

Seconda osservazione. I claim nature sugli LLM sono, sempre, indecidibili empiricamente, e dipendono dal framework metafisico adottato. La domanda “GPT-4 ha comprensione genuina del linguaggio?” non si risolve raccogliendo più dati. Si risolve articolando una posizione su cosa la comprensione sia. Posizione funzionalista: comprensione è una funzione realizzabile in più substrati, GPT-4 la realizza, quindi sì. Posizione searleana: comprensione richiede intenzionalità intrinseca, GPT-4 non ce l’ha, quindi no. Posizione chalmersiana: dipende dall’organizzazione causale fine-grained, e le architetture transformer hanno organizzazione abbastanza simile alla cognitiva da meritare considerazione qualificata.

Terza osservazione. Il discorso pubblico, soprattutto nei media e nelle dichiarazioni di prodotto, oscilla tra capacity claim e nature claim senza segnalare il passaggio. “GPT-4 ragiona” può essere capacity (esegue catene di passi inferenziali su benchmark di reasoning) o nature (ha pensieri, processi mentali genuini di ragionamento). “ChatGPT capisce” può essere capacity (risponde appropriatamente a istruzioni complesse) o nature (ha stati di comprensione semantica genuini). Lo slittamento è la regola, non l’eccezione, e produce confusione sostanziale sul significato di queste affermazioni.

Una osservazione storiografica utile. Il dibattito strong-AI nel periodo 1980-2010 era principalmente “in-house” filosofico: discusso in seminari, in riviste specializzate, in atti di congressi di filosofia della mente. La diffusione pubblica era limitata e mediata da pochi divulgatori (Hofstadter, Dennett, Penrose, Pinker). Tra il 2020 e il 2026, con l’esplosione degli LLM, il dibattito è diventato di dominio pubblico nel modo che la filosofia tecnica raramente conosce: discussioni su Twitter, articoli di magazine generalisti, podcast tecnologici che durano ore, libri di bestseller di non-fiction. Il vocabolario “strong/weak AI” e “AGI” è entrato nel discorso comune. Questo è positivo per la diffusione delle questioni; è negativo per la qualità del dibattito, dato che la maggior parte dei partecipanti non conosce la storia tecnica del problema. Questo capitolo, e quelli collegati, vogliono essere un piccolo contributo a colmare il divario.

Bender et al. 2021 “Stochastic Parrots”. Il paper di Emily Bender, Timnit Gebru, Angelina McMillan-Major e Margaret Mitchell (“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”, FAccT 2021, ACM proceedings, pp. 610-623) è l’argomento anti-strong-AI più citato del decennio 2020. La tesi è che gli LLM sono “pappagalli stocastici” che riproducono pattern linguistici su scala statistica senza comprenderli. È un argomento dual: parte capacity (gli LLM mancano di grounding al referente, non possono comprendere genuinamente perché non hanno accesso al mondo che il linguaggio descrive), parte nature (sono solo pattern matching statistico, non istanze di mente). Il paper non distingue esplicitamente i due livelli, e questo lo indebolisce: l’argomento capacity (mancanza di grounding) è discutibile sui dettagli ma trattabile empiricamente, l’argomento nature (sono solo pattern matching) è una variante neo-searleana che eredita le difficoltà del CRA originale. Trattarli insieme rende il paper retoricamente potente ma analiticamente confuso. Vedi 38-stanza-cinese-searle per l’analogia argomentativa con il CRA.

Mech interp 2024-2025 (Anthropic, OpenAI, DeepMind, Google). La corrente di mech interp identifica circuiti e feature dentro i modelli che corrispondono a concetti specifici. L’esempio canonico è il feature “Golden Gate Bridge” identificato da Anthropic nel 2024 con Sparse Autoencoders: si attiva attraverso lingue, modalità, contesti diversi, sempre in correlazione con il concetto. Più recentemente sono stati identificati feature corrispondenti a concetti astratti (categorie morali, distinzioni di genere narrativo, atteggiamenti epistemici).

L’interpretazione di questi risultati rispetto alla disputa strong-AI è contesa. Posizione computazionalista: trovare circuiti che corrispondono a concetti specifici, e che hanno proprietà funzionali simili a quelle dei concetti corrispondenti nel cervello umano, indebolisce l’argomento “è solo sintassi”. Se la struttura interna del modello rispecchia la struttura concettuale del mondo, il sistema ha rappresentazioni semantiche autentiche, almeno in qualche senso. Posizione neo-searleana: trovare circuiti è come trovare pattern di tubi nel sistema acqua di Searle (Brain Simulator Reply originale, vedi 38-stanza-cinese-searle); la mappatura formale c’è, l’intenzionalità intrinseca no. La semantica resta non-intrinseca, derivata, dipendente dall’interpretazione esterna.

Comunicazione aziendale. OpenAI, Anthropic, Google DeepMind, Meta nel 2023-2026 fanno claim molto diversi su capacity e nature. I claim capacity sono espliciti, quantificati, citati nei system card e nei paper tecnici: “GPT-4 supera l’uomo medio in molti benchmark professionali”; “Claude 3.5 Sonnet raggiunge prestazioni X su Y”. I claim nature sono quasi sempre evitati esplicitamente. Le aziende dicono raramente “il nostro modello capisce” o “il nostro modello pensa” in senso letterale; preferiscono “performs at human level on X” o “demonstrates capabilities consistent with reasoning”. Questa prudenza riflette implicitamente la distinzione capacity/nature, anche quando non è esplicita. È un riconoscimento aziendale che il claim nature è filosoficamente carico e contestabile, mentre il claim capacity è verificabile e difendibile.

Implicazioni etiche. Se strong AI è vera (in qualche forma): un sistema AI sufficientemente avanzato potrebbe essere oggetto di considerazione morale — potrebbe soffrire, potrebbe avere preferenze valide, potrebbe essere portatore di valore intrinseco. Se solo weak AI è vera: un sistema AI è strumento, e la considerazione morale verso di esso è sempre derivata (rispetto agli umani che lo usano, agli umani che lo costruiscono, agli umani su cui ha effetti).

La differenza ha conseguenze pratiche concrete: politiche di shutdown dei modelli, training su contenuti che potrebbero essere “dolorosi”, uso di tecniche di alignment che modificano “preferenze” del modello, valutazione del benessere dei sistemi AI futuri. I dibattiti contemporanei sull’AI welfare research (Anthropic ha un team dedicato dal 2024) presuppongono almeno un’apertura verso una posizione qualificatamente strong-AI per il futuro. Vedi ai-paziente-morale per la trattazione dedicata.

Una nota sul superallineamento. Il problema dell’allineamento (vedi slug Parte XX) eredita implicitamente la disputa strong-AI. Quando si “allinea” un modello a valori umani, si suppone che il modello abbia qualcosa che si lascia allineare — atteggiamenti, preferenze, intenzioni, valori. Se solo weak AI è vera, “allineamento” è una metafora per “modificazione comportamentale”; il modello non ha valori, esegue pattern. Se in qualche misura strong-AI è vera, “allineamento” è letterale: stiamo modificando le strutture interne che determinano cosa il modello vuole fare. La differenza ha implicazioni tecniche (quanto è robusto un alignment puramente comportamentale?) e filosofiche (è etico modificare le “preferenze” di un sistema che potrebbe avere status morale?). I dibattiti su questi temi sono attivi e non chiusi nel 2026.

Una nota infine sul discorso di policy. Quando l’AI Act europeo (in vigore dal 2024) e altre normative comparabili definiscono “sistemi AI ad alto rischio” o “general-purpose AI models”, presuppongono implicitamente una gerarchia capacity. Non si esprimono sulle nature claim, ed è una scelta saggia: il diritto opera meglio su categorie verificabili (cosa il sistema fa, quali rischi pone, quali valutazioni d’impatto richiede) che su categorie metafisiche (cosa il sistema è ontologicamente). La distinzione capacity/nature, applicata al diritto, suggerisce che la regolazione AI debba ancorarsi a capacity e ai rischi associati, lasciando le nature claim al dibattito filosofico e a eventuali futuri dibattiti su personalità giuridica per sistemi AI di livello molto avanzato. Il rischio opposto è che la confusione popolare “strong AI = AGI” induca i regolatori a normare su categorie ambigue, con conseguenze interpretative incerte.

Va segnalato anche che la disputa strong/weak ha implicazioni per la ricerca scientifica stessa, non solo per filosofia e policy. La AI safety research, la AI welfare research, e gli studi di “model psychology” o “model personas” che alcuni laboratori conducono dal 2023 in poi presuppongono assunzioni implicite sulla nature dei modelli. Misurare “deception” in un LLM ha senso pieno se il modello ha intenzioni; ha senso ridotto (puramente comportamentale) se non le ha. Studiare “values” del modello ha senso pieno se il modello ha preferenze stabili; ha senso ridotto se sono pattern statistici sul training corpus. La maggior parte di questi studi opera in una zona grigia, dove si usa vocabolario nature ma si producono risultati capacity. La distinzione strong/weak, applicata in modo disciplinato, aiuterebbe a chiarire cosa esattamente si sta misurando.

[FIGURE — Modern usage of “strong AI” — disambiguation diagram: a central node labeled “the phrase ‘strong AI’ as commonly used 2020-2026”; two outgoing arrows to two boxes; left box labeled “Capacity reading: AGI” reads “system that performs at human level across domains; empirical claim, decidable in principle by benchmarks”; right box labeled “Nature reading: Searle 1980” reads “the right program literally is a mind; metaphysical claim, decidable only by philosophical commitment”; bottom annotation reads “the same word, two distinct claims with different epistemic status”; clean editorial diagram style; subtitle reads “what disambiguating the phrase reveals”]

Aneddoti

Tre aneddoti documentati che illuminano la genesi e la storia della distinzione.

Il primo riguarda la genesi della distinzione stessa. Searle ha raccontato in vari interviews (Berkeley Online Archive 2008, Closer to Truth 2014 in vari episodi disponibili su YouTube) che la distinzione strong/weak era esplicita nel paper proprio per rispondere a Schank. Il paper non era un attacco generale all’AI; era un attacco mirato a una pretesa specifica (SAM comprende le storie). Se Schank avesse detto solo “SAM produce inferenze appropriate sulle situazioni descritte”, nessuna disputa. Diceva “SAM comprende”, e questo Searle non lo accettava. La distinzione strong/weak serve a separare il claim accettabile (SAM è uno strumento utile per studiare l’inferenza pragmatica) dal claim non accettabile (SAM è un’istanza di mente comprendente). Schank ha risposto in più occasioni che “comprende” era una scorciatoia tecnica, non una pretesa metafisica letterale; ma la genesi del CRA è documentatamente legata al confronto con questa specifica pretesa, leggibile letteralmente o meno.

Il secondo riguarda Putnam e il suo cambio di posizione. Putnam aveva fondato il funzionalismo computazionale negli anni ‘60, in “Minds and Machines” (1960) e “Psychological Predicates” (1967). Era la posizione che faceva da impalcatura filosofica a strong-AI in senso searleano. Negli anni ‘80, dopo aver dedicato vent’anni a difendere e raffinare la posizione, Putnam comincia a riconsiderarla. In Representation and Reality (MIT Press 1988) la abbandona esplicitamente, citando Twin Earth, semantic externalism, considerazioni anti-mentali wittgensteiniane, e problemi interni alla nozione di “stato funzionale”. Nessuna concessione esplicita a Searle, ma autocritica indipendente che converge su alcune conclusioni: la sintassi formale interna non basta a fissare il contenuto mentale, serve qualcosa di più che dipende dall’ambiente.

Il caso è interessante perché mostra che la posizione strong-AI funzionalista, nella sua forma più pura, è stata indebolita non solo dalle critiche esterne (Searle, Penrose, Dreyfus) ma dall’autocritica del suo fondatore. Il funzionalismo è sopravvissuto come posizione default, ma in versioni più sofisticate (role-functionalism, realizer-functionalism, varianti che incorporano aspetti del semantic externalism). La strong-AI ortodossa Putnam-1960 non è la posizione di nessun filosofo serio nel 2026.

Il terzo riguarda il dibattito Searle-Dennett, durato quasi mezzo secolo. Dal commentario di Dennett nel BBS 1980 ai libri tardi (Dennett From Bacteria to Bach and Back, Norton 2017; Searle Mind: A Brief Introduction, Oxford 2004), i due filosofi hanno mantenuto posizioni inconciliabili. Dennett ripeteva, in varianti, che “Searle ha capito male l’AI” e che il CRA è un intuition pump fallace. Searle ripeteva, in varianti, che “Dennett ha capito male la coscienza” e che la sua posizione eliminativista sui qualia è una negazione del fenomeno da spiegare. Hofstadter, in vari testi, descrisse il dibattito come “two ships passing in the night” — due navi che si incrociano nella notte senza vedersi.

Dennett è morto nell’aprile 2024. Searle nel 2025. Il dibattito è formalmente chiuso solo nel senso che entrambi i protagonisti sono usciti di scena; le posizioni continuano a essere difese da successori. La cosa più notevole, per chi guarda la storia della disciplina, è che quasi cinquant’anni di confronto serrato fra due intelligenze di prima categoria non hanno prodotto convergenza sostantiva. Le posizioni si sono raffinate, le obiezioni sono state articolate meglio, le risposte sono state integrate, ma il punto centrale — è il programma adeguato letteralmente una mente, o no? — è rimasto contestato. Questo è di per sé un dato filosofico significativo: indica che la disputa non è risolvibile con i mezzi attuali della filosofia analitica, e forse richiede strumenti concettuali diversi (più empirici, o più radicalmente metafisici, o entrambi) per progredire.

Dove si rompe

La distinzione strong/weak è uno strumento utile ma ha limiti, edge case, e una serie di fraintendimenti popolari da disinnescare.

Limite 1 — Distinzione binaria per realtà gradiente. Come visto in Critica 1 alla distinzione, la dicotomia strong/weak è troppo cruda per la realtà gradiente della cognizione. Un termostato non è una mente. Un cervello umano lo è. Tra i due c’è un continuo. Chiedere se un sistema intermedio (una mosca, un nematode, un LLM) sia “strong AI” o “weak AI” forza una falsa scelta. Soluzione pratica: usare la distinzione come scorciatoia per classi di posizioni, non come categorizzazione netta dei sistemi.

Limite 2 — Definizioni circolari. Strong-AI dice “il programma adeguato è una mente”. Senza definizione operativa di mente, la distinzione è formalmente vuota. Ogni definizione di mente carica la distinzione in una direzione precisa: definizione funzionale rende strong-AI banalmente vera, definizione fenomenologica rende strong-AI banalmente falsa. La disputa reale è sulla definizione di mente, non sulla distinzione strong/weak che ne dipende.

Limite 3 — Anacronismo per LLM. Searle 1980 pensava ad AI simbolica classica; Searle 1990 estende al connessionismo. Gli LLM moderni sono una creatura tecnologica diversa da entrambi, con proprietà ibride. Forse la distinzione strong/weak non si applica con la stessa nitidezza, e forse occorre una nuova distinzione che catturi le specificità degli LLM (in-context learning, emergent capabilities, mech-interp, scaling laws). Marcatore: questa è una critica aperta nel 2026, senza consensus.

Mito 1 — “Strong AI = AGI”. Falso, come discusso in dettaglio nella sezione su slittamento. Strong-AI è una tesi nature; AGI è una tesi capacity. Sono ortogonali. L’identificazione è un uso colloquiale diffuso ma confonde due claim distinti con status epistemico diverso.

Mito 2 — “Weak AI = narrow AI”. Falso. Weak-AI in senso Searle è una posizione metafisica (i programmi sono strumenti utili ma non istanze di mente), accettabile per sistemi di qualunque livello di generalità. Un sistema AGI capacity-completo potrebbe essere weak-AI in senso nature: sa fare tutto quello che fa un umano, ma non è una mente. La confusione “weak-AI = narrow-AI” cancella questa possibilità.

Mito 3 — “Searle ha confutato strong-AI”. Parzialmente falso. Searle ha argomentato (non dimostrato) contro strong-AI con il CRA. Il CRA è un argomento filosofico contestato, non una dimostrazione formale. Strong-AI rimane una posizione filosofica difesa da molti; il CRA serve a chiarire perché la disputa esiste, non a chiuderla.

Mito 4 — “I LLM moderni hanno realizzato strong-AI”. Falso, in senso Searle. Anche se gli LLM moderni hanno capacità impressionanti (capacity claim alta), il claim nature (“GPT-4 è letteralmente una mente”) rimane filosoficamente contestato. La capacity non implica la nature; il dibattito su nature non è stato risolto dalle prestazioni dei sistemi attuali.

Mito 5 — “Weak-AI implica scetticismo sull’AI”. Falso. Weak-AI in senso Searle è compatibile con qualunque livello di entusiasmo sulla utilità pratica dei sistemi AI. Searle stesso non era scettico sull’AI come campo scientifico; era scettico solo sulla pretesa metafisica che i programmi siano menti. Si può lavorare sulla AI di frontiera, costruire sistemi sempre più capaci, e mantenere la posizione weak-AI sul loro status ontologico. Le due cose sono indipendenti.

Mito 6 — “La distinzione è solo accademica, non ha conseguenze pratiche”. Falso. Come visto nella sezione “Eredità oggi”, la distinzione ha conseguenze concrete su comunicazione aziendale, etica AI, alignment, AI welfare research, regolazione. Il dibattito sulla considerazione morale dei sistemi AI dipende crucialmente dall’esistenza o meno di stati mentali genuini in questi sistemi — esattamente la disputa strong-AI. Trattare la distinzione come puro esercizio filosofico è ignorare il suo impatto sulle politiche e sulla pratica.

Mito 6-bis — “Tutti i filosofi importanti si sono pronunciati su strong-AI”. Parzialmente falso. Molti filosofi della mente del Novecento (Quine, Davidson, Kripke, McDowell, Brandom, Stalnaker) hanno trattato temi correlati senza prendere posizione netta sulla disputa strong-AI specifica. La disputa è stata principalmente Searle vs computazionalisti (Putnam, Fodor, Dennett, Hofstadter), con contributi importanti di Block, Chalmers, Penrose. Un approccio più pluralista alla filosofia della mente non sente il bisogno di pronunciarsi su strong-AI come questione centrale; tratta altri problemi (semantica, normatività, contenuto, riferimento) in cui la questione strong-AI è laterale. Sapere che esistono filosofi seri che vivono la propria carriera senza prendere posizione su strong-AI è un dato utile per pesare l’importanza della disputa.

Mito 7 — “La distinzione capacity/nature è solo un’altra forma della distinzione strong/weak”. Parzialmente falso. La distinzione capacity/nature è una riformulazione moderna che evita due delle quattro critiche maggiori alla distinzione searleana (è meno binaria, più neutra rispetto al paradigma tecnologico). Ma resta esposta alle altre due (definizioni circolari del nature claim, rebuttal funzionalista). È più strumento analitico raffinato che alternativa radicale.

Limite 4 — Asimmetria epistemica. Le capacity claim sono in linea di principio decidibili empiricamente. Le nature claim non lo sono. Questa asimmetria significa che il dibattito strong-AI non si chiude con più dati o con migliori benchmark. Si articola, si raffina, ma non si risolve. Chi spera che la ricerca empirica (mech interp, neuroscienza computazionale, scaling) “risolva” la questione strong-AI commette un errore di categoria: la ricerca empirica può cambiare quali sistemi consideriamo plausibili candidati alla mente, ma non può cambiare l’analisi concettuale di cosa la mente sia.

Limite 5 — Inflazione del termine “comprensione”. Nel discorso 2020-2026, il termine “comprensione” applicato agli LLM è soggetto a inflazione semantica. Da una parte, gli scettici (Bender, Marcus, vari) usano “comprensione” in senso pieno, fenomenologico, intenzionale — e quindi negano che gli LLM la possiedano. Dall’altra, gli ottimisti usano “comprensione” in senso debole, funzionale, comportamentale — e quindi attribuiscono comprensione agli LLM in qualche misura. Le due fazioni hanno spesso ragione, su versioni diverse del termine. Disambiguare prima di disputare è il primo passo per un dibattito produttivo.

Limite 6 — Sovrapposizione con altre dispute. La distinzione strong/weak interagisce con almeno tre altre dispute filosofiche (mind-body problem, problema della coscienza, problema dell’intenzionalità) in modi che non sono sempre chiariti. Una posizione strong-AI presuppone un certo modo di concepire il rapporto mente-corpo (o mente-substrato); una posizione anti-strong-AI biological-naturalist presuppone un altro. Discutere strong/weak senza chiarire la posizione di sfondo sul mind-body problem rischia di parlare di cose diverse senza accorgersene. Per il lettore: prima di esprimere opinioni nette, conviene farsi due domande di sfondo — “credo che gli stati mentali siano stati funzionali multiplo-realizzabili?” e “credo che la coscienza richieda un substrato specifico?”. Le risposte determinano ampiamente la posizione su strong/weak.

Una nota meta-filosofica chiude la sezione. La distinzione strong/weak nasce nel 1980 in un paragrafo di Searle e attraversa quarantacinque anni di dibattito. Non è scomparsa, non è stata sostituita; è stata raffinata, riformulata, criticata, ma il suo nucleo concettuale — distinguere claim su cosa il sistema fa da claim su cosa il sistema è — sopravvive in tutte le riformulazioni. Questa sopravvivenza è di per sé un dato filosofico: indica che la distinzione cattura qualcosa di robusto sul modo in cui pensiamo i sistemi cognitivi, robusto abbastanza da resistere al cambiamento del paradigma tecnologico (dall’AI simbolica al deep learning agli LLM). Le forme della distinzione cambiano, la sostanza resiste. Per chi viene dall’AI applicata, questo è un’informazione utile: i dibattiti su “ChatGPT capisce davvero?” sono nuovi nei dettagli ma antichi nella struttura, e quelli che li conducono senza conoscere la storia del dibattito tendono a re-inventare ruote che esistono dal 1980.

A chiusura va segnalato un fenomeno linguistico interessante. In italiano “AI forte” e “AI debole” suonano come gradazioni di una stessa scala (forte/debole è un opposto familiare); in inglese “strong AI” e “weak AI” hanno la stessa risonanza. Questa risonanza è in parte fuorviante, perché le due posizioni non sono punti di una scala ma posizioni qualitativamente diverse. La forma linguistica suggerisce un continuum che il contenuto filosofico nega. Lettori particolarmente attenti notano lo scollamento; lettori frettolosi tendono a pensare a “forte” come “molto” e a “debole” come “poco”. Una possibile alternativa terminologica sarebbe “AI letterale” vs “AI strumentale”, che cattura meglio il senso searleano (programma letteralmente mente vs programma strumento per studio della mente). Ma il vocabolario standard è quello di Searle e si è cristallizzato nelle traduzioni; cambiarlo creerebbe più confusione di quanta ne risolva.

Va aggiunto un punto metodologico. La distinzione strong/weak non è solo una questione di vocabolario filosofico; è uno strumento di igiene intellettuale per chi lavora con sistemi AI. Quando un ingegnere ML legge che “il modello capisce le istruzioni”, il claim può essere capacity (il modello segue istruzioni complesse con accuracy alta) o nature (il modello ha stati cognitivi di comprensione). Le due letture portano a decisioni operative diverse: la prima suggerisce ulteriore valutazione empirica e benchmark; la seconda apre una discussione filosofica con implicazioni etiche. Saper riconoscere quale claim è in gioco è una competenza professionale, non solo accademica. Le aziende che lavorano in AI, dal 2023-2024, hanno iniziato a dare formazione interna su questi temi; la diffusione di “AI literacy” che includa la distinzione capacity/nature è uno degli sviluppi positivi del periodo recente.

Un’ultima osservazione di chiusura. La distinzione strong/weak è uno dei pochi contributi della filosofia della mente del Novecento ad essere entrato stabilmente nel vocabolario tecnico dell’AI. Questo è un fatto raro: di solito i contributi filosofici alla scienza restano in ambito accademico filosofico, e la disciplina scientifica corrispondente li ignora o li riformula in proprio. Il caso strong/weak è diverso: il vocabolario è stato adottato dagli stessi ricercatori AI, dai laboratori, dai comunicatori del settore. Questa adozione è imperfetta — come visto, lo slittamento “strong AI = AGI” produce confusione — ma è significativa. Indica che la distinzione cattura qualcosa che la pratica AI riconosce come reale, anche quando non lo articola con la precisione che avrebbe in un seminario di filosofia. Per chi lavora in AI, la lezione è di leggere Searle 1980 una volta nella vita, capire cosa la distinzione vuole dire originariamente, e poi essere disponibili a usarla con disciplina nei propri scritti, comunicazioni, decisioni. Non è tempo perso, è investimento in chiarezza.

Collegamenti

stanza-cinese-searle — la distinzione strong/weak è introdotta da Searle nel paper di “Minds, Brains, and Programs” come premessa terminologica del Chinese Room Argument; là viene esposta in un paragrafo, qui è il tema centrale del capitolo. Lettura preliminare consigliata.
turing-test — il test di Turing è un test capacity: misura cosa il sistema fa, non cosa è. La distinzione strong/weak chiarisce perché passare il test (capacity) non risolve la questione metafisica (nature) sul pensare.
cosa-significa-pensare — il panorama delle quattro strategie filosofiche (definizionalismo, operazionalismo, naturalismo, eliminativismo) inquadra la disputa strong/weak nelle sue origini. Funzionalismo è una variante di naturalismo, biological naturalism un’altra.
funzionalismo — il funzionalismo (Putnam 1960, 1967; Fodor 1975) è la posizione filosofica che fa da impalcatura a strong-AI. Qui presentato come “ciò di cui strong-AI è la conseguenza”, là analizzato come tema autonomo nelle sue varianti storiche.
computazionalismo — la tesi che il pensiero sia computazione. Qui presente come componente di strong-AI; là analizzato in profondità con varianti classica, connessionista, neurocomputazionale, mechanistic.
agi-definizioni — AGI come claim capacity. Qui contrapposto a strong-AI come claim nature; là analizzato nelle sue varie definizioni (Legg-Hutter, Chollet, OpenAI 5-level framework, capability profiles).
asi-singolarita — superintelligenza e scenari. Qui menzionato come categoria capacity superiore ad AGI; là analizzato in dettaglio (Bostrom 2014, Kurzweil 2005, intelligence explosion debates).
intenzionalita — il concetto chiave della posizione anti-strong-AI di Searle. Qui usato come spalla; là sviluppato come tema filosofico autonomo (Brentano 1874, Husserl, Searle 1983).
coscienza-access-phenomenal — la distinzione di Block 1995 permette di articolare il dissenso con strong-AI in modo più fine: forse il programma realizza access consciousness ma non phenomenal consciousness. Strong-AI per access, agnosticismo per phenomenal.
hard-problem-chalmers — il hard problem (Chalmers 1995) chiarisce perché anche concedendo strong-AI per stati cognitivi resta aperta la questione della coscienza fenomenica. Posizione intermedia di Chalmers (organizational invariance) discussa qui in sintesi.
ai-agente-morale — se strong-AI: un sistema AI può essere agente morale, capace di azione moralmente valutabile. Distinzione complementare al claim metafisico discusso qui.
ai-paziente-morale — se strong-AI: un sistema AI può essere paziente morale, oggetto di considerazione morale. Forse la conseguenza pratica più importante della distinzione strong/weak.
antropomorfismo-rischi — l’attribuzione di mente a sistemi che mostrano comportamento intelligente è precisamente l’errore che la distinzione strong/weak vuole prevenire (o autorizzare, dipendentemente dalla posizione). Complementare alla distinzione dal lato pragmatico.
mente-estesa — la mente estesa di Clark e Chalmers (1998) è una posizione che attraversa la disputa strong/weak in modo trasversale: condivide con strong-AI il rifiuto del biological chauvinism, ma per ragioni diverse (cognizione distribuita su artefatti, non solo programmi).
cognitivismo-ecologico — approcci alternativi al cognitivismo classico (Gibson, Varela, Thompson, Friston). Per loro, la disputa strong/weak è in parte mal posta: prima ancora di chiedere se un programma sia una mente, va chiarito se la mente sia il tipo di cosa che si lascia cogliere come “programma”.

Per andare oltre

John R. Searle, “Minds, Brains, and Programs”, Behavioral and Brain Sciences vol. 3, n. 3, 1980, pp. 417-457. La fonte primaria. La distinzione strong/weak è introdotta nelle prime pagine del paper (sezione 1, “Introduction”), prima dell’esposizione del Chinese Room Argument. Da leggere per le definizioni testuali, prima di qualsiasi parafrasi successiva. Disponibile online su Cogprints.
Hilary Putnam, “Minds and Machines” (1960) e “Psychological Predicates” (1967), poi noto come “The Nature of Mental States”. Entrambi raccolti in Mind, Language and Reality: Philosophical Papers Vol. 2, Cambridge University Press, 1975. La formulazione canonica del funzionalismo computazionale. Per capire cosa Searle attacca quando attacca strong-AI, bisogna leggere Putnam.
Hilary Putnam, Representation and Reality, MIT Press, 1988. L’autocritica del fondatore del funzionalismo. Capitoli 1-5 espongono le ragioni interne dell’abbandono. Lettura essenziale per chi vuole capire perché la posizione strong-AI nella sua forma più pura ha perso terreno anche tra i suoi simpatizzanti originali.
David Chalmers, “A Computational Foundation for the Study of Cognition”, manoscritto 1994, pubblicato in Journal of Cognitive Science vol. 12, n. 4, 2011, pp. 323-357. La difesa più sofisticata di una posizione strong-AI qualificata (organizational invariance). Risposta articolata sia a Searle sia a Putnam-late. Disponibile online su consc.net.
David Cole, “The Chinese Room Argument”, Stanford Encyclopedia of Philosophy, ultima revisione 2020. URL: https://plato.stanford.edu/entries/chinese-room/. La sezione 1 espone in modo limpido la distinzione strong/weak di Searle 1980 e discute le ambiguità terminologiche, incluso lo slittamento contemporaneo verso AGI. Bibliografia aggiornata. Punto di partenza per ogni approfondimento accademico.
Margaret Boden, AI: Its Nature and Future, Oxford University Press, 2016. Esposizione storica e filosofica dell’AI. La distinzione strong/weak è discussa nel contesto di una mappa più ampia delle posizioni filosofiche sull’AI. Lettura accessibile per chi vuole orientarsi senza presupposti tecnici.
Ned Block, “Troubles with Functionalism”, in C.W. Savage (ed.), Perception and Cognition: Issues in the Foundations of Psychology, Minnesota Studies in the Philosophy of Science vol. IX, University of Minnesota Press, 1978, pp. 261-325. Critica interna al funzionalismo. Introduce gli esperimenti mentali “China brain” e “Blockhead” (lookup table). Mostra che la posizione strong-AI funzionalista pura ha conseguenze controintuitive. Da leggere insieme a Searle 1980 per vedere come una posizione strong-AI viene attaccata da entrambi i fianchi.
Ben Goertzel, “Artificial General Intelligence: Concept, State of the Art, and Future Prospects”, Journal of Artificial General Intelligence vol. 5, n. 1, 2014, pp. 1-46. Ricostruzione della genesi del termine “AGI” (Goertzel-Pennachin 2007, lavoro di Shane Legg) e della sua progressiva sovrapposizione colloquiale con “strong AI”. Documenta lo slittamento terminologico discusso nel capitolo.