Von Foerster: l'osservatore dentro il sistema

La prima cibernetica studia sistemi visti da fuori. La seconda fa una domanda scomoda: e chi guarda? Se il cibernetico è a sua volta un sistema che osserva, la cibernetica deve includere se stessa — e con questa mossa cambia di che cosa la scienza può parlare.

Perché questo capitolo

Ogni descrizione scientifica nasconde una figura che non compare nella descrizione: chi la sta facendo. Un termostato che regola la temperatura di una stanza si lascia descrivere senza nominare l’ingegnere che lo studia. Un omeostato sul banco di Ross Ashby — il cibernetico inglese che negli anni Quaranta costruì una macchina capace di tornare da sola in equilibrio — funziona allo stesso modo che lo si osservi o no. Per quei sistemi, tenere l’osservatore fuori dalla descrizione non costa nulla. È anzi un guadagno: garantisce che la descrizione valga per chiunque, che sia oggettiva.

Questo capitolo racconta cosa succede quando quella mossa smette di essere gratuita. C’è una classe di sistemi per cui escludere l’osservatore dalla descrizione non è una semplificazione utile, ma un errore: i sistemi che a loro volta osservano. Un cervello, una mente, una società, un terapeuta che studia una famiglia, uno scienziato che studia la cognizione. Per questi, chi descrive è fatto della stessa stoffa di ciò che descrive. La cibernetica di secondo ordine — formulata da Heinz von Foerster nei primi anni Settanta — è il tentativo di prendere sul serio questa difficoltà invece di nasconderla.

C’è una ragione precisa per cui un capitolo del genere appartiene a una wiki sull’intelligenza artificiale, ed è bene dichiararla subito insieme al suo limite. La ragione: chi valuta un sistema di AI non è un osservatore neutro che guarda il sistema da fuori, è parte del sistema socio-tecnico che quel sistema lo costruisce, lo addestra, lo misura e lo usa.

Il limite: gran parte di questo capitolo è storia delle idee e cornice epistemologica, non tecnica consolidata. Le connessioni tra la cibernetica di secondo ordine e l’AI contemporanea che troverai più avanti sono in larga parte analogie e spunti per pensare — non discendenze storiche né risultati formali. Lo segnaleremo con cura ogni volta, perché confondere un’analogia con una filiazione è il modo più rapido per scrivere una pagina suggestiva e sbagliata.

Vale la pena dichiarare in anticipo anche cosa questo capitolo non è. Non è un manuale per fare cibernetica di secondo ordine: non esiste un manuale del genere, e parte delle critiche che vedremo nasce proprio da questo. Non è nemmeno una requisitoria contro la prima cibernetica: i sette capitoli precedenti della Parte restano validi, e la mossa di von Foerster non li smentisce.

È piuttosto un capitolo su un cambiamento di cornice — su cosa diventa visibile, e cosa diventa problematico, quando si smette di trattare chi descrive come un punto cieco della descrizione. Si legge bene tenendo a mente una sola domanda: dove sono io, mentre descrivo questo sistema, e quanto cambierebbe la descrizione se non potessi più fingere di non esserci.

Contesto

La Parte X si è aperta con Wiener: comunicazione e controllo, che racconta la cibernetica come idea: il feedback, l’errore, il setpoint, il controllo orientato a uno scopo. I capitoli successivi hanno seguito quel filo — l’anatomia di un anello, le oscillazioni e i ritardi, l’omeostato di Ashby, la legge della varietà necessaria, la black box — e infine le Macy Conferences, la stanza chiusa di New York dove tra il 1946 e il 1953 il campo si è dato un nome.

Tutto quel materiale ha una caratteristica comune che finora non avevamo nominato. In ogni capitolo, l’osservatore — lo scienziato, l’ingegnere, tu che leggi — sta fuori dal sistema studiato. Misura, descrive, regola. Il sistema è “il sistema lì davanti”.

Questa esclusione dell’osservatore non è un’omissione: è il metodo standard della scienza moderna da Galileo in poi. L’osservatore è neutro, intercambiabile, non perturba ciò che misura. Ciò che resta della descrizione, una volta tolto l’osservatore, è la realtà oggettiva. È una mossa potente — ha reso possibile la fisica — e per buona parte dei problemi è la mossa giusta. Il punto del capitolo non è che sia sbagliata: è che ha un dominio di validità, e fuori da quel dominio costa.

A questo modello la cibernetica di secondo ordine contrappone una distinzione, formulata da von Foerster intorno al 1974 e diventata canonica: la prima cibernetica è the cybernetics of observed systems, la cibernetica dei sistemi osservati; la seconda è the cybernetics of observing systems, la cibernetica dei sistemi che osservano. Non un rifiuto, un inglobamento.

Vale il parallelo che von Foerster stesso usava: come la relatività di Einstein non cancella la meccanica di Newton ma la rende il caso particolare valido a basse velocità, così la cibernetica di primo ordine resta valida nel suo dominio — quando si può ragionevolmente trascurare la posizione di chi osserva — e diventa il caso ristretto di una cornice più larga che quella posizione la mette al centro.

Le date e i nomi. Heinz von Foerster (1911-2002) è un fisico austriaco emigrato negli Stati Uniti nel 1949. Appena arrivato diventa il segretario editoriale delle Macy Conferences: è lui a curare i volumi degli atti, ed è in parte sua la scelta di adottare la parola “cybernetics” come titolo della serie.

Nel 1958 fonda all’Università dell’Illinois a Urbana-Champaign il Biological Computer Laboratory (BCL), un laboratorio del dipartimento di ingegneria elettrica dedicato ai sistemi auto-organizzanti, alla bionica, al calcolo ispirato alla biologia. Il BCL è il luogo dove la cibernetica di secondo ordine prende forma. Resta attivo dal 1958 fino alla metà degli anni Settanta: von Foerster ne lascia la direzione nel 1975, il laboratorio chiude poco dopo, quando i fondi della ricerca militare si restringono ai soli progetti con ricaduta militare diretta e von Foerster non riesce a trovare sponsor disposti a finanziare un programma così teorico.

C’è un momento di svolta documentato. Nel 1967 Margaret Mead — antropologa statunitense, già protagonista delle Macy Conferences — tiene il discorso inaugurale alla American Society for Cybernetics e chiede ai cibernetici di rendere conto delle conseguenze sociali del loro lavoro: suggerisce che la società di cibernetica applichi a se stessa i principi che predica. È una cibernetica che si volta verso l’interno. Da lì, tra la fine degli anni Sessanta e la metà dei Settanta, von Foerster consolida la posizione. Nel 1974 esce, curato da lui come prodotto di un corso del BCL, il volume Cybernetics of Cybernetics — la cibernetica della cibernetica. Mead, a cui un titolo del genere avrebbe potuto essere ispirato, era irraggiungibile per una ricerca sul campo, e von Foerster sceglie quella formula, che probabilmente accentua le sue preoccupazioni più di quanto avrebbe fatto Mead.

Il BCL merita una riga in più, perché il luogo spiega qualcosa del pensiero. Non era un dipartimento di filosofia: era un laboratorio di ingegneria elettrica, con ingegneri, biologi, matematici, e con macchine vere — von Foerster veniva dalla fisica, e per buona parte degli anni Sessanta il BCL costruiva e studiava sistemi auto-organizzanti, reti, dispositivi bio-ispirati.

La cibernetica di secondo ordine nasce quindi non come reazione anti-tecnica, ma da dentro un laboratorio tecnico che, a forza di costruire sistemi che si organizzano da soli, si trova davanti la domanda su chi li sta osservando. Quando alla metà degli anni Settanta i finanziamenti militari si ritirano dalla ricerca di base e il BCL chiude, von Foerster lascia un campo che ha cambiato direzione ma non ha più la sua sede storica. Questo aiuta a leggere meglio una delle critiche che vedremo — quella della “svolta linguistica”: il distacco dalle macchine non era solo una scelta intellettuale, fu anche la fine materiale di un laboratorio.

Conviene fissare anche perché questo passaggio non è un capriccio di un singolo. La prima cibernetica aveva un’ambizione enorme — la scienza generale del controllo e della comunicazione, in animali e macchine — e proprio per quell’ambizione si era esposta a una domanda imbarazzante. Se la cibernetica descrive ogni sistema che osserva, regola, comunica, allora deve descrivere anche le proprie conferenze, i propri scienziati, le proprie istituzioni.

Una scienza che pretende di parlare di tutti i sistemi osservanti e che esclude solo se stessa dal proprio campo è incoerente. Negli anni Cinquanta e Sessanta questa incoerenza era stata lasciata sullo sfondo; von Foerster, all’inizio dei Settanta, la mette al centro e ne fa il principio fondante. La cibernetica di secondo ordine, vista così, non è una nuova teoria che si aggiunge: è la prima cibernetica costretta a essere coerente con se stessa.

Non era nemmeno un’idea solitaria. Attorno a von Foerster e al BCL si raccoglie un gruppo di pensatori che lavorano in direzioni convergenti: i biologi cileni Humberto Maturana e Francisco Varela, con la teoria dell’autopoiesi; il filosofo e psicologo Ernst von Glasersfeld, con il costruttivismo radicale; il cibernetico britannico Gordon Pask, con la conversation theory, che sposta l’accento dalla trasmissione di dati alla conversazione tra osservatori; e, in dialogo con tutti, l’antropologo Gregory Bateson.

Il capitolo presenta queste figure man mano che servono; conta qui notare che la cibernetica di secondo ordine nasce come un programma collettivo, non come la trovata di un singolo. È un dettaglio non puramente biografico: una teoria che mette al centro l’osservatore situato è coerente con se stessa proprio quando nasce da una rete di osservatori in conversazione, e non da un autore solo che pretende di vedere tutto da una posizione privilegiata.

Nel grafo della wiki questo capitolo sta a valle delle Macy Conferences, da cui von Foerster proviene, e a monte di autopoiesi-maturana-varela (in preparazione), il capitolo che riprende e approfondisce uno dei concetti qui introdotti. Tocca da vicino la Parte IX sulla teoria dei sistemi — in particolare Scegliere il confine cambia il problema e Quando scomporre funziona e quando no — e la Parte II di filosofia della mente, perché la domanda “cosa può un sistema sapere di se stesso” è esattamente la posta in gioco.

L’intuizione

La cibernetica di secondo ordine si lascia afferrare da due angoli distinti. Il primo è logico: riguarda cosa succede quando una scienza prova a includere se stessa nel proprio oggetto. Il secondo è epistemologico: riguarda cosa diventa “un oggetto” se chi descrive è dentro la descrizione. Conviene tenerli separati, perché conducono allo stesso posto da direzioni diverse — il primo parte dalla scienza e scende fino alla percezione, il secondo parte dalla percezione e mostra che la scienza non poteva che arrivarci.

Primo angolo: la scienza che si morde la coda

Parti da un fatto innocuo. La cibernetica, fin da Wiener, si presenta come la scienza generale dei sistemi che si autoregolano, che hanno scopi, che apprendono, che elaborano informazione.

È una scienza con un’ambizione larga: non studia un dominio particolare — gli organismi, le macchine, le società — ma una proprietà astratta che attraversa tutti quei domini. Proprio questa ambizione, come vedremo, è ciò che la espone alla domanda scomoda da cui nasce il secondo ordine.

Ora fai una domanda apparentemente sciocca. Chi fa cibernetica — il cibernetico, lo scienziato seduto al tavolo delle Macy Conferences — è un sistema che si autoregola? Che ha scopi? Che apprende, che elabora informazione?

Ovviamente sì. È un essere umano. È, per definizione della cibernetica stessa, esattamente il tipo di sistema che la cibernetica studia.

Da qui non si esce. Se la cibernetica è la scienza dei sistemi che osservano e regolano, e il cibernetico è uno di quei sistemi, allora la cibernetica deve includere il cibernetico nel proprio dominio. Non può tenersi fuori dalla porta del proprio campo di studio.

Von Foerster lo formulava con un aforisma che gira su se stesso: serve un cervello per scrivere una teoria del cervello. Il teorico della cognizione è un sistema cognitivo; non può descrivere la cognizione fingendo di non averne una. Quando il cibernetico entra nel proprio dominio — e non può non entrarci — la cibernetica diventa cibernetica della cibernetica, cibernetica di secondo ordine.

La parola chiave è autoreferenza: un sistema che si riferisce a se stesso, una descrizione che contiene il descrittore, un’operazione applicata al proprio risultato. La logica classica tratta l’autoreferenza come una malattia da evitare: “questa frase è falsa” è un paradosso, qualcosa che ha rotto, e per secoli la filosofia ha lavorato per recintarla.

La mossa di von Foerster è opposta. L’autoreferenza non è una patologia: è la struttura normale della cognizione e dell’identità. Una mente che pensa a se stessa, un organismo che produce se stesso, una società che si descrive: questi non sono casi degeneri, sono il caso centrale. Una scienza dei sistemi osservanti deve imparare a maneggiare l’autoreferenza, non a esorcizzarla.

C’è una differenza utile da segnare tra l’autoreferenza paradossale della logica e quella che interessa la cibernetica. Il paradosso del mentitore — “questa frase è falsa” — è autoreferenza su un valore di verità statico: la frase deve essere vera o falsa adesso, e nessuno dei due valori regge.

Ma se l’autoreferenza è messa in un processo che si svolge nel tempo, il paradosso può sciogliersi. Un sistema che si modifica osservandosi non deve assegnarsi un valore fisso una volta per tutte: itera, e l’iterazione può convergere a qualcosa di stabile. È la differenza tra chiedere “questo è vero?” e chiedere “dove si stabilizza questo, se lo lascio girare?”. La cibernetica di secondo ordine sceglie sistematicamente la seconda domanda. È per questo che, come vedremo nella sezione sulla meccanica, l’autoreferenza non produce un paradosso ma un punto fisso.

Secondo angolo: che cosa è “un oggetto”, se chi guarda è dentro

Il primo angolo riguarda la scienza. Il secondo scende più in basso, fino alla percezione di tutti i giorni, e chiede: che cos’è, di preciso, un oggetto?

La risposta ingenua — e la risposta della scienza standard — è che un oggetto è qualcosa che sta lì fuori, indipendente da me, e che io mi limito a registrare. La mela è sul tavolo; i miei occhi la ricevono; la percezione è un trasferimento, dal mondo a me. L’osservatore, di nuovo, è un canale neutro: la mela sarebbe quella che è anche senza di me.

Von Foerster ribalta la sequenza. Quando percepisci un oggetto non lo registri in un colpo solo: ci giri intorno. Muovi gli occhi, ti avvicini, allunghi la mano, lo tocchi, lo riguardi da un altro lato. C’è un ciclo tra te e ciò che percepisci: un’azione, un suo effetto sulla tua percezione, un’altra azione.

Ogni passaggio del ciclo è un’operazione applicata al risultato del passaggio precedente. Ed ecco la tesi: un “oggetto” è ciò che resta stabile sotto l’iterazione di questo ciclo. Non il punto di partenza della percezione, ma il suo punto fisso.

Von Foerster prende il nome da un concetto matematico e fisico che conosceva bene da fisico: l’autovalore. Dato un operatore — una trasformazione che prende qualcosa e restituisce qualcos’altro — un autovettore è un vettore speciale che la trasformazione lascia invariato, a meno di un cambio di scala. È il punto in cui l’operatore “si ferma”, l’input che produce se stesso come output.

Von Foerster chiama eigenform l’analogo nel ciclo della percezione: la forma che il processo di osservazione lascia invariata quando lo si itera a lungo. E chiama eigenbehavior il comportamento corrispondente — il modo di interagire — che lascia stabile quella forma. La sua frase compatta: objects are tokens for eigenbehaviors, gli oggetti sono gettoni, segnaposto, per eigenbehaviors.

In parole povere: l’oggetto non è dato prima dell’osservazione, e nemmeno è inventato dall’osservatore dal nulla. Emerge nel mezzo, come stabilità del ciclo che lega chi osserva e ciò che osserva.

Von Foerster lo dice così: percipiente e percepito sorgono insieme nella condizione di osservazione. Non c’è prima la mela e poi me che la vedo; c’è il ciclo, e “la mela” è il nome che diamo al suo punto fisso. Il termine “eigen” non è scelto a caso ed è difficile da tradurre: in tedesco significa “proprio”, e porta esattamente la sfumatura giusta. L’eigenform è la forma “propria” di un ciclo di osservazione — non sua nel senso di posseduta, ma sua nel senso di caratteristica, di ciò che quel ciclo, e solo quel ciclo, stabilizza.

Questo secondo angolo è anche il ponte più pulito verso il resto della wiki. Un eigenform è un punto fisso, un attrattore — esattamente l’oggetto di cui parla il capitolo Equilibrio, stabilità, attrattori. La differenza è dove si trova il sistema dinamico: qui il sistema dinamico è il ciclo di osservazione, e l’attrattore verso cui converge è ciò che chiamiamo un oggetto del mondo.

Una precisazione, per evitare che il secondo angolo suoni più estremo di quanto è. Dire che l’oggetto emerge come stabilità del ciclo di osservazione non vuol dire che l’osservatore possa stabilizzare qualunque cosa voglia. Il ciclo converge a un punto fisso solo se l’interazione lo permette: se giro intorno a una tazza, il ciclo si stabilizza sulla “tazza”, non sull‘“elefante”, per quanto io insista.

C’è qualcosa, fuori dal ciclo, che vincola dove il ciclo può fermarsi. La tesi di von Foerster non è che l’osservatore inventa il mondo: è che l’oggetto è una proprietà congiunta del ciclo — di chi osserva e di ciò che è osservato insieme — e non una proprietà del solo lato osservato. Questo è esattamente lo stesso punto che von Glasersfeld farà con la coppia fit/match, e che ritroveremo più avanti: il mondo pone vincoli, ma l’oggetto stabile non è leggibile da quei vincoli senza un osservatore che chiuda il ciclo.

La meccanica

La cibernetica di secondo ordine non è una teoria con equazioni e teoremi — su questo torneremo, perché è una delle critiche che ha ricevuto. Ma ha una struttura concettuale precisa, e quattro dei suoi nodi si lasciano spiegare con un minimo di formalismo: l’eigenform come punto fisso, l’autopoiesi come rete che si produce, la chiusura operazionale, e il costruttivismo radicale come epistemologia che lega il tutto.

Una premessa onesta sul livello di formalismo. Quello che segue non è matematica nel senso in cui lo è la teoria del controllo: non ci sono teoremi di stabilità, non ci sono condizioni dimostrate. C’è una sola idea matematica davvero portante — il punto fisso — e il resto è una struttura concettuale rigorosa ma non formalizzata. È un limite reale della cibernetica di secondo ordine, ed è meglio dichiararlo qui che lasciarlo scoprire al lettore tra le righe.

L’eigenform come punto fisso

Il modo più asciutto di scrivere l’idea di eigenform usa la nozione di punto fisso di una funzione. Sia $F$ un’operazione: nel nostro caso, un giro completo del ciclo di osservazione — guardo, agisco, ri-percepisco. $F$ prende uno stato percettivo e ne restituisce un altro. Un eigenform è uno stato $X$ tale che

$X = F(X)$

In parole: $X$ è uno stato che, dato in pasto all’operazione $F$ , restituisce se stesso. È il punto in cui il ciclo di osservazione smette di cambiare le carte in tavola.

Itera $F$ a partire da uno stato qualunque — $F(X_0)$ , poi $F(F(X_0))$ , e così via — e se la sequenza converge, converge verso un $X$ che soddisfa quell’uguaglianza. Quel valore limite è l’eigenform: la “cosa” stabile che l’osservazione ha costruito. La parola “stabile” qui è precisa: $X$ è stabile non perché qualcuno lo tiene fermo, ma perché applicargli $F$ — guardare di nuovo, agire di nuovo — lo lascia dov’era.

C’è una sottigliezza che von Foerster e, dopo di lui, il matematico statunitense Louis Kauffman — noto per i suoi lavori sulla teoria dei nodi — hanno messo in evidenza. Il punto fisso non deve esistere “prima” come oggetto già fatto. Si può costruire come la forma del processo infinito stesso. Pensa all’espressione che si annida in se stessa:

$X = F(F(F(F(\ldots))))$

Questa espressione, presa come un tutto, soddisfa $X = F(X)$ per pura costruzione: dentro la prima $F$ c’è di nuovo l’intera espressione. L’eigenform, in questa lettura, non è un oggetto separato a cui il processo punta: è il processo di osservazione, ripetuto senza fine, guardato come una cosa sola. È autoreferenza che genera stabilità, non autoreferenza che genera paradosso.

Un esempio numerico minimo aiuta a vedere che qui non c’è magia. Prendi l’operazione $F(x) = 1 + 1/x$ e iterala a partire da un numero qualunque, diciamo $x_0 = 1$ . Ottieni $F(1) = 2$ , poi $F(2) = 1.5$ , poi $F(1.5) \approx 1.667$ , poi $\approx 1.6$ , poi $\approx 1.625$ . La sequenza non vaga a caso: si stringe verso un valore. Quel valore $X$ soddisfa $X = 1 + 1/X$ , ed è la sezione aurea, $\approx 1.618$ .

Nota cosa è successo: $X$ non era dato all’inizio — siamo partiti da $1$ , che con $X$ non c’entra — ma l’iterazione lo ha costruito come suo limite. L’eigenform di von Foerster è esattamente questo, trasportato dai numeri al ciclo di percezione: non un dato di partenza, ma il valore verso cui un’operazione iterata converge. E la stessa espressione che definisce l’oggetto, $1 + 1/(1 + 1/(1 + \ldots))$ , è autoreferente senza essere paradossale — perché è un processo, non un’asserzione di verità.

Resta una domanda onesta: e se l’iterazione non converge? Non tutte le operazioni hanno un punto fisso, e non tutti i punti fissi sono stabili — alcuni respingono invece di attrarre. Nel vocabolario della Parte IX, un eigenform corrisponde a un punto fisso attrattivo: l’iterazione, partendo da vicino, ci cade dentro.

Quando l’operazione non ammette un attrattore, semplicemente non emerge un oggetto stabile: la percezione resta fluttuante, ambigua, non si chiude. È il caso delle illusioni ottiche bistabili — una figura che oscilla tra due interpretazioni e non si ferma su nessuna: il ciclo non trova un punto fisso unico. Von Foerster non sostiene che ogni ciclo di osservazione converga; sostiene che, quando converge, ciò a cui converge è quello che chiamiamo “un oggetto”. La teoria dice cosa sono gli oggetti, non garantisce che ce ne siano sempre.

L’autopoiesi: una rete che produce se stessa

Il secondo nodo arriva dalla biologia. Nel 1972 due biologi cileni, Humberto Maturana e Francisco Varela, coniano il termine autopoiesi — dal greco, auto-produzione. Il capitolo autopoiesi-maturana-varela (in preparazione) lo tratta a fondo; qui serve solo quel tanto che illumina la cibernetica di secondo ordine, perché l’autopoiesi è il caso biologico esemplare di un sistema che è, allo stesso tempo, ciò che osserva e ciò che è osservato.

La definizione tecnica di Maturana e Varela, parafrasata: una macchina autopoietica è organizzata come una rete di processi che, primo, attraverso le loro interazioni rigenerano di continuo la rete di processi che li ha prodotti; e secondo, costituiscono il sistema come un’unità concreta nello spazio, specificando i confini entro cui la rete si realizza.

Spacchettiamo le due clausole. La prima dice che i prodotti della rete sono i componenti della rete: non c’è un risultato finale che esce e va da un’altra parte, il sistema produce le proprie parti. La seconda dice che, producendo le proprie parti, il sistema disegna anche il proprio confine — decide dove finisce. Un sistema autopoietico non riceve i suoi confini dall’esterno: se li fa.

Il contrario è un sistema allopoietico — dal greco, che produce-altro. Produce qualcosa di diverso da sé. Una catena di montaggio in fabbrica produce automobili, non altre catene di montaggio; i suoi componenti sono fabbricati e installati dall’esterno. Tieni a mente questa coppia, autopoietico contro allopoietico: tornerà quando parleremo di agenti AI, e la differenza sarà il punto.

Va anche notato perché questa idea appartiene a un capitolo sull’osservatore. Un sistema autopoietico è il caso limite del sistema che è insieme soggetto e oggetto della propria attività: si osserva e si mantiene producendosi. Maturana e Varela ne traggono una tesi forte sulla cognizione — riassunta nella formula “vivere è conoscere”: per un sistema vivente, il semplice atto di mantenersi in vita, di restare autopoietico in un ambiente che cambia, è già una forma di cognizione. Non serve un cervello per cominciare a conoscere; basta dover restare se stessi.

La chiusura operazionale

Il terzo nodo è il più frainteso, e va spiegato con attenzione. Un sistema autopoietico ha chiusura operazionale: le sue operazioni interne formano un anello topologicamente chiuso, nel senso che ogni operazione del sistema produce stati interni del sistema, che alimentano altre operazioni del sistema. L’anello si chiude su se stesso.

L’errore da non fare — lo riprenderemo nella sezione dei fraintendimenti, perché è il più comune — è leggere “chiuso” come “isolato”. Non lo è. Un sistema operazionalmente chiuso è, nello stesso tempo, termodinamicamente aperto: scambia materia ed energia con l’ambiente di continuo. Una cellula vivente respira, mangia, espelle.

La chiusura non riguarda i flussi di materia ed energia. Riguarda l’organizzazione: l’ambiente non istruisce il sistema, non gli detta dall’esterno come organizzarsi. L’ambiente lo perturba, e basta. È il sistema, con la sua struttura interna, a decidere come rispondere alla perturbazione.

Maturana ha un nome per la danza che ne risulta: structural coupling, accoppiamento strutturale. Sistema e ambiente si co-determinano nel tempo, si modellano a vicenda, senza che nessuno dei due “trasferisca informazione” all’altro in senso istruttivo. La parola che fa lavoro qui è “istruttivo”. L’ambiente non programma il sistema. Lo spinge, e il sistema reagisce secondo cosa è.

Da qui scende la conseguenza epistemologica forte, quella che lega l’autopoiesi alla cibernetica di secondo ordine: se il sistema nervoso è operazionalmente chiuso, allora non rappresenta un mondo esterno dato. Non lo copia.

Costruisce la propria realtà operando, dentro i vincoli posti dalle perturbazioni che riceve. È la stessa idea dell’eigenform, vista dal lato del sistema vivente invece che dal lato della percezione: l’oggetto non entra dall’esterno, emerge come stabilità di un’operazione interna. Le due strade — quella di von Foerster, partita dalla percezione, e quella di Maturana e Varela, partita dalla biologia della cellula — arrivano allo stesso posto. È la conferma, da due direzioni indipendenti, che il punto non è un’idea isolata ma un modo di vedere coerente.

Il costruttivismo radicale: fit, non match

Resta da nominare la posizione filosofica che von Foerster, Maturana e Varela hanno in comune con un quarto autore, e che dà alla cibernetica di secondo ordine la sua epistemologia esplicita.

L’autore è Ernst von Glasersfeld (1917-2010), filosofo e psicologo tedesco-americano, vicino al BCL; la posizione è il costruttivismo radicale, formulato a partire dagli anni Settanta.

La tesi: la conoscenza non rispecchia una realtà esterna data, la conoscenza è una costruzione di chi conosce.

Von Glasersfeld la affila con una distinzione tra due verbi inglesi: la conoscenza non fa match con la struttura del mondo, fa fit. Match è la corrispondenza, la copia esatta, il calco. Fit è l’incastro, lo scivolare dentro i vincoli senza per questo ricalcarli.

La metafora con cui von Glasersfeld lo spiega è quella della chiave. Una chiave funziona se apre la serratura. Ma il fatto che la apra non ti dice che la chiave abbia la forma della serratura — ti dice solo che passa attraverso i suoi vincoli. Esistono molte chiavi diverse che aprono la stessa serratura; nessuna di esse “è” la serratura.

Allo stesso modo una teoria, un concetto, una conoscenza è viable — viabile, percorribile — finché serve a uno scopo, permette di prevedere, non urta contro l’esperienza. Il costruttivismo radicale sostituisce la verità intesa come corrispondenza con la viabilità intesa come tenuta funzionale. Non è un caso che la parola viable venga dalla biologia: è viable un organismo capace di sopravvivere nel suo ambiente, e la conoscenza, in questa lettura, sopravvive o no esattamente come un organismo — non perché copia il mondo, ma perché regge l’urto dell’esperienza.

“Radicale” perché non si ferma a metà strada. Un costruttivismo moderato direbbe: costruiamo alcune categorie sopra una realtà data, che resta il metro. Von Glasersfeld va oltre: non abbiamo accesso indipendente alla realtà per verificare la corrispondenza — l’unico accesso che abbiamo passa attraverso la nostra costruzione — quindi l’idea stessa di verità come rispecchiamento è inservibile. Non perché la realtà non esista: su questo torneremo, perché è il fraintendimento numero uno. Ma perché non c’è un punto di vista da cui confrontare la mappa col territorio senza usare un’altra mappa.

Von Glasersfeld rivendicava per questa posizione una genealogia lunga: il filosofo napoletano Giambattista Vico, con il suo verum ipsum factum — il vero coincide con il fatto, conosciamo davvero solo ciò che noi stessi facciamo — e poi Berkeley, Kant, e la psicologia genetica di Jean Piaget, lo psicologo svizzero che aveva descritto l’apprendimento del bambino come una costruzione attiva di schemi, non come la registrazione passiva di un mondo dato.

Le tre differenze, messe in fila

I quattro nodi appena visti — eigenform, autopoiesi, chiusura operazionale, costruttivismo — convergono su un’unica frattura rispetto alla prima cibernetica. Conviene scriverla esplicitamente su tre assi, perché è il cuore concettuale del capitolo e perché tornerà utile nella sezione sui fraintendimenti.

Primo asse, la posizione dell’osservatore. Prima cibernetica: l’osservatore è esterno, neutro, escluso dal sistema per costruzione metodologica. Seconda: l’osservatore è incluso, è parte del sistema, ed è costitutivo della descrizione — toglierlo non semplifica, falsa.

Secondo asse, l’oggetto di studio. Prima cibernetica: il sistema “là fuori” — il termostato, l’omeostato, l’organismo trattato come una scatola da regolare. Seconda: il sistema che osserva, e tra i sistemi che osservano c’è lo scienziato stesso, il terapeuta, l’epistemologo. La cibernetica diventa una scienza che ha tra i propri oggetti chi la pratica.

Terzo asse, lo statuto della conoscenza. Prima cibernetica: la descrizione tende, idealmente, a rispecchiare correttamente il sistema — c’è un realismo implicito, l’idea che esista una descrizione giusta. Seconda: la descrizione è una costruzione di un osservatore situato; vale per la sua viabilità, per quello che permette di fare, non per una corrispondenza che nessuno può verificare dall’esterno.

Una volta messi in fila i tre assi, è chiaro perché il rapporto tra le due cibernetiche non è un’opposizione frontale. La prima resta valida nel dominio in cui i tre assi non mordono: quando l’osservatore si può davvero trascurare, quando il sistema è davvero “là fuori”, quando il rispecchiamento è una buona approssimazione.

Misurare un termostato è esattamente questo dominio. Studiare la cognizione, una società, o la valutazione di un sistema che ragiona, non lo è. La regola pratica che esce dai tre assi è semplice da formulare: chiediti quanto la tua presenza di osservatore cambia il sistema che stai descrivendo. Se la risposta è “poco o niente”, la prima cibernetica basta. Se è “molto”, e non puoi farci nulla perché non puoi uscire dal sistema, sei nel territorio del secondo ordine.

Esempi

Quattro esempi eterogenei, scelti per illuminare facce diverse della stessa idea: uno biologico, uno percettivo quasi geometrico, uno clinico-storico, uno preso dalla pratica della valutazione.

Esempio 1 — la cellula che si fa da sé

Una cellula vivente è l’esempio di manuale di sistema autopoietico, e conviene guardarlo da vicino perché rende concreta la circolarità.

Il metabolismo della cellula — l’insieme delle reazioni chimiche al suo interno — produce, tra le altre cose, le molecole che compongono la membrana cellulare. La membrana, a sua volta, è ciò che tiene insieme la cellula: delimita un dentro e un fuori, trattiene le molecole del metabolismo abbastanza concentrate perché le reazioni continuino. Senza membrana, niente metabolismo concentrato; senza metabolismo, niente molecole per la membrana.

Nota la forma. Non c’è un componente “primo” che fabbrica gli altri. Non c’è una fabbrica esterna che assembla la cellula. La membrana produce le condizioni del metabolismo, il metabolismo produce la membrana: l’anello si chiude. E producendo la membrana, la cellula produce anche il proprio confine — decide da sé dove finisce. È autopoiesi nella forma più nuda: una rete di processi che rigenera i propri componenti e traccia i propri limiti.

Confronta con l’omeostato di Ashby. L’omeostato torna in equilibrio quando lo perturbi: si mantiene. Ma non produce i propri componenti — le bobine, i relè, l’acqua nelle vaschette sono stati costruiti e installati da Ashby. L’omeostato è allopoietico. L’autopoiesi è uno standard più forte dell’omeostasi: non basta mantenersi, bisogna prodursi.

C’è una conseguenza di questo esempio che vale per tutto il capitolo. Dove sta il confine della cellula? La risposta ovvia — alla membrana — nasconde la mossa interessante. La membrana non è un confine dato dall’esterno, come la parete di un contenitore in cui qualcuno ha versato un liquido: è un confine prodotto dal sistema stesso, di continuo, come parte del suo funzionamento. La cellula non sta dentro un confine; la cellula fa il proprio confine.

È il punto in cui l’autopoiesi tocca il tema di Scegliere il confine cambia il problema: nella Parte IX il confine lo traccia l’osservatore, è una scelta di chi modella; per un sistema autopoietico il confine se lo traccia il sistema, ed è una scelta di chi vive. Sono due cose diverse, e tenerle distinte evita un bel po’ di confusione.

Esempio 2 — riconoscere una tazza

Hai sul tavolo una tazza, e stai per “vederla”. Segui il processo al rallentatore, come un ciclo.

Primo passaggio: una prima occhiata produce una percezione grezza — una macchia chiara, una curva. Questa percezione genera un’aspettativa e un’azione possibile: se è una tazza, girando leggermente la testa dovrei vedere il manico.

Secondo passaggio: giri la testa. La nuova percezione conferma — c’è il manico — oppure smentisce. Se conferma, l’aspettativa “tazza” si rinforza e genera la prossima azione: allungo la mano, dovrei sentire una superficie liscia e rigida a quella distanza.

Terzo passaggio: allunghi la mano, la sensazione conferma. E così via.

Ogni giro è un’applicazione dell’operazione $F$ : da uno stato percettivo, attraverso un’azione, a un nuovo stato percettivo. Dopo pochi giri il processo converge: ogni nuova azione produce esattamente ciò che ti aspettavi. Sei arrivato a un punto fisso, $X = F(X)$ . Quel punto fisso, quella stabilità raggiunta del ciclo guarda-agisci-riguarda, è ciò che chiami “la tazza”. L’eigenform.

L’esempio mostra due cose. Primo, l’oggetto non è il punto di partenza della percezione: è il suo punto di arrivo, ciò che si stabilizza. Secondo — e qui sta la mossa di von Foerster — l’osservatore non è esterno al processo: i suoi movimenti, le sue azioni sono parte dell’operazione $F$ . Cambia il modo di esplorare e cambia il ciclo. Non c’è la tazza da una parte e l’occhio dall’altra: c’è un ciclo, e “la tazza” è il nome del suo equilibrio.

Un’obiezione viene naturale, ed è utile affrontarla perché chiarisce la portata della tesi. “Ma la tazza c’è anche se io non la guardo.” Vero, e von Foerster non lo nega: non sta dicendo che la tazza scompare quando chiudi gli occhi. Sta dicendo una cosa più precisa.

Cosa sia “una tazza” — il modo in cui quel pezzo di mondo si presenta come un oggetto unitario, distinto, manipolabile, con un manico e una cavità — non è leggibile dal pezzo di mondo da solo: è il punto fisso di un ciclo che include un osservatore con un certo corpo, certe capacità percettive, certe azioni possibili. Un organismo diverso, con un apparato percettivo diverso, chiuderebbe cicli diversi su quello stesso pezzo di mondo e stabilizzerebbe oggetti diversi.

La tazza-come-oggetto è una proprietà del ciclo, non del solo lato osservato. Questo lascia intatto che lì ci sia qualcosa; toglie l’idea che quel qualcosa sia già, di per sé, “una tazza” prima e indipendentemente da qualunque osservatore.

Esempio 3 — il terapeuta che si scopre dentro la stanza

Il terzo esempio è clinico, e mostra il passaggio dal primo al secondo ordine in un dominio dove ha cambiato davvero una pratica professionale.

Una famiglia entra dal terapeuta. La generazione precedente di terapia familiare — quella ispirata alla prima cibernetica, intorno agli anni Sessanta e Settanta — la guardava così: la famiglia è un sistema, ha i suoi loop di feedback, le sue regole, i suoi sintomi.

Il terapeuta, in quella visione, è lo scienziato che osserva quel sistema dall’esterno, ne diagnostica le disfunzioni e interviene per correggerle. Il terapeuta sta fuori dalla scatola. La famiglia è “il sistema lì davanti”.

Negli anni Ottanta questa immagine entra in crisi, e per una ragione che a questo punto del capitolo è familiare. Il terapeuta, nella stanza, non è invisibile. Le sue domande orientano cosa la famiglia racconta. Le sue reazioni — un cenno, un silenzio, un riformulare — modificano il sistema mentre lo osserva.

La famiglia che il terapeuta “diagnostica” non è la famiglia che esisterebbe senza di lui: è la famiglia-più-il-terapeuta, un sistema nuovo che si è formato quando lui è entrato. Non c’è un sistema osservato e un osservatore separati; c’è un unico sistema terapeutico, e il terapeuta ne è una parte.

La terapia familiare assorbe esplicitamente la cibernetica di secondo ordine, e usa le parole di von Foerster per dirlo: il passaggio dalla cibernetica del sistema osservato a quella del sistema osservante. La conseguenza pratica è concreta. Il terapeuta smette di cercare “la verità oggettiva sulla famiglia” — una verità che, dal di dentro del sistema, non gli è accessibile — e si concentra su cosa, della sua presenza e delle sue mosse, rende il sistema più viable, più capace di funzionare. È lo stesso slittamento da match a fit che vedremo in von Glasersfeld, calato in una pratica clinica.

Esempio 4 — il benchmark che smette di misurare

Il quarto esempio è preso dalla pratica della valutazione dei sistemi di AI, ed è quello in cui il problema dell’osservatore incluso smette di essere filosofia e diventa una difficoltà operativa quotidiana. Lo trattiamo qui come scenario; la sezione “Eredità e applicazioni” lo riprende.

Un gruppo di ricerca pubblica un benchmark: un insieme di problemi con cui misurare quanto è bravo un modello in un certo compito — diciamo, risolvere bug in un repository di codice.

Al momento della pubblicazione il benchmark misura quello che dichiara di misurare. Un modello che ci va bene è davvero un modello che risolve bug.

Poi il benchmark diventa noto. Chi addestra modelli inizia, deliberatamente o no, a ottimizzare per quel benchmark: i problemi del benchmark, o problemi molto simili, finiscono nei dati di addestramento; le scelte di progetto vengono guidate dal punteggio.

Dopo qualche mese il benchmark non misura più “quanto il modello risolve bug in generale”: misura “quanto il modello è stato adattato a questo specifico benchmark”. Il numero sale, la cosa che il numero doveva rappresentare no.

Cosa è successo, nel vocabolario di questo capitolo. L’osservatore — la comunità che misura — non era esterno al sistema osservato. Pubblicando la misura, l’ha immessa nel sistema socio-tecnico che produce i modelli, e il sistema ha reagito alla misura. L’atto di osservare ha cambiato la cosa osservata.

È il fenomeno che la Parte XVI chiamerà legge di Goodhart — quando una misura diventa un obiettivo, smette di essere una buona misura — e qui lo si vede come istanza concreta dell’osservatore incluso. Chi valuta non guarda da fuori una vetrina: è dentro l’anello, e l’anello lo include.

Vale la pena fissare cosa rende questo esempio diverso dai tre precedenti, perché è il più vicino al lettore della wiki. Nei primi tre — la cellula, la tazza, la famiglia — l’osservatore incluso è una tesi su come stanno le cose: la cellula si produce così, la percezione funziona così, la terapia va capita così. Nell’esempio del benchmark l’osservatore incluso è invece un problema da gestire.

Nessuno può uscire dall’anello: chi misura un modello è inevitabilmente parte del sistema che lo produce. Ma sapere di essere nell’anello cambia le mosse possibili. Si possono tenere segreti i problemi del benchmark, ruotarli, distinguere i benchmark “di sviluppo” da quelli “di certificazione”, trattare un punteggio noto come informazione contaminata.

Nessuna di queste mosse fa sparire il problema — l’osservatore resta incluso — ma tutte nascono dall’aver smesso di fingere che l’osservatore fosse fuori. È la cibernetica di secondo ordine nella sua versione più operativa: non una soluzione, ma il riconoscimento esplicito di una posizione che cambia cosa è ragionevole fare.

Eredità e applicazioni

Da qui in avanti il capitolo esce dal racconto storico e guarda a cosa è rimasto, fino all’AI contemporanea. È la sezione in cui il presente è ammesso. Ogni connessione verso l’AI è marcata per la sua classe: dove è analogia lo diciamo, e non la facciamo diventare di nascosto una filiazione.

Cosa è rimasto, fuori dall’AI

La cibernetica di secondo ordine ha lasciato eredi visibili in campi distanti dall’ingegneria.

La terapia familiare sistemica è il caso più netto. Gregory Bateson (1904-1980, antropologo ed epistemologo anglo-americano, anche lui alle Macy Conferences) aveva sviluppato un’epistemologia in cui la mente non sta nel cranio ma nel pattern di relazioni e di feedback — “the pattern which connects” — e il suo lavoro sulla comunicazione al Mental Research Institute di Palo Alto è all’origine della terapia familiare.

Negli anni Ottanta quella terapia assorbe esplicitamente la cibernetica di secondo ordine: il terapeuta smette di considerarsi un osservatore esterno e oggettivo della famiglia e si riconosce parte del sistema terapeutico che lui stesso, osservando e intervenendo, contribuisce a creare. Il passaggio si descrive con le parole di von Foerster: dalla cibernetica del sistema osservato a quella del sistema osservante, applicata alla clinica.

Niklas Luhmann (1927-1998, sociologo tedesco) prende l’autopoiesi e la chiusura operazionale e le porta nella sociologia. Per Luhmann i sistemi sociali sono autopoietici: sono fatti di comunicazioni che producono altre comunicazioni. Il diritto produce diritto, l’economia produce pagamenti che generano pagamenti, la scienza produce verità scientifiche. Ogni sottosistema è operazionalmente chiuso e osserva gli altri solo attraverso il proprio codice. È un’intera sociologia costruita dentro la cornice della seconda cibernetica.

L’operazione di Luhmann merita una nota, perché è anche un caso di studio su quanto un’idea possa spostarsi dal suo terreno d’origine. Maturana e Varela avevano coniato l’autopoiesi per i sistemi viventi, e Maturana in particolare era riluttante a vederla applicata alla società: per lui un sistema sociale non produce le proprie componenti fisiche come fa una cellula.

Luhmann la riprende lo stesso, ma cambiando cosa conta come “componente”: non molecole, ma comunicazioni. Una società, nella sua lettura, non è fatta di persone — le persone sono nell’ambiente del sistema sociale — ma di comunicazioni che ne generano altre. È un trasferimento concettuale audace, ed è contestato proprio per questo: mostra la fecondità della cornice di secondo ordine e, insieme, la sua tendenza a estendersi oltre i confini in cui era stata definita. È un esempio concreto della deriva che la sezione “Dove si rompe” segnala come rischio strutturale.

E il costruttivismo radicale è diventato una corrente influente in pedagogia: l’apprendimento visto come costruzione attiva di chi impara, non come trasmissione di contenuti da un emittente a un ricevente passivo. Se la conoscenza non si trasferisce ma si costruisce, allora insegnare non è versare contenuti in una testa vuota — è organizzare le condizioni perché chi impara costruisca da sé schemi viable. È una conseguenza diretta della tesi fit/match applicata all’aula.

C’è anche un’eredità dentro la cibernetica stessa, vale a dire la cibernetica del design. Il cibernetico anglo-canadese Ranulph Glanville, allievo di Gordon Pask, ha sostenuto che progettare è un atto di secondo ordine per costituzione: il designer non sta fuori dall’oggetto che progetta, le sue scelte e le sue revisioni fanno parte del sistema in via di formazione, e il processo di design è un ciclo conversazionale tra il designer e ciò che va prendendo forma sotto le sue mani.

Glanville arrivava a proporre di sostituire la parola “osservatore” con “compositore”, per dire che chi descrive un sistema non lo registra: lo compone. È una formula che vale anche per chi scrive una valutazione, una specifica, un prompt: la pagina che descrive un sistema è anche una delle forze che lo modellano.

Conviene anche essere precisi sul perché questa eredità è rimasta confinata. La cibernetica di secondo ordine ha attecchito dove il problema dell’osservatore incluso era già sentito come urgente e concreto — la clinica, l’aula, la sociologia, il design — e ha attecchito molto meno dove la prima cibernetica continuava a funzionare benissimo: l’ingegneria del controllo, i servomeccanismi, l’automazione industriale. Non è un fallimento. È la conferma, sul campo, di cosa diceva la teoria stessa: il secondo ordine serve quando l’osservatore conta, e in molti problemi tecnici l’osservatore, semplicemente, non conta abbastanza da giustificare il cambio di cornice.

Il ponte verso l’AI, con il suo limite dichiarato

Resta la domanda che apre il capitolo: che cosa ha da dire tutto questo a chi costruisce o valuta sistemi di intelligenza artificiale. La risposta onesta ha due parti.

La prima parte è un avvertimento sulla classe delle affermazioni. Chi ha progettato i transformer, i modelli linguistici, gli agenti moderni non ha letto von Foerster, non discende dalla cibernetica di secondo ordine, non ne ha ereditato strumenti. Tra la seconda cibernetica e l’AI contemporanea non c’è filiazione storica.

C’è, al più, risonanza concettuale: idee che, formulate in un contesto, aiutano a pensare meglio un altro contesto. Tutto ciò che segue è quindi analogia o spunto epistemico, mai discendenza, mai teorema. Lo diciamo una volta in modo netto e lo marchiamo punto per punto.

Il punto più solido — e quasi non è un’analogia, è quasi un meccanismo — è il problema della valutazione. La cibernetica di secondo ordine dice: l’osservatore non sta fuori dal sistema che descrive. Chi valuta un sistema di AI non sta fuori dal sistema di AI. Fa parte del sistema socio-tecnico che lo costruisce, lo addestra, lo misura, lo usa. Il benchmark è scritto da qualcuno, con assunzioni; il giudizio “il modello è bravo” è un giudizio situato, fatto da una posizione.

E l’esempio del benchmark che smette di misurare, visto sopra, mostra che non è solo una questione di prospettiva: l’atto stesso di osservare — pubblicare una misura — retroagisce sul sistema osservato e lo cambia. Questo non è un’analogia vaga, è la descrizione di un meccanismo reale, ed è il motivo per cui un capitolo sull’osservatore incluso appartiene a una wiki sull’AI. Si collega direttamente a metriche-proxy, goodhart-law e benchmark-gaming (in preparazione) nella Parte XVI.

Gli altri tre ponti sono analogie dichiarate, utili per pensare ma da non sopravvalutare.

Autoreferenza e sistemi che modellano se stessi (analogia). Un agente che ragiona sul proprio ragionamento, che critica i propri output prima di consegnarli, che pianifica una revisione del proprio piano — la metacognizione e la self-reflection negli agenti — ha una forma autoreferente. È la struttura che von Foerster metteva al centro.

Ma attenzione alla classe: la self-reflection di un agente è un meccanismo ingegneristico concreto, di solito un secondo passaggio del modello sul proprio output, e ricorda la ricorsività di von Foerster senza derivarne. È un’analogia che aiuta a vedere la forma comune, non una linea di discendenza. Il legame naturale è con Metacognizione e self-correction negli agenti nella Parte III.

Eigenform e punti fissi del comportamento (analogia). Un comportamento stabile di un agente — un pattern che si ripete a ogni giro del loop, un attrattore nello spazio degli stati — si lascia descrivere come un eigenform: ciò che resta invariante sotto l’iterazione del ciclo.

È un’analogia, e una buona, perché poggia su una struttura matematica condivisa, il punto fisso: lo stesso oggetto che la Parte IX chiama attrattore. Si collega a Equilibrio, stabilità, attrattori.

Il costruttivismo come monito epistemico (spunto). Un modello linguistico non rispecchia una realtà: produce testo viabile rispetto ai vincoli del suo addestramento e del prompt. La coppia fit/match di von Glasersfeld è una lente utile per non confondere la fluidità di un output con la conoscenza di un fatto.

È uno spunto epistemico, non una teoria del funzionamento dei modelli; ma è uno spunto che aiuta a porre meglio la domanda — affrontata in Cosa un sistema può sapere di se stesso — su che cosa un modello “sa”.

Sull’autopoiesi va detta una cosa precisa, perché è il punto dove l’analogia rischia di franare in qualcosa di indifendibile. L’autopoiesi è lo standard più esigente di autonomia che la seconda cibernetica abbia formulato: un sistema che produce i propri componenti e i propri confini.

Gli agenti AI attuali non sono autopoietici. Sono allopoietici nel senso tecnico visto sopra: prodotti, addestrati, ospitati e mantenuti dall’esterno; non generano i propri componenti, non si danno i propri confini. Citare l’autopoiesi nel dibattito su agency e autonomia degli agenti serve a fissare un metro alto e a smontare l’antropomorfismo facile — “l’agente è autonomo”, “l’agente è quasi vivo” — non a sostenere che gli agenti lo siano. È un termine di paragone che misura la distanza, non una proprietà da attribuire.

Cosa portarsi al tavolo di lavoro

Tolto l’avvertimento sulla classe delle affermazioni, resta una manciata di abitudini concrete che la cibernetica di secondo ordine suggerisce a chi costruisce o valuta sistemi di AI. Sono abitudini di pensiero, non strumenti — ma sono operative.

La prima: quando scrivi una valutazione, scrivi anche da dove la stai facendo. Un numero di benchmark senza la storia di chi lo ha prodotto, con quali dati, con quali assunzioni, è un numero che finge di venire da nessun luogo.

Esplicitare la posizione dell’osservatore — chi ha scelto i casi di test, con quale obiettivo, quanto il sistema valutato è stato esposto a quei casi — non è uno scrupolo accademico: è ciò che permette a chi legge il numero di sapere quanto fidarsi. È il principio di Cosa posso misurare, cosa posso governare portato fino in fondo: anche la misura è un atto situato.

La seconda: tratta la pubblicazione di una metrica come un intervento sul sistema, non come una fotografia. Nel momento in cui un benchmark diventa noto, entra nell’anello e lo cambia.

Questo non è un argomento per non pubblicare benchmark — è un argomento per progettarli sapendo che verranno ottimizzati: tenere set di test riservati, ruotarli, distinguere misura di sviluppo e misura di certificazione. Il benchmark utile non è quello che ignora di essere osservato, ma quello progettato sapendo di esserlo.

La terza: di fronte a un sistema che si auto-monitora — un agente che valuta i propri output, che decide quando fermarsi, che produce un giudizio sul proprio operato — ricordati che l’osservatore e l’osservato qui coincidono, e questo è esattamente il caso in cui la prima cibernetica non basta.

Un agente che giudica se stesso non sta facendo una misura indipendente: sta chiudendo un anello su di sé. Il suo auto-giudizio va trattato per quello che è — una mossa interna al sistema — non come una verifica esterna. È il motivo per cui, nella pratica, il giudizio di un modello su se stesso si accompagna quasi sempre a un controllo che viene da fuori dell’anello.

Dove si rompe

La cibernetica di secondo ordine va trattata con onestà: è una cornice epistemologica feconda e una pagina importante di storia delle idee, ma non è una teoria tecnica con teoremi e misure, e ha ricevuto critiche serie che non vanno nascoste.

La svolta linguistica. Lo storico della scienza Andrew Pickering ha descritto la cibernetica di secondo ordine come un linguistic turn — una svolta verso il linguaggio e il discorso — che ha abbandonato le pratiche tecniche concrete e produttive della prima cibernetica. La prima cibernetica costruiva oggetti: l’omeostato di Ashby, le tartarughe robotiche di Grey Walter — il neurofisiologo che negli anni Quaranta costruì piccoli automi semoventi capaci di comportamenti sorprendenti con pochissimi componenti — macchine che si potevano accendere e osservare. La seconda, secondo questa critica, costruisce soprattutto testi.

È una critica che pesa, perché è in parte vera: il volume Cybernetics of Cybernetics è un libro, non un laboratorio. Pickering, va detto, non liquidava del tutto la seconda cibernetica — riconosceva valore all’idea dell’osservatore partecipante — ma rimpiangeva la perdita di una tradizione che, con macchine semplici, otteneva risultati ispezionabili. Una cornice che illumina ma non costruisce nulla di verificabile rischia di scivolare dalla scienza alla filosofia, e di perdere per strada il banco di prova.

Il rischio di solipsismo. Se la conoscenza è costruzione e non c’è accesso a una realtà indipendente, il costruttivismo radicale rischia di scivolare verso il relativismo — ogni costruzione vale l’altra — o, peggio, verso il solipsismo, l’idea che esista solo la mente di chi conosce.

I costruttivisti rispondono che la viabilità tiene il freno: non tutto è costruibile, il mondo “dice di no”, una chiave che non apre nessuna serratura non è viable e basta. La replica è seria, ma non chiude la questione: dire che il mondo pone vincoli senza poter dire nulla su com’è il mondo lascia un equilibrio instabile.

Il sospetto di non falsificabilità. Una cornice che mette l’osservatore dentro ogni descrizione corre un pericolo specifico: diventare immune alle obiezioni. Qualsiasi critica può essere riassorbita come “ecco un’altra osservazione, fatta da un altro osservatore, da un’altra posizione”.

Una teoria che metabolizza ogni obiezione come conferma di sé non rischia di essere smentita — ma proprio per questo rischia di non dire molto. È la differenza tra una cornice che illumina e una che spiega tutto e quindi niente.

La difficoltà a diventare metodo. Riconoscere che l’osservatore conta è un punto epistemico forte. Tradurlo in pratica — dire cosa fa concretamente, di diverso, uno scienziato che ha preso sul serio la seconda cibernetica — è molto più difficile.

Buona parte della letteratura resta al livello del principio: importante da affermare, arduo da operazionalizzare. La terapia familiare è una delle poche aree dove la traduzione in pratica è avvenuta davvero, e non a caso è un dominio dove l’osservatore — il terapeuta nella stanza — è impossibile da ignorare.

Il regresso all’infinito. C’è un’obiezione più sottile, di natura logica. Se ogni descrizione richiede un osservatore di cui rendere conto, allora rendere conto dell’osservatore richiede a sua volta un osservatore di secondo livello, che ne richiede uno di terzo, e così via senza fine. La cibernetica di secondo ordine sembra aprire una scala infinita: cibernetica della cibernetica della cibernetica.

I difensori rispondono che la ricorsione non genera livelli sempre nuovi ma si chiude su se stessa — è autoreferente, non infinitamente stratificata: l’osservatore che osserva se stesso è già il punto fisso, non il primo gradino di una scala. La risposta è elegante e coerente con tutto il resto del capitolo, ma chi cerca un fondamento solido può trovarla insoddisfacente: un punto fisso che si autodefinisce non è lo stesso che un fondamento esterno che regge la costruzione.

Un valore che resta, malgrado le critiche. È giusto chiudere la lista delle critiche notando che nessuna di esse cancella il punto di partenza. Che l’osservatore non sia mai del tutto fuori dal sistema che descrive è un’osservazione corretta, e in alcuni domini — la clinica, la sociologia, la valutazione dei sistemi che ragionano — è un’osservazione che cambia la pratica in meglio.

Le critiche colpiscono le pretese più larghe: che da questa osservazione si possa ricavare un’epistemologia completa, un metodo generale, una rifondazione della scienza. Tenuta nei suoi limiti — un correttivo prezioso, non una teoria del tutto — la cibernetica di secondo ordine regge. È quando promette più di così che si rompe.

Restano alcuni fraintendimenti da disinnescare, prima dei collegamenti, perché ricorrono. Ognuno nasce dal prendere alla lettera una parola — “secondo”, “chiuso”, “costruzione”, “ponte” — al di fuori del senso preciso che ha nel capitolo.

“Secondo ordine” non vuol dire “migliore” o “più avanzato”. Non è un aggiornamento tecnico della prima cibernetica, come la versione 2 di un software. È un cambio di cornice, e la prima cibernetica resta pienamente valida nel suo dominio — i sistemi per cui l’osservatore si può ragionevolmente trascurare. Un capitolo sul feedback in un termostato non guadagna nulla a “passare al secondo ordine”: il termostato è esattamente il caso in cui la prima cibernetica è la scelta corretta, e complicare la descrizione con la posizione dell’osservatore non aggiunge niente, solo rumore.

Chiusura operazionale non significa isolamento. Ripetuto qui perché è l’errore più frequente: un sistema operazionalmente chiuso è termodinamicamente aperto, scambia materia ed energia di continuo. La chiusura riguarda l’organizzazione — l’ambiente perturba ma non istruisce — non i flussi.

Il costruttivismo radicale non dice “la realtà non esiste”. Non è una negazione del mondo esterno. Dice una cosa più stretta e più scomoda: non abbiamo un punto di vista indipendente da cui confrontare la nostra conoscenza con la realtà per verificarne la corrispondenza.

Il mondo pone vincoli — la viabilità non è arbitraria — ma non si lascia rispecchiare. “Tutto è opinione” è la versione caricaturale, e va respinta: tra “non posso verificare la corrispondenza” e “qualunque costruzione vale l’altra” c’è una distanza enorme, ed è la distanza che separa il costruttivismo radicale dal relativismo spicciolo.

Il ponte verso l’AI non è una filiazione. Detto nella sezione precedente, ripetuto qui perché è la trappola di questo capitolo: gli ingegneri dell’AI contemporanea non discendono da von Foerster.

Le connessioni che abbiamo tracciato sono analogie e spunti, marcati come tali. Chi le legge come una linea di discendenza storica scrive una bella storia falsa — suggestiva e sbagliata, esattamente il rischio annunciato nella prima pagina.

Collegamenti

Wiener: comunicazione e controllo — la prima cibernetica, la cibernetica dei sistemi osservati: il termine di contrasto da cui la seconda si distingue.
Macy Conferences: cervello, macchine, informazione — il contesto fondativo da cui von Foerster proviene, e dove fu segretario editoriale.
Ashby, omeostato e adattamento — l’omeostato come sistema osservato e allopoietico: il confronto che fa risaltare cosa aggiunge l’autopoiesi.
autopoiesi-maturana-varela (in preparazione) — il capitolo che approfondisce autopoiesi, chiusura operazionale e cognizione enattiva, qui solo introdotte.
Scegliere il confine cambia il problema — chi traccia il confine di un sistema è un osservatore: la seconda cibernetica radicalizza questo punto.
Quando scomporre funziona e quando no — la cibernetica di secondo ordine è tendenzialmente olista: l’osservatore non si lascia scomporre via.
Equilibrio, stabilità, attrattori — l’eigenform è un punto fisso, un attrattore: stesso oggetto matematico, applicato al ciclo di osservazione.
Cosa un sistema può sapere di se stesso — la posta epistemologica del capitolo, vista dal lato dei limiti dell’autoconoscenza.
Metacognizione e self-correction negli agenti — la metacognizione e la self-reflection negli agenti come istanza, per analogia, della struttura autoreferente.
goodhart-law (in preparazione) — l’osservatore che, misurando, cambia il sistema osservato: la versione operativa del problema, nella valutazione dei sistemi AI.
ponte-cibernetica-agenti (in preparazione) — l’agent loop, il monitoring e l’human-in-the-loop, dove l’osservatore incluso torna come problema di progetto.

Per andare oltre

Heinz von Foerster, Cybernetics of Cybernetics (Biological Computer Laboratory, 1974; ristampa Future Systems, 1995) — il volume che consolida la formula e la distinzione primo/secondo ordine.
Heinz von Foerster, Objects: Tokens for (Eigen-)Behaviors (1976), raccolto in Observing Systems (Intersystems, 1981) — il saggio dove vengono formulati gli eigenform e gli eigenbehavior.
Humberto Maturana e Francisco Varela, Autopoiesis and Cognition: The Realization of the Living (D. Reidel, 1980) — il testo che definisce autopoiesi e chiusura operazionale.
Ernst von Glasersfeld, An Introduction to Radical Constructivism (in P. Watzlawick, The Invented Reality, Norton, 1984) — il testo programmatico del costruttivismo radicale, con la distinzione fit/match.
Bernard Scott, Second-order Cybernetics: An Historical Introduction (Kybernetes, 2004) — ricostruzione storica accessibile della nascita del campo, utile per inquadrare date e protagonisti.