«Intelligenza artificiale e pensiero umano» di John R. Searle. La Stanza Cinese contro il Test di Turing
Intelligenza artificiale e pensiero umano raccoglie alcuni degli scritti più importanti di John R. Searle sull’intelligenza artificiale che potrebbero aprire nuove frontiere.
Intelligenza artificiale e pensiero umano, a cura di Angela Condello ed edito da Castelvecchi, racchiude alcuni degli scritti più importanti di John R. Searle sull’intelligenza artificiale che, pur essendo datati, contengono spunti interessanti che meritano una lettura.
Per i pochi che non lo conoscono, John R. Searle, nato nel 1932, è uno dei più importanti filosofi viventi, è stato docente di Filosofia del linguaggio e della mente a Berkeley ed ha scritto numerosi saggi e articoli sul funzionamento della mente e sulla coscienza. Per chi si occupa di intelligenza artificiale, anche senza essere un filosofo o un tecnico, il suo nome è legato alla famosa Stanza Cinese, un esperimento che si contrappone al Test di Turing.
Test di Turing vs la Stanza Cinese
Il test di Alan Turing fu presentato in un famoso articolo dal titolo Computing machinery and intelligence pubblicato sulla rivista Mind nel 1950 e si ispirava all’Imitation game, che prevede che un uomo e una donna stiano in una stanza mentre un terzo, che si trova lontano da loro, ponendo domande dirette, deve indovinare chi è l’uomo e chi la donna. Nel frattempo gli altri due rispondono in modo ambiguo cercando di ingannarlo e rendere più difficile il lavoro di chi deve indovinare.
Nella variante di Turing, al posto dell’uomo o della donna viene messa una macchina, mentre il terzo continua a fare domande. Se, alla fine, la percentuale delle volte in cui indovina è simile a quella che si ottiene quando c’è l’essere umano, allora si può dedurre che la macchina tiene un comportamento intelligente.
Questo test è stato criticato da Searle che ha evidenziato una differenza sostanziale tra sintassi e semantica, ovvero tra la conoscenza della struttura di una frase e il suo significato e, per dimostrare l’infondatezza del Test di Turing, ha ideato l’esperimento mentale della Stanza Cinese, pubblicato sulla rivista Minds, Brains and Programs nel 1980.
Secondo Searle le macchine eseguono semplici elaborazioni sintattiche di simboli di cui non conoscono il significato e si comportano come un uomo di lingua inglese di fronte a una storia scritta in caratteri cinesi e un foglio con delle domande, sempre in cinese, che trova in una stanza un documento con le istruzioni, scritte nella sua lingua, su come abbinare i simboli del primo al secondo. Seguendo quelle regole l’uomo è in grado di rispondere alle domande, ma non per questo conosce il cinese e tanto meno sa quale sia la risposta corretta.
In «Intelligenza artificiale e pensiero umano» Searle torna a discutere, dopo molti anni dalla pubblicazione della Stanza Cinese, sulla validità di questo esperimento che considera ancora efficace e non contraddetto.
Nel suo ragionamento, ci sono due affermazioni molto importanti, la prima è che il contrasto tra uomo e macchina è obsoleto, la seconda è che l’intelligenza artificiale non sembra sprigionare quel meccanismo, ancora sconosciuto, che genera la coscienze e quindi la consapevolezza di cosa sta facendo.
Sul primo punto si legge: «Se il concetto di macchina è definito come qualsiasi sistema fisico capace di svolgere certe funzioni allora non è in questione che i cervelli umani e animali siano delle macchine. Sono delle macchine biologiche, e quindi? Non c’è alcuna ragione logica o filosofica per cui non potremmo duplicare l’operazione di una macchina biologica, usando metodi artificiali».
In questa frase Searle introduce un concetto importante del suo ragionamento, che è quello di duplicazione. Infatti continua affermando che «non c’è dubbio che una macchina artificiale possa, in linea di principio, pensare. Proprio come possiamo costruire un cuore artificiale, così non c’è alcuna ragione per cui non potremmo costruire un cervello artificiale. Il punto, tuttavia, è che qualunque macchina artificiale di questo tipo dovrebbe essere capace di duplicare, e non solo di simulare, i poteri causali della macchina biologica artificiale».
Secondo Searle, un cuore artificiale effettivamente duplica il funzionamento del cuore umano e pompa materialmente il sangue, mentre un cervello artificiale non lo fa perché – e qui sta il nucleo del suo discorso – attraverso il suo meccanismo non produce coscienza che sarebbe figlia del pensiero. In sostanza per Searle la macchina esegue una serie di compiti impostigli dall’algoritmo ma, non solo non pensa, ma non sa neppure di calcolare. Tuttavia non esclude del tutto che la macchina possa un futuro avere una coscienza, magari per volontà di Dio dice con una certa ironia, sottolineando che, allo stato, non sappiamo neppure quale sia il procedimento chimico insito negli esseri umani che produce la coscienza, che egli lega strettamente al concetto di intelligenza, per cui a suo avviso si è molto lontani da questa possibilità.
La macchina non solo non ha coscienza, ma non sa neppure cosa significhi vincere o perdere, per cui le risposte positive al Test di Turing o la vittoria di Deep Blue su Kasparov non hanno particolare rilevanza, perché sono eventi neutri e meccanici.
Quella di Searle è una visione filosofica fondata su solidi ragionamenti e largamente condivisa, ma non è detto che non si stiano aprendo nuove frontiere. Proprio recentemente è stato pubblicato uno studio di Leonor e Manuel Blum dal titolo «AI Consciousness is Inevitable: A Theoretical Computer Science Perspective» che dimostrerebbe la possibilità che le macchine possano essere coscienti.
Un lavoro complesso e stimolante di cui torneremo a parlare, ma tenendo sempre presente il ragionamento di Searle che resta una barriera da superare.
Vorrei che questa rubrica diventasse un luogo di confronto e condivisione di suggerimenti su libri, articoli, pubblicazioni, podcast e newsletter. Hai qualche consiglio di lettura da condividere?
È proprio vero che si ha paura di quel che non si conosce. Infatti ho paura
Il filosofo Luigi Lombardi Vallauri, piuttosto che rincorrere le paure agite dall'intelligenza artificiale invitava, paradossalmente, a non copulare perchè le efferatezze compiute dall'uomo e, ancor di più dagli stati dovrebbero rappresentare il vero e concreto spauracchio da temere.