Perché i computer non possono pensare come noi? #UnGraficoeunLibro

In un saggio del 1980 Günther Anders, critico tra i più radicali della contemporaneità tecnologica, denunciava la tecnica e i suoi poderosi apparati come nuovo soggetto storico. Il suo giudizio, che non pochi allora si affrettarono a tacciare di ideologismo, ma che, in forme mutate, sopravvive ancora oggi, aveva il tono minaccioso di una iperbole troppo fosca per essere creduta: «abbiamo rinunciato a considerare noi stessi come i soggetti della storia; ci siamo detronizzati (o lasciati detronizzare) e al nostro posto abbiamo collocato altri soggetti della storia, anzi un solo altro soggetto: la tecnica […]» (L’uomo è antiquato, Bollati Boringhieri, vol.II, 2007, p.258).

Non serve essere filosofi per prevedere che le nuove intelligenze artificiali, il cui perfezionamento è sempre più rapido, si affermeranno presto come una parte ineludibile della vita quotidiana di noi tutti; ma è forse saggio interrogare i più esperti, per evitare di cedere ai cupi vaticini degli apocalittici, o di consegnarsi in buona fede, ma con troppa speranza, alle rassicurazioni dei più entusiasti. Erik J. Larson, imprenditore tra i più noti nel campo della intelligenza artificiale e scrittore, incarna elegantemente la figura eclettica del tecnologo-umanista. Nel suo saggio Il mito dell’intelligenza artificiale. Perché i computer non possono pensare come noi (Franco Angeli, 2022) smorza, da un lato, le tetre preoccupazioni di Anders e mette in guardia, d’altro lato, circa i pericoli culturali che un eccessivo affidamento alle macchine, alle nuove macchine, può comportare. Perché le ‘menti’ artificiali oggi propriamente non ‘pensano’, e il limite strutturale che le distingue dalle menti naturali, quelle umane, consiste nella incapacità di comprendere e intuire, di riprodurre, cioè, quelle facoltà logiche che rendono noi umani esseri creativi. Illudersi di delegare la nostra parte più ‘umana’ ai computer, sia pure ai più sofisticati, rischia di impedire alla scienza, paradossalmente, di conseguire veri progressi, poiché essa ha bisogno di invenzioni. Saremo mai capaci di costruire macchine dotate di una intelligenza umana? Ne ho parlato con Mr. Larson.

Cosa distingue l’intelligenza artificiale dall’intelligenza ‘naturale’, e perché lei ritiene che, secondo gli approcci attuali, non sarà mai possibile per le macchine eguagliare certe facoltà umane di intuizione e comprensione?

Ottima donanda. Per chiarire, non ho detto nel mio libro “mai”. Ho detto che ci sono difficoltà molto, molto serie di cui venire a capo riguardo all’inferenza (al modo in cui le macchine svolgono ‘ragionamenti’, ndr.) prima di poter sperare che le tecnologie digitali arrivino a pensare come i nostri cervelli. Non credo che l’attuale mania per i modelli linguistici di grandi dimensioni (LLMs) sposti di molto la palla. La tecnologia è strabiliante, certo, ma manca ancora di buon senso e si rivela incredibilmente fragile, quando il calcolo delle probabilità su cui basa le proprie risposte non è sufficiente. Ho visto GPT-4 affermare la verità sia di A sia di non-A, senza neppure rendersi conto di sostenere entrambi i lati di una contraddizione. Questa non è intelligenza di livello umano.

Quali rischi correremmo, se l’esonero dell’intelligenza umana a favore di quella artificiale  si affermasse nella ricerca scientifica come paradigma diffuso? Se affidassimo l’ambito della scoperta alle macchine, saremmo in grado di produrre nuova conoscenza?

La risposta breve è: no. I computer sono fondamentalmente macchine ‘addizionatrici’ e possono calcolare formule ed equazioni note molto più velocemente di noi. Ma sono pessime nell’attività di scoperta, per la semplice ragione che la possibilità di ingegnerizzare le loro funzioni presuppone già un dominio di interesse scientifico. Spetta agli esseri umani scoprire nuovi fatti e teorie nei diversi domini. Spetta ai data scientists e ai computer elaborare le conseguenze delle nostre scoperte. Chiedere a una macchina addizionatrice di formulare nuove teorie fisiche (ad esempio) è semplicemente pretendere troppo.   

Le macchine intelligenti saranno mai in grado di autoevolvere spontaneamente, mettendo a punto versioni via via più perfezionate di se stesse?

No. Il progetto della versione più complicata dovrebbe essere già contenuto nella macchina più semplice. Perciò, no. Per quanto riguarda l’evoluzione casuale, suppongo si tratti di una possibilità logica, ma di certo non è un percorso breve; non potremo replicare l’intelligenza umana confidando nelle mutazioni casuali nell’arco di un decennio o due. Magari in un milione di anni.

Oggi le macchine intelligenti sono come protesi che, in quanto tali, operano fuori di noi, semplificando i nostri compiti; sarà, tuttavia, possibile in futuro una fusione di elementi umani e artificiali che conduca a una sorta di autoevoluzione della specie umana per via tecnologica?

Sì, questa è certamente una possibilità affascinante. Ma teniamo presente che uno dei vincoli fondamentali della tecnologia è che è sempre proprietà di qualcuno e che viene messa al servizio di qualcun altro. L’autoevoluzione di sistemi umano-artificiali è una ipotesi meravigliosa, ma tali sistemi non potrebbero evolvere prescindendo dagli interessi che governano lo sviluppo della tecnologia. Come potremmo ‘evolovere’ integrandoci con uno smartphone senza che Google abbia (molta) voce in capitolo? Alle persone sfuggono questi punti fondamentali. Sono importanti. La visione più ampia, però, la condivido. Dobbiamo solo liberare risorse perché possiamo sperimentare senza coercizioni questi risultati.

Un grafico e un libro è una nuova rubrica che esce tendenzialmente il venerdì  ma non è detto tutti i venerdì. Come la possiamo definire? Una recensione con didascalia intelligente.  

Le altre recensioni. 

L’inimmaginabile è stato immaginato #ungraficoeunlibro – Info Data (ilsole24ore.com)