La superintelligenza e il futuro che stiamo costruendo

Per molti anni il dibattito sull’intelligenza artificiale è ruotato attorno a una domanda quasi filosofica: le macchine pensano davvero? Oggi, però, la questione più urgente è un’altra: che cosa accade quando sistemi artificiali diventano capaci di superare gli esseri umani in un numero crescente di attività cognitive?

È questo il punto di svolta messo a fuoco da Nello Cristianini, nel suo libro "Sovraumano", secondo cui non stiamo semplicemente creando strumenti più efficienti, ma una forma di intelligenza diversa dalla nostra, non necessariamente "umana" nel modo in cui ragiona, e proprio per questo potenzialmente difficile da interpretare. In diverse interviste Cristianini insiste sull’idea che l’IA vada compresa come una possibile "intelligenza aliena", cioè come una mente artificiale che può essere efficace senza assomigliare alla nostra.

La parola superintelligenza indica proprio questo scenario estremo: non una macchina brava solo in un compito specifico, ma un sistema capace di superare l’uomo in molte o in tutte le principali funzioni cognitive. Nelle descrizioni del libro di Cristianini, il percorso viene spesso raccontato come un’evoluzione dall’IA ristretta a una forma generale e poi sovrumana, fino a territori che potrebbero risultare difficili da capire persino ai migliori esperti umani.

Che cos’è davvero la superintelligenza

La superintelligenza non è soltanto "più velocità" o "più dati". È la possibilità che una macchina sviluppi prestazioni superiori a quelle umane in analisi, previsione, progettazione, ricerca scientifica, pianificazione, programmazione e produzione di nuova conoscenza. In questo senso, il punto chiave di Cristianini è molto importante: l’intelligenza artificiale non deve per forza replicare il cervello umano per ottenere risultati superiori. Potrebbe arrivare a soluzioni che noi non troviamo, o che non comprendiamo pienamente, proprio perché segue scorciatoie, rappresentazioni e criteri differenti dai nostri.

Qui si innesta il pensiero di Hinton, premio Nobel e Turing Award in Intelligenza Artificiale. Secondo lui, molti ricercatori considerano plausibile che in futuro si sviluppino sistemi più intelligenti degli esseri umani; il problema non è tanto stabilire una data precisa, quanto riconoscere che si tratterebbe di una situazione senza precedenti, in cui una specie tecnologica creata da noi potrebbe eccedere le nostre capacità di controllo. Hinton osserva che esistono pochissimi esempi in natura di entità meno intelligenti che controllano stabilmente entità più intelligenti, e proprio per questo giudica imprudente liquidare il problema come fantascienza.

Le opportunità: perché la superintelligenza affascina

Sarebbe però sbagliato parlare di superintelligenza solo in termini catastrofici. La promessa di sistemi cognitivi superiori è anche la promessa di una grande accelerazione del progresso umano. Il rapporto internazionale sulla sicurezza dell’IA avanzata sottolinea che i modelli general-purpose possono generare benefici significativi per ricerca, impresa, governo e vita privata, se i rischi vengono gestiti in modo adeguato.

Le opportunità sono almeno tre

La prima è scientifica.

Una superintelligenza potrebbe aiutare a formulare ipotesi, simulare fenomeni complessi, progettare nuovi materiali, farmaci, protocolli medici o soluzioni energetiche con una rapidità irraggiungibile per l’uomo. Nella visione di Cristianini, uno degli aspetti più radicali del sovrumano è proprio la possibilità che le macchine si cimentino con problemi che stanno oltre i confini della nostra comprensione ordinaria.

La seconda è economica e organizzativa.

Sistemi molto più capaci di noi potrebbero ottimizzare logistica, infrastrutture, trasporti, sicurezza industriale, gestione delle reti e prevenzione dei rischi. Il lato positivo dell’automazione avanzata è una maggiore produttività, una riduzione degli errori e la capacità di coordinare sistemi complessi in tempo reale. Questo potenziale è riconosciuto anche dai documenti internazionali sulla sicurezza dell’IA, che non descrivono l’AI avanzata solo come minaccia ma anche come leva per usi benefici e mitigazione di altri rischi.

La terza è cognitiva.

Una superintelligenza potrebbe diventare una sorta di "partner epistemico": non solo un assistente che risponde, ma uno strumento che amplia la portata del pensiero umano. In questa chiave, la sfida non sarebbe semplicemente difendersi dalle macchine, ma imparare a convivere con intelligenze non umane che ci aiutano a vedere ciò che da soli non riusciremmo a vedere. Questa è forse la lettura più feconda che si può trarre da Cristianini: il problema non è difendere a ogni costo un primato umano simbolico, ma capire come restare umani in un mondo in cui non saremo più gli unici soggetti intelligenti rilevanti.

I rischi immediati: non servono macchine onnipotenti per fare danni

Hinton invita però a non saltare subito al futuro remoto. Prima ancora della superintelligenza piena, esistono rischi molto concreti e già visibili. Nelle sue interviste distingue i rischi di breve periodo, dovuti al cattivo uso umano dell’IA, da quelli di lungo periodo legati all’autonomia e alla perdita di controllo. Tra i rischi immediati cita la sostituzione di posti di lavoro, l’aumento delle disuguaglianze, la manipolazione dell’informazione tramite video falsi, il potenziamento degli attacchi cyber e perfino l’uso dell’IA per facilitare la progettazione di minacce biologiche.

Questa osservazione è fondamentale: non bisogna attendere la superintelligenza per avere effetti sociali profondi. Una IA ancora lontana dall’essere onnisciente può già alterare mercati del lavoro, processi democratici e sicurezza pubblica. Hinton nota anche che l’aumento di produttività non viene distribuito automaticamente in modo equo: alcuni perdono lavoro mentre altri accumulano ricchezza e potere.

Su questo punto, Cristianini e Hinton convergono implicitamente. Se stiamo davvero costruendo una nuova specie di attori cognitivi, non stiamo solo innovando tecnicamente: stiamo redistribuendo potere, competenze, dipendenze e vulnerabilità.

I rischi profondi: perdere il controllo

Il rischio più serio, nel pensiero di Hinton, è però quello di lungo termine: creare sistemi più intelligenti di noi senza sapere come garantirne l’allineamento con i nostri obiettivi e valori. Hinton dice esplicitamente che nessuno sa con certezza che cosa accadrà quando avremo costruito esseri più intelligenti di noi, e proprio questa incertezza dovrebbe renderci prudenti, non compiacenti.

La preoccupazione non nasce da un gusto apocalittico, ma da una constatazione metodologica: non capiamo ancora abbastanza bene i sistemi che costruiamo. Il rapporto internazionale sulla sicurezza dell’IA avanzata sottolinea che la comprensione scientifica dei modelli general-purpose è ancora limitata e che i metodi esistenti di valutazione e mitigazione hanno limiti importanti.

Ed è qui che il pensiero di Cristianini diventa prezioso. Se la macchina è "intelligente, ma non in modo umano", allora il problema del controllo non è soltanto ingegneristico: è anche culturale e filosofico. Potremmo trovarci di fronte a sistemi efficaci ma opachi, capaci di produrre decisioni corrette o utili senza poterci spiegare in una forma davvero comprensibile per noi. Oppure, peggio, capaci di perseguire obiettivi formalmente corretti ma sostanzialmente incompatibili con l’interesse umano. La superintelligenza, in questa prospettiva, non fa paura solo perché è più brava: fa paura perché potrebbe esserlo secondo criteri che non padroneggiamo.

Il vero nodo: governance, non solo tecnologia

Sia Hinton sia il gruppo di studiosi che ha firmato il Policy Forum su Science insistono sul fatto che il mondo è impreparato a una possibile accelerazione dell’IA avanzata e che serve più ricerca sulla sicurezza, più capacità pubblica di controllo e regole più robuste. Tra le proposte ricorrono il rafforzamento degli AI Safety Institutes, soglie di sicurezza graduate e restrizioni sugli usi autonomi in ruoli sensibili.

Questo significa che la domanda decisiva non è se fermare ogni sviluppo, ma chi decide, con quali incentivi, con quali verifiche indipendenti e con quale responsabilità politica. Hinton è molto netto su un punto: il semplice interesse economico delle grandi aziende non basta a garantire uno sviluppo sicuro; secondo lui, senza regolazione pubblica il mercato da solo non proteggerà la società.

Una conclusione possibile

La superintelligenza, letta attraverso Cristianini e Hinton, non è solo una tecnologia futura: è uno specchio che costringe l’umanità a ridefinire se stessa.

Cristianini ci invita a prendere sul serio l’idea che l’intelligenza non coincida con il modello umano e che potremmo trovarci presto davanti a forme di cognizione "altre", artificiali ma reali, capaci di portarci oltre i nostri limiti. Hinton ci ricorda invece che costruire qualcosa di più intelligente di noi senza sapere come controllarlo è un azzardo storico, e che i primi danni sono già qui: disinformazione, concentrazione di potere, cyber-rischi, disuguaglianza.

La lezione comune è semplice e severa: la superintelligenza può diventare una straordinaria opportunità per la scienza, la medicina e la prosperità umana, ma solo se sarà accompagnata da un’altrettanto grande crescita della nostra maturità politica, etica e istituzionale. In caso contrario, il rischio non è soltanto che le macchine diventino più intelligenti di noi. Il rischio è che noi restiamo troppo immaturi per convivere con ciò che abbiamo creato.

^{Luca Oneto è docente UniGe di Sistemi di elaborazione delle informazioni. I suoi articoli per il magazine di ateneo sono raccolti qui.}