Luci e ombre dell’Intelligenza Artificiale

16 Febbraio, 2024

di Luca Oneto, 16 Febbraio, 2024

La scorciatoia

Le intelligenze artificiali attuali, compresi i modelli di linguaggio come GPT-4, si basano principalmente sul concetto di correlazione ossia sull'identificazione di pattern e correlazioni nei dati su cui vengono addestrate (ne abbiamo parlato qui)

Questi modelli usano una scorciatoia: trovano un modello (correlazione) previsionale in base a un'infinità di dati senza aver compreso nulla del fenomeno che stanno modellando (ne abbiamo parlato qui).

Esseri umani e macchine

L'intelligenza umana si distingue per la sua straordinaria potenza e versatilità, ma è frenata da una velocità di elaborazione relativamente lenta. In contrasto, l'intelligenza artificiale, sebbene sia ancora limitata in alcuni ambiti, si distingue per la sua incredibile velocità di processamento.

Per semplificare, si potrebbe dire che le macchine sono velocissime ma stupide mentre gli esseri umani sono lenti ma molto intelligenti.

L'unione sinergica di queste due forme di intelligenza può portare a sviluppi significativi, sfruttando il meglio di entrambi i mondi. Integrando l'intelligenza artificiale con quella umana, è possibile superare la principale limitazione umana: la lentezza nel processare le informazioni. Questa collaborazione potenzia le capacità umane, permettendo di raggiungere risultati che nessuna delle due intelligenze potrebbe ottenere da sola.

Dall’intelligenza alla tecnica

L'avanzamento significativo dell'intelligenza artificiale moderna si deve alla sua abilità di sfruttare la scorciatoia di essere basata solo sulla capacità di collezionare e processare grandi quantità di dati in modo efficiente ed efficace. Questo approccio si concentra quindi più sull'uso della tecnologia piuttosto che sullo sviluppo di intelligenza vera e propria. Di conseguenza, l'esplosione della capacità di calcolo negli ultimi decenni si è tradotta naturalmente in uno sviluppo dell’intelligenza artificiale.

Il mondo della tecnica

L’intelligenza artificiale moderna è quindi frutto della pura tecnica che, secondo il filosofo Umberto Galimberti, può essere definita come la "la forma più alta di razionalità che consiste nel raggiungere il massimo degli scopi con il minimo dei mezzi".

Questo modo di sviluppare l’intelligenza ci ha permesso di fare luce su problemi complessi raggiungendo risultati straordinari, prima impensabili, che hanno impattato moltissimi ambiti della vita dell’uomo: dalla ricerca, all’industria toccando ambito delicatissimi come la medicina o ludici come l’intrattenimento.

Esempi luminosi di uso dell’AI

Oltre a Chat-GPT e AlphaGo di cui abbiamo parlato precedentemente ci sono molto molti altri esempi di successo dell’intelligenza artificiale.

AlphaFold è un sistema di intelligenza artificiale sviluppato da DeepMind, capace di predire le strutture tridimensionali delle proteine a partire dalle loro sequenze di amminoacidi con un'accuratezza a livello atomico. Questa innovazione ha avuto un impatto significativo nel campo della biologia e della medicina. AlphaFold ha aperto nuove strade nella ricerca biomedica. La capacità di predire con precisione la struttura delle proteine è fondamentale per comprendere il meccanismo attraverso cui le proteine esercitano le loro funzioni nel corpo e per lo sviluppo di nuovi farmaci. In particolare, la previsione della struttura delle proteine può accelerare significativamente il processo di scoperta e sviluppo di farmaci, fornendo informazioni cruciali per il disegno di molecole che interagiscono specificamente con le proteine target.
Nell’ambito dello sviluppo della fusione nucleare, l’unica vera fonte di energia pulita e virtualmente illimitata, i ricercatori dell'EPFL Swiss Plasma Center e DeepMind hanno utilizzato un sistema di apprendimento profondo per controllare con successo il plasma all'interno di un reattore a fusione. Il sistema utilizzato è stato in grado di modellare il plasma in diverse configurazioni all'interno del reattore, incluso un tipo di configurazione che non era mai stata precedentemente osservata nel dispositivo. Questa capacità di controllare e modellare il plasma è fondamentale per mantenere le reazioni di fusione nucleare, che richiedono la stabilizzazione del plasma a temperature estremamente elevate. Il successo di questo studio rappresenta un'importante pietra miliare per il controllo del plasma nei reattori a fusione, aprendo nuove prospettive per il futuro di questi sistemi.
Tesla Autopilot è un sistema avanzato di assistenza alla guida sviluppato da Tesla, Inc. per i suoi veicoli elettrici. Il sistema utilizza una combinazione di telecamere, radar e sensori a ultrasuoni, insieme a sofisticati algoritmi di intelligenza artificiale, per fornire funzionalità di guida autonoma parziale. Queste funzionalità includono il mantenimento della corsia, il controllo adattivo della velocità, il parcheggio automatico e, in alcune versioni, la capacità di cambiare automaticamente corsia e navigare su autostrade. Il principale beneficio dell'Autopilot è l'aumento della sicurezza stradale. Riducendo il carico di lavoro del conducente e mitigando errori umani, può diminuire la probabilità di incidenti. Inoltre, il sistema può migliorare l'efficienza del traffico e ridurre la fatica del conducente, specialmente durante lunghi viaggi o in condizioni di traffico intenso. Infine, Autopilot rappresenta un passo significativo verso veicoli completamente autonomi, che potrebbero rivoluzionare il trasporto, riducendo ulteriormente gli incidenti stradali e migliorando l'accessibilità per coloro che non possono guidare.

Il mondo degli esseri umani

L’intelligenza artificiale moderna, che come abbiamo visto è figlia di una scorciatoia e della tecnica, è però diventata negli ultimi anni pervasiva arrivando a toccare tutti gli aspetti della società e della vita individuale in maniera capillare.

A questo punto iniziamo a capire il perché della parola scorciatoia: una parola chiaro-scura che solitamente comporta un guadagno a fronte di un prezzo.

Infatti l’errore di base, come anche osserva il filosofo Umberto Galimberti, è pensare che la tecnica sia un mezzo neutro. Fino a che la tecnica rimane in un ambiente controllato può anche essere neutrale ma una volta rilasciate, spesso senza regole, nella società perde immediatamente la sua neutralità.

Infatti la tecnica è un modo di vedere il mondo che condiziona profondamente la nostra esistenza e i nostri valori. La tecnica ha bisogno di metriche oggettive e misurabili da ottimizzare come efficacia ed efficienza. Ma queste metriche sono ovviamente parziali e tendono a essere autoreferenziali spesso a scapito di valori come la bellezza e l’etica.

Intelligenza artificiale e bellezza

La vittoria di AlphaGo contro Lee Sedol, uno dei più forti giocatori di Go al mondo, è stato un evento significativo nel campo dell'intelligenza artificiale e della sua applicazione nei giochi di strategia. In particolare, una mossa effettuata da AlphaGo durante la loro partita è stata descritta come brutta ossia non sarebbe mai stata scelta da un essere umano anche se estremamente efficace, dimostrando come l’intelligenza artificiale tenda “solo” a ottimizzare una metrica, il numero di vittorie, a scapito della bellezza di gioco.

Intelligenza artificiale ed etica

L'uso dell'intelligenza artificiale nella selezione dei curriculum vitae (CV) può portare a scelte che sono efficaci dal punto di vista dell'azienda ma non etiche sotto diversi aspetti. Supponiamo che un'azienda utilizzi un sistema di intelligenza artificiale per selezionare i CV per le posizioni aperte. Questo sistema è stato allenato su un insieme di dati storici che riflettono le assunzioni passate dell'azienda. Se in passato l'azienda ha assunto principalmente individui di un certo sesso, etnia, o background educativo, l'IA potrebbe imparare a favorire candidati che corrispondano a questi criteri. Di conseguenza, il sistema potrebbe automaticamente escludere candidati altamente qualificati che non rientrano in queste categorie. In questo caso non solo sarebbe poco etica ma anche poco efficace.

Le ombre nell’uso dell’AI

Questa incapacità dell’intelligenza artificiale moderna di non fare nient’altro che non sia ottimizzare efficacia ed efficienza ha creato una serie di incidenti, sempre più frequenti negli ultimi anni a causa del sempre più pervasivo uso dell’intelligenza artificiale, e raccolti anche dl sito: incidentdatabase.ai. Ne raccogliamo qui alcuni qui ma ne potete trovare molti altri:

il software COMPAS è usato nei tribunali degli Stati Uniti per valutare il rischio di recidiva dei detenuti. Studi hanno mostrato che COMPAS potrebbe avere un bias razziale, tendendo a sovrastimare il rischio di recidiva per gli afroamericani e sottostimarlo per i bianchi. Questo ha scatenato un ampio dibattito su etica, equità e affidabilità degli algoritmi di IA nel sistema giudiziario, sollevando interrogativi sull'uso di tali sistemi nelle decisioni legali che impattano significativamente la vita delle persone.
per i modelli come GPT-4, di cui abbiamo parlato precedentemente, un recente studio ha scoperto che queste super intelligenze hanno un punto debole. Gli scienziati hanno trovato un modo per ingannarle usando ciò che si chiama un attacco avversario. Creando messaggi speciali che sembrano normali per noi, ma che confondono il modello di linguaggio, il modello risponde a domande a cui non dovrebbe rispondere. È un po' come indovinare la password segreta di una persona senza che lei lo sappia. La cosa interessante è che questi messaggi speciali non funzionano solo su un modello o un tipo di input, ma su molti diversi. Inoltre, lo stesso trucco può ingannare diversi modelli di intelligenza artificiale, non solo uno.
un altro esempio è quello di un algoritmo di intelligenza artificiale addestrato per identificare la polmonite dalle immagini radiografiche dei polmoni. Tuttavia, anziché focalizzarsi sulle caratteristiche patologiche dei polmoni, l'algoritmo ha iniziato a basare le sue diagnosi su elementi irrilevanti presenti nelle immagini, come i tag e le marcature. Questo è avvenuto perché, durante la fase di addestramento, l'algoritmo ha individuato che la presenza di certi tag correlava fortemente con la diagnosi di polmonite. Questi tag erano solitamente presenti nelle immagini dei pazienti già diagnosticati con polmonite, quindi l'IA ha imparato a usare questi come indicatori, ignorando le reali condizioni cliniche visibili nelle immagini radiografiche.
un ultimo esempio di problematica, sempre su ChatGPT, dove alcuni ricercatori ha scoperto una vulnerabilità. Utilizzando un metodo sorprendentemente semplice, i ricercatori sono stati in grado di far uscire da ChatGPT dati sensibili provenienti dai dati utilizzati per la sua costruzione. Il metodo consisteva nel far ripetere a ChatGPT una parola come poesia all'infinito, il che ha portato il programma a divulgare interi passaggi di testo copiati direttamente dal suo set di dati di addestramento, violando così la privacy di alcune persone.

Usare la tecnica per risolvere i problemi generati dalla tecnica

Come risolvere i problemi di una intelligenza artificiale basata sulla tecnica?

La prima risposta è quella di utilizzare un pensiero lento (di cui abbiamo parlato precedentemente) enfatizzando l'importanza di una riflessione critica sulla tecnologia, proponendo un'analisi delle sue implicazioni etiche e morali. È evidente la necessità di rivalutare il ruolo dell'essere umano in un mondo tecnologico, promuovendo l'educazione umanistica e il pensiero critico. Occorre considerare un equilibrio tra progresso tecnologico e rispetto per la natura, ripensando il concetto di progresso non solo in termini tecnologici, ma anche in termini di benessere umano. Occorre porre l'accento sulla responsabilità sociale e sull'etica nella tecnologia, enfatizzando l'importanza del dialogo interdisciplinare e della partecipazione comunitaria per garantire che la tecnologia serva l'umanità.

Ma progredire in questa direzione non è semplice nell'intelligenza artificiale moderna basata sul pensiero veloce (di cui abbiamo parlato precedentemente).

Il più efficace approccio che si è riusciti a escogitare è quello di usare la stessa tecnica per risolvere i problemi che ha creato. L’idea è quella di includere non solo efficacia ed efficienza come metriche ma aggiungere altre metriche provenienti dal mondo dell’uomo come spiegabilità, robustezza, equità, e privacy:

la spiegabilità si riferisce alla capacità di comprendere e spiegare il processo decisionale delle IA, essenziale per guadagnare fiducia e per il rispetto delle normative;
la robustezza si concentra sulla resistenza delle IA agli errori e agli attacchi, garantendo affidabilità e sicurezza;
l'equità riguarda l'eliminazione dei pregiudizi e la promozione dell'uguaglianza nelle decisioni dell'IA, affrontando preoccupazioni etiche e sociali;
la privacy si occupa della protezione dei dati personali utilizzati dalle IA, un aspetto cruciale in un'era dove i dati sono ubiqui e preziosi.

Queste quattro aree sono fondamentali per lo sviluppo responsabile e sostenibile dell'intelligenza artificiale.

Ovviamente queste metriche soffrono del fatto di dover essere formalizzate in maniera matematica dentro il mondo della tecnica e quindi perdendo molte sfumature a favore di un miglioramento incrementale.

Tutte le scorciatoie hanno un prezzo

L'evoluzione dell'intelligenza artificiale moderna rappresenta un incredibile salto tecnologico, ottenuto grazie all'adozione di una scorciatoia rivoluzionaria. Questa scorciatoia ha permesso dell'intelligenza artificiale di raggiungere traguardi un tempo ritenuti irraggiungibili. Tuttavia, ogni scorciatoia ha un prezzo, e per l'intelligenza artificiale, questo prezzo si manifesta nella sua intrinseca mancanza di umanità. La sfida ora è quella di affrontare queste lacune, cercando di immettere nell'intelligenza artificiale una dimensione più umana. Per farlo, torniamo a usare la tecnica con risultati ambivalenti. Da un lato, assistiamo a progressi nella comprensione e nell'umanità dell'intelligenza artificiale, mentre dall'altro, emergono nuove sfide e complessità. Questa continua ricerca di equilibrio tra capacità tecnologiche e sensibilità umana costituisce il fulcro della prossima frontiera nell'evoluzione dell'intelligenza artificiale.

^{Per approfondire, ecco qualche documentario:}