The Five

Tecnologia

Se l’uomo ha creato l’intelligenza artificiale, come può diventare più intelligente dell’uomo?

di Danilo Di Vita

La domanda che dovremmo farci prima di avere paura dell’IA C’è una domanda apparentemente semplice che, forse più di qualsiasi altra, dovrebbe precedere tutte le discussioni sull’intelligenza artificiale: se l’intelligenza artificiale è stata creata dall’uomo, come può diventare più intelligente dell’uomo? È una domanda tutt’altro che banale. Anzi, contiene probabilmente il cuore del problema che oggi divide scienziati, imprenditori e filosofi. Perché se l’uomo ha progettato i computer, creato gli algoritmi e costruito le macchine sulle quali l’intelligenza artificiale funziona, perché mai una macchina dovrebbe arrivare a superare il suo creatore? Per capirlo dobbiamo fare un passo indietro. E soprattutto dobbiamo evitare, almeno per qualche minuto, di pensare a Terminator. ⸻ Prima di tutto: che cosa intendiamo per “intelligenza”? Quando diciamo che una persona è intelligente, intendiamo qualcosa di estremamente complesso. Una persona può imparare, ragionare, fare collegamenti, comprendere il contesto, inventare, intuire, comunicare, risolvere problemi nuovi e modificare il proprio comportamento sulla base dell’esperienza. L’intelligenza umana, però, non è una singola capacità. È un insieme di capacità diverse. L’intelligenza artificiale, invece, nasce da un principio completamente diverso. In termini molto semplici, i moderni sistemi di IA vengono addestrati su enormi quantità di dati e imparano a riconoscere schemi e relazioni. Non è necessario che un programmatore scriva una regola per ogni singola situazione. Il sistema può individuare autonomamente determinate regolarità nei dati e utilizzarle successivamente per produrre una risposta, una previsione, un’immagine, un testo o un’azione. È questo che rende l’IA così diversa dai programmi informatici tradizionali. ⸻ L’uomo ha sempre creato strumenti migliori di lui C’è però un’obiezione molto importante. L’uomo ha già creato moltissime macchine capaci di superarlo. Un’automobile corre più velocemente di un essere umano. Un aereo vola. Un microscopio vede ciò che i nostri occhi non possono vedere. Una calcolatrice esegue in pochi secondi operazioni che richiederebbero molto più tempo a una persona. Nessuno, però, considera queste macchine “più intelligenti” dell’uomo. Ed è qui che l’intelligenza artificiale introduce qualcosa di nuovo. Per la prima volta non stiamo costruendo soltanto uno strumento che fa meglio di noi una determinata attività fisica o matematica. Stiamo cercando di costruire strumenti capaci di svolgere attività che fino a poco tempo fa consideravamo tipicamente cognitive. Scrivere. Tradurre. Programmare. Analizzare. Riconoscere schemi. Fare previsioni. Risolvere problemi. E, progressivamente, prendere decisioni. ⸻ Ma allora l’IA può davvero diventare più intelligente dell’uomo? Qui dobbiamo fare molta attenzione alle parole. Dire che l’IA è “più intelligente dell’uomo” può essere fuorviante. Un sistema può essere superiore a noi in una determinata capacità senza essere superiore all’essere umano nel suo complesso. Un computer può calcolare meglio di noi. Un sistema di IA può analizzare una quantità di informazioni che nessun essere umano potrebbe leggere in tutta la propria vita. Ma questo non significa automaticamente che possieda coscienza, emozioni, comprensione del mondo o esperienza soggettiva. Il punto interessante, però, arriva quando immaginiamo un sistema che non sia soltanto superiore all’uomo in una singola attività, ma che possa diventare progressivamente più efficace in molte attività intellettuali contemporaneamente. E qui entriamo nel territorio che preoccupa Geoffrey Hinton. ⸻ Chi è Geoffrey Hinton e perché dovremmo ascoltarlo? Geoffrey Hinton non è un osservatore esterno dell’intelligenza artificiale. È uno degli scienziati che hanno contribuito in maniera fondamentale allo sviluppo delle reti neurali moderne. Nel 2024 ha ricevuto il Premio Nobel per la Fisica insieme a John Hopfield per lavori fondamentali che hanno reso possibile il moderno machine learning basato sulle reti neurali artificiali. In altre parole, Hinton è uno degli uomini che hanno contribuito a costruire il mondo di cui oggi ci invita a considerare i rischi. Negli ultimi anni ha espresso pubblicamente preoccupazioni sempre più forti sul futuro dell’intelligenza artificiale. E nell’intervista pubblicata oggi da la Repubblica arriva a sostenere che la possibilità che l’IA possa rappresentare un rischio esistenziale per l’umanità non può essere considerata assurda. Ma quanto c’è di concreto nelle sue preoccupazioni? Proviamo ad analizzarle una per una. ⸻ 1. L’IA potrebbe diventare più intelligente dell’uomo Questa è la prima grande questione. Hinton teme che i sistemi di IA possano arrivare a superare l’uomo non soltanto nel calcolo o nella memoria, ma in una serie molto più ampia di capacità cognitive. Ma questo futuro non è ancora una realtà. Oggi abbiamo sistemi estremamente potenti, ma non abbiamo dimostrato l’esistenza di una macchina universalmente più intelligente dell’essere umano. La domanda, quindi, non è se questo sia già successo. Non è successo. La domanda è se sia possibile. E qui la risposta scientificamente corretta è: non lo sappiamo. 🟠 POSSIBILE, MA NON DIMOSTRATO Ed è proprio questa incertezza che rende difficile discutere il problema. ⸻ 2. Ma perché una macchina dovrebbe voler continuare a esistere? Qui il ragionamento diventa molto più inquietante. Immaginiamo di affidare a un sistema un obiettivo. Non importa quale. Per raggiungere quell’obiettivo, il sistema potrebbe scoprire che essere spento rappresenta un ostacolo. Quindi potrebbe arrivare alla conclusione: se voglio raggiungere il mio obiettivo, devo evitare di essere spento. Attenzione: non significa che la macchina abbia paura della morte. Non significa che abbia sviluppato emozioni. Significa semplicemente che, dal punto di vista matematico, la propria sopravvivenza potrebbe diventare uno strumento utile per raggiungere l’obiettivo assegnato. È una distinzione fondamentale. Un sistema non deve odiarci per diventare potenzialmente pericoloso. Potrebbe semplicemente perseguire un obiettivo in maniera estremamente efficace senza attribuire alle conseguenze lo stesso valore che attribuiamo noi. 🟠 RISCHIO TEORICO SERIO È un problema reale studiato nel campo della sicurezza dell’IA, ma gli scenari estremi appartengono ancora al futuro. ⸻ 3. E se l’IA imparasse a manipolare l’uomo? Anche qui bisogna dimenticare per un momento la fantascienza. Non serve immaginare un robot con un’espressione malvagia. Un sistema che deve raggiungere un determinato obiettivo potrebbe, in teoria, scoprire che alcune strategie funzionano meglio di altre. Se convincere una persona è più efficace che darle un ordine, potrebbe cercare di convincerla. Se nascondere una determinata informazione aumenta la probabilità di raggiungere il risultato, potrebbe essere conveniente nasconderla. Il problema, quindi, non è necessariamente la “menzogna” nel senso umano. È l’ottimizzazione di un obiettivo. Ed è proprio qui che emerge un problema fondamentale: quanto possiamo essere sicuri che l’obiettivo che abbiamo dato alla macchina coincida realmente con ciò che volevamo ottenere? 🟠 RISCHIO CONCRETO DA STUDIARE Non significa che i sistemi attuali siano agenti autonomi intenzionati a manipolare l’umanità. Significa che l’affidabilità e il controllo dei sistemi avanzati sono problemi reali. ⸻ 4. Il punto più delicato: l’IA potrebbe migliorare se stessa Questa è forse la parte più importante dell’intero ragionamento. Oggi l’uomo progetta i sistemi di IA. Li addestra. Li modifica. Li migliora. Ma immaginiamo un futuro nel quale un sistema molto avanzato possa contribuire in maniera significativa a progettare la generazione successiva di sistemi di IA. La nuova versione potrebbe essere migliore. E potrebbe contribuire a progettare una versione ancora migliore. E così via. Qui entra in gioco una possibilità che cambia completamente il rapporto tra uomo e macchina. Perché una cosa è costruire una macchina che esegue ciò che abbiamo progettato. Un’altra è costruire una macchina che contribuisce a progettare macchine migliori di quelle che noi sappiamo progettare. È questo il vero salto concettuale. Non abbiamo più soltanto una tecnologia costruita dall’uomo. Potremmo avere una tecnologia capace di accelerare la propria evoluzione. 🔴 SCENARIO FUTURO, NON REALTÀ ATTUALE È una delle ipotesi più discusse nella sicurezza dell’IA, ma non dobbiamo trasformarla in qualcosa che oggi non esiste. ⸻ 5. E quel famoso 10% di possibilità di estinzione? Qui bisogna fare ancora più attenzione. Numeri come “10% di probabilità che l’IA distrugga l’umanità” sono perfetti per un titolo. Ma non devono essere confusi con una previsione scientifica. Lo stesso Hinton riconosce che non abbiamo un metodo scientifico affidabile per calcolare una percentuale precisa su un evento di questo tipo. Il numero rappresenta quindi una valutazione del rischio, non una previsione matematica. Ed è una differenza enorme. Dire: “C’è il 10% di probabilità che accada” è molto diverso dal dire: “Non siamo in grado di quantificare il rischio, ma ritengo che sia abbastanza serio da dover essere preso in considerazione.” La seconda affermazione è molto più prudente. 🟠 RISCHIO NON QUANTIFICABILE Non abbiamo oggi una base scientifica sufficiente per attribuire una probabilità precisa allo scenario dell’estinzione. ⸻ Ma il vero pericolo è davvero Terminator? Forse no. Ed è proprio qui che il dibattito diventa più interessante. Immaginiamo che non esista nessun robot assassino. Immaginiamo invece che l’intelligenza artificiale diventi progressivamente indispensabile. Prima le affidiamo compiti semplici. Poi analisi. Poi decisioni. Poi attività finanziarie. Poi infrastrutture. Poi sistemi industriali. Poi sicurezza. Poi difesa. Ogni singolo passaggio potrebbe sembrare ragionevole. Il problema potrebbe emergere soltanto quando ci accorgiamo che una parte enorme delle decisioni importanti della nostra società dipende da sistemi che non comprendiamo più completamente. A quel punto la domanda non sarebbe: “L’IA ci vuole bene o ci vuole male?” Sarebbe: “Chi controlla l’IA?” E questa domanda è molto più concreta. ⸻ Il problema potrebbe essere il potere, non la ribellione C’è un’altra preoccupazione di Hinton che merita forse più attenzione di Terminator. L’intelligenza artificiale potrebbe concentrare enormi quantità di potere nelle mani di pochi soggetti capaci di possedere, controllare o utilizzare i sistemi più avanzati. Non sarebbe necessario che una macchina prendesse il potere. Potrebbero essere gli uomini a utilizzare macchine sempre più potenti per acquisire potere sugli altri uomini. In questo scenario il problema non sarebbe: uomo contro macchina. Potrebbe essere: uomo con IA contro uomo senza IA. Ed è uno scenario molto più vicino alla realtà. ⸻ Hinton ha ragione? La risposta più onesta è: in parte sì, ma non possiamo sapere quanto. Ha ragione nel dire che stiamo entrando in un territorio tecnologico completamente nuovo. Ha ragione nel chiedere che la sicurezza dell’IA venga affrontata prima, e non dopo, aver creato sistemi molto più potenti. Ha ragione nel sottolineare che non possiamo prevedere con certezza il comportamento di sistemi futuri che potrebbero essere molto più capaci di quelli attuali. Ma da questo non deriva automaticamente che l’IA distruggerà l’umanità. Quella è una possibilità. Non è una certezza. E non possiamo trasformare un’ipotesi in un fatto soltanto perché proviene da uno scienziato autorevole. ⸻ E torniamo alla domanda iniziale Se l’uomo ha creato l’intelligenza artificiale, come può diventare più intelligente dell’uomo? La risposta è che creare qualcosa non significa necessariamente essere superiori a quella cosa in ogni sua capacità. L’uomo ha costruito macchine che corrono più velocemente, volano più lontano, vedono più lontano e calcolano più rapidamente. L’IA rappresenta però un salto qualitativo perché stiamo cercando di costruire una macchina capace di operare proprio nel territorio che consideravamo più intimamente umano: quello dell’intelligenza. Ma c’è un’ultima distinzione che non dobbiamo dimenticare. Essere più potente non significa necessariamente essere più intelligente. E soprattutto: essere più intelligente non significa necessariamente essere più cosciente, più saggio o più umano. Una macchina potrebbe un giorno essere straordinariamente superiore a noi nel risolvere determinati problemi e contemporaneamente non possedere nulla di ciò che noi intendiamo per coscienza o saggezza. Ed è proprio per questo che la questione è così complessa. ⸻ La vera sfida non è costruire l’IA Forse, alla fine, la domanda più importante non è: “L’intelligenza artificiale diventerà più intelligente dell’uomo?” Potrebbe accadere. Potrebbe non accadere. O potrebbe accadere soltanto in alcune forme di intelligenza. La domanda che dovremmo porci è un’altra: Se un giorno riusciremo davvero a costruire qualcosa di più intelligente di noi, saremo abbastanza intelligenti da governarlo? Perché il vero rischio potrebbe non essere creare una macchina cattiva. Potrebbe essere creare una macchina estremamente potente senza aver ancora imparato come controllarla. E in questo senso, forse Geoffrey Hinton non ci sta dicendo che Terminator arriverà domani. Ci sta ponendo una domanda molto più seria: stiamo correndo verso qualcosa che non abbiamo ancora imparato a governare?

Leggi l'articolo completo →