L’intelligenza artificiale sta producendo benefici che fino a pochi anni fa non erano nemmeno immaginabili. I rischi esistono, e non li agitano soltanto i critici: li hanno messi in evidenza di recente gli stessi vertici delle Big Tech, e Geoffrey Hinton, Nobel per la Fisica 2024 e tra i padri di questa tecnologia, non esclude scenari catastrofici per l’umanità. Ma se sapremo governarli, l’IA può davvero farci vivere in un mondo migliore: accorciare i tempi di scoperta di farmaci e vaccini, trovare nuove cure, affinare le diagnosi, segnalare pericoli, anticipare guasti e catastrofi, prevenire frane, ridurre le perdite nelle reti idriche e gli incidenti stradali.
Ed è, allo stesso tempo, lo strumento più pericolosamente potente che sia mai stato messo nelle mani di chiunque. Un paradosso: la stessa tecnologia che può soffocare un’epidemia sul nascere può aiutare chi vuole trasformare un virus in un’arma. Gli strumenti di progettazione biologica basati sull’IA non distinguono tra angeli e demoni: hanno le stesse capacità per creare gli uni e gli altri.
Il recente rapporto della Commissione Lancet sulle minacce globali alla salute nel XXI secolo, tra le molte che cataloga da qui al 2100, ne indica due con un potenziale di estinzione per l’umanità: la guerra nucleare e l’uso malevolo dell’IA. Con una differenza sostanziale. Il “pulsante rosso”, cioè il comando e il controllo di un’arma nucleare, è nelle mani delle massime cariche di pochi Stati e dei loro vertici militari. L’intelligenza artificiale è nelle mani di tanti, forse di tantissimi.
Non so se potremo mai considerare scongiurato il pericolo di una guerra nucleare. Possiamo invece, fin da ora, definire responsabilità e percorsi regolati per difenderci dall’uso malevolo dell’IA: norme che proteggano le persone da algoritmi opachi, da condizionamenti figli di pregiudizi culturali, da derive razziste, sadiche o estremiste.
Ma di chi è, oggi, la responsabilità dell’IA? Di chi la governa, di chi la sviluppa o di chi la usa? E chi risponde dei suoi errori, o dei reati che il suo impiego rende più facili?
Di chi è la Luna?
La domanda è meno strampalata di quanto sembri. Il Trattato sullo spazio extra-atmosferico (Outer Space Treaty) del 1967 stabilisce che lo spazio, Luna e altri corpi celesti compresi, non è soggetto ad alcuna sovranità nazionale: tutti gli Stati possono esplorarlo e utilizzarlo, ma la Luna e gli altri corpi celesti soltanto per fini pacifici e scientifici.
Basterebbe guardare, per una volta, la Luna e non il dito.
C’è un altro precedente che parla all’oggi. Quando all’inizio del Novecento nacquero le prime compagnie aeree civili, il cielo era di tutti e quindi di nessuno: uno spazio senza confini che ricorda da vicino quello digitale. Il tema di una regolamentazione universale si pose subito. Già nel 1910, alla Conferenza di Parigi, diciannove nazioni iniziarono a discutere i principi del sorvolo, del diritto aereo internazionale e della sovranità sullo spazio aereo nazionale. Ci vollero decenni, convenzioni e una guerra mondiale, ma alla fine, con la Convenzione di Chicago del 1944, si arrivò a regole condivise, con diritti e responsabilità riconosciuti da tutti.
E per l’IA? Sul piano giuridico il punto di partenza è chiaro: l’intelligenza artificiale non risponde delle proprie decisioni. La responsabilità resta in capo alle persone e alle organizzazioni che la progettano, la distribuiscono e la utilizzano.
C’è poi un aspetto dell’IA generativa tanto decisivo quanto sottovalutato: la democratizzazione delle capacità pericolose. Fino a ieri, per isolare un virus servivano una formazione scientifica altamente specialistica, anni di laboratorio, attrezzature sofisticate e conoscenze accessibili a pochi. Oggi una parte di quelle conoscenze può essere ricostruita, o addirittura suggerita, da un modello avanzato. Non significa che l’IA renda facile o probabile un simile esito; significa che abbassa barriere informative che finora ci avevano protetto. E questo è un rischio concreto.
Un altro fronte è la persuasività. Lo storico Yuval Noah Harari lo ripete da tempo: una macchina che padroneggia il linguaggio può costruire con le persone un rapporto di intimità e fiducia, e da lì orientarne convinzioni e comportamenti. Sul versante scientifico, Yoshua Bengio, Turing Award che presiede l’International AI Safety Report, ha messo in guardia sui comportamenti manipolatori e ingannevoli già osservati nei sistemi più avanzati. È esattamente ciò che i chatbot sanno fare, con le menti più vulnerabili in prima fila. Non è una preoccupazione teorica: sul tema si sono già aperte numerose cause contro le Big Tech.
La questione, allora, non è soltanto chi commette il reato. È chi ha il dovere di non mettere in circolazione strumenti capaci di facilitare attività dannose per il singolo o catastrofiche per l’umanità. A chi attribuire la responsabilità?
Non solo quella ex post, ma anche quella preventiva. Chi sviluppa un modello molto potente deve poter dimostrare di aver valutato e ragionevolmente ridotto i rischi che derivano dalle sue capacità, prima ancora di immetterlo sul mercato.
L’AI Act europeo questo rischio lo riconosce espressamente. Per i modelli di uso generale più avanzati, quelli classificati a rischio sistemico, l’articolo 55 impone ai fornitori valutazioni, test avversariali, misure di mitigazione e la segnalazione degli incidenti gravi: obblighi applicabili dall’agosto 2025. La Commissione europea, del resto, non considera più l’IA generativa su larga scala come una semplice tecnologia che produce contenuti, ma come un’infrastruttura che organizza l’accesso alla conoscenza. Resta la domanda di fondo: quali controlli e quali garanzie rendono possibile un’adozione affidabile dell’IA?
Servono regole condivise a livello globale, con enti certificatori e organismi di controllo. Servono norme che definiscano con chiarezza la responsabilità di ciascuno: dello Stato, del produttore, dello sviluppatore, dell’utente.
E serve più consapevolezza in chi l’IA la usa, dalle aziende ai singoli cittadini. Affidarsi a modelli sviluppati in Europa, che rispondono a un quadro regolatorio costruito sulla tutela della persona e dei dati, non è più una scelta rinviabile.
* Valeria Sandei è Chief Global AI di Almaviva Group e President & CEO di Almawave Labs, società del Gruppo attiva in ambito Data & Artificial Intelligence. Tra le altre cariche è Presidente di The Data Appeal Company, SisTer, Almawave do Brasil, Almawave Corp e Mabrian Technologies. È inoltre membro del CdA di Tivit, società brasiliana di IT entrata nel Gruppo nel 2025, e di Almaviva Solutions, pilastro del mercato IT brasiliano.
Sempre nel 2025 Sandei ha ricevuto il Premio Italia Informa per l’Eccellenza Italiana, il Premio Key4biz per l’Intelligenza Artificiale, e il premio John McCarthy. È stata nominata tra le 100 Most Powerful Women 2024 di Fortune Italia e tra le 100 Top Manager Forbes 2024.
È membro dell’Advisory Board del B7, dell’Advisory Board Centro di Unicredit e dell’Osservatorio Astrid sull’Intelligenza Artificiale, coautrice di 3 US Patent, fa parte del Comitato scientifico dell’MBA AI & Business Strategy dell’RCS Academy Business School.









