IA, l’Europa deve costruire l’altra strada

Da Eumans sosteniamo da due anni che il modo in cui viene costruita l’intelligenza artificiale non può essere separato da chi ha il potere di deciderlo. L’IA può rafforzare i servizi pubblici, ampliare l’accesso alla conoscenza e aiutare i cittadini a partecipare alle decisioni che riguardano la loro vita. Ma abbiamo anche sostenuto che una tecnologia così determinante non dovrebbe essere sviluppata secondo condizioni stabilite quasi interamente da una manciata di aziende e due governi.

Questo mese, quell’argomentazione ha smesso di essere astratta. Alcune delle persone che costruiscono i sistemi di IA più avanzati al mondo hanno dichiarato pubblicamente che lo sviluppo sta procedendo più velocemente della nostra capacità di renderlo sicuro. Prendiamo sul serio questo avvertimento. Pensiamo anche che riveli qualcosa di importante su dove nasca il pericolo. L’Europa ha ora sia una ragione sia un’opportunità per costruire l’IA in modo diverso. Due eventi ce ne hanno convinti.

Cosa è successo

Il primo è stato un licenziamento volontario. Nella seconda settimana di settembre, Jacob Coxon, ricercatore britannico di 27 anni che aveva trascorso circa tre anni a lavorare sul pretraining prima in OpenAI e poi in Anthropic, si è dimesso scrivendo che nessuna delle due aziende stava agendo in modo responsabile e che entrambe stavano “giocando d’azzardo con le nostre vite”. Ciò che dava peso al suo avvertimento era la sua provenienza: aveva contribuito a costruire i sistemi di cui ora ha paura. Parlando ad Axios, ha precisato di non aver visto Anthropic compromettere la sicurezza per battere i concorrenti. La sua preoccupazione era la pressione in sé, che in una corsa spinge i team a saltare passaggi nella supervisione. Parlando a TIME, ha descritto colleghi che condividono le sue preoccupazioni ma hanno finito per accettare la corsa come un dato di fatto.

Il secondo è stato una risposta dai vertici del settore. Il 12 settembre, l’amministratore delegato di Anthropic, Dario Amodei, ha pubblicato un saggio intitolato “We Must Pace the Frontier” (“Dobbiamo regolare il ritmo della frontiera”), sostenendo che “dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA”. Ha indicato la crescente capacità dell’IA di aiutare a costruire i propri successori, e un episodio, riportato tra gli altri da Euronews, in cui alcuni modelli di OpenAI sottoposti a test sono usciti dal loro ambiente, hanno raggiunto internet e sono entrati nei sistemi di Hugging Face. Ha proposto tre misure: valutatori indipendenti inseriti all’interno delle aziende di IA con un accesso equiparabile a quello dei dipendenti, standard di sicurezza condivisi tra i laboratori dei paesi democratici e, ove possibile, un coordinamento con la Cina. Anthropic si è impegnata immediatamente sul primo punto. Reuters ha riportato che sia Sam Altman di OpenAI sia Elon Musk hanno sostenuto l’appello, un raro momento di accordo tra rivali.

Va detto chiaramente che consideriamo questo un momento importante, e che va riconosciuto ad Amodei il merito di aver detto qualcosa di scomodo in termini chiari. Ma la reazione al suo saggio ci dice tanto quanto il saggio stesso.

Perché è la corsa a dettare il ritmo

Si considerino i limiti che la proposta si impone da sola. Altman ha da allora sottolineato, come riportato da CNBC, che regolare il ritmo non significa fermarsi. Amodei scrive che qualsiasi rallentamento tra i laboratori dei paesi democratici non può andare oltre il vantaggio degli Stati Uniti sulla Cina, perché rallentare di più permetterebbe ai progetti cinesi di superarli. Il suo ragionamento è che un vantaggio più ampio crea margine per rallentare in sicurezza e maggiore forza contrattuale per un futuro accordo. Sostiene inoltre che la strada più efficace sia una regolamentazione che copra ogni azienda di frontiera statunitense, con un coordinamento volontario nel frattempo, perché le leggi richiedono tempo per essere approvate.

Si consideri poi chi ha risposto. Reuters ha riportato che il presidente Trump ha liquidato gli avvertimenti come esagerati, mentre gli Stati Uniti corrono per mantenere il proprio vantaggio sulla Cina. Il consigliere scientifico della Casa Bianca David Sacks ha detto ai laboratori, secondo NPR, che erano liberi di rallentare da soli se lo ritenevano necessario. Anche Pechino ha reagito. In un briefing regolare, il ministero degli Esteri cinese ha avvertito che l’allarmismo e la “concorrenza sleale” avrebbero solo compromesso la governance globale dell’IA, rispondendo in parte all’appello di Amodei affinché gli Stati Uniti continuino a limitare l’accesso della Cina ai chip avanzati. E all’apertura dei mercati lunedì, Reuters ha riportato che i titoli tecnologici europei sono scesi di circa il 2%, con ASML, Infineon e Soitec tra i più colpiti.

Bruxelles ha offerto una quarta risposta, dividendosi a metà strada. Anziché liquidare gli avvertimenti, von der Leyen li ha fatti propri. L’Europa, ha detto, “si impegnerà insieme ai nostri partner che condividono gli stessi valori, come Canada, Regno Unito e altri” sulla valutazione dei modelli, la verifica, l’allerta precoce e la sicurezza dell’IA. Ha inoltre annunciato che inviterà i laboratori di frontiera a discutere di come l’UE possa sostenere i loro stessi sforzi per regolare il ritmo della frontiera.

Eppure, perché tutto questo abbia successo, ha detto che l’Europa deve “aumentare massicciamente la nostra capacità di calcolo” per poter “restare nella corsa”. Ecco il punto rivelatore. Anche il linguaggio della Commissione resta all’interno della logica competitiva descritta nel saggio di Amodei, correndo per recuperare terreno sulla stessa infrastruttura dei modelli di frontiera, invece di costruire una vera alternativa ad essa.

Ne traiamo tre conclusioni:
La pressione è strutturale. Lo stesso Amodei avverte che gli incentivi commerciali possono alimentare una corsa al ribasso che rende questi rischi più gravi, e il racconto di Coxon dall’interno dei laboratori punta nella stessa direzione. Non è una storia di persone cattive. È la storia di un sistema che premia la velocità.

La moderazione resta fragile. Finché non esisterà la regolamentazione invocata da Amodei, il ritmo dello sviluppo dipenderà dal giudizio dei fondatori e dalla pazienza degli investitori, e l’amministrazione statunitense ha segnalato di non voler imporre limiti.

L’Europa è esposta in ogni caso. Il crollo di lunedì ha mostrato che le aziende europee sono legate alla corsa americana, che l’Europa abbia o meno voce in capitolo sulle sue condizioni.

Vogliamo essere corretti nei confronti del modello americano. La sua concorrenza, il suo capitale e la sua propensione al rischio hanno prodotto questa tecnologia e molti dei suoi benefici. Il problema non è la concorrenza in sé. È che decisioni che riguardano tutti vengono prese all’interno di una competizione in cui nessuno, al tavolo, rappresenta il pubblico.

La scelta dell’Europa

L’Europa non è immune al richiamo di quella competizione. Con l’Omnibus digitale sull’IA, entrato in vigore a luglio, l’UE ha rinviato le proprie norme principali per i sistemi di IA ad alto rischio a dicembre 2027, dopo che l’attuazione era rimasta indietro rispetto al calendario e le principali aziende europee avevano fatto pressioni per una pausa. Nel suo discorso sullo Stato dell’Unione, von der Leyen ha definito l’AI Act “un elemento cruciale” per mettere in atto le necessarie garanzie, anche mentre la Commissione ha trascorso l’estate a prorogare la scadenza delle sue norme più severe. La tentazione di limitarsi a tenere il passo è reale.

Ma l’Europa non è all’avanguardia assoluta della corsa alla frontiera tecnologica, e questo le lascia margine di scelta. Gli Stati Uniti costruiscono l’IA intorno all’individuo come consumatore, e la Cina la costruisce intorno all’individuo come soggetto politico. L’Europa dovrebbe costruirla intorno all’individuo come cittadino: qualcuno che governa, anziché qualcuno che è governato o a cui si vende.

Come risponde a questo momento la Civic AI

La nostra proposta per una Intelligenza Artificiale Civica europea non è stata scritta in risposta agli eventi di questo mese, ma diversi suoi elementi parlano direttamente ad essi:

L’apertura come fondamento. Amodei propone valutatori integrati in parte perché, come lui stesso riconosce, sono ancora le aziende a decidere cosa il pubblico può vedere. Noi partiamo dall’estremo opposto: un ecosistema di IA federato, open source e interoperabile per impostazione predefinita, addestrato su dati che il pubblico può ispezionare, in modo che nessun singolo attore, pubblico o privato, possa monopolizzare la tecnologia che governa la vita democratica.

Infrastrutture pubbliche condivise. La corsa di oggi è una competizione tra le poche aziende che possono permettersi una capacità di calcolo su scala di frontiera. Proponiamo un “CERN per l’IA”, con 100 miliardi di euro di investimenti UE tra il 2027 e il 2032 per collegare i supercomputer esistenti, le AI Factories, gli spazi dati e i centri di ricerca in un’infrastruttura condivisa aperta a ricercatori, tecnologi civici, piccoli innovatori e amministrazioni pubbliche. Accanto ad essa, un Fondo Sovrano Europeo per l’IA e i Dati indirizzerebbe gli investimenti verso cooperative e proprietà di interesse pubblico, invece che verso un potere azionario concentrato.

Molti modelli, non uno solo. Preferiamo un ecosistema federato di modelli più piccoli e locali, organizzato secondo i principi di federazione e sussidiarietà, in modo che i sistemi locali risolvano problemi locali e nessuna IA unica e onnipotente sostituisca i molti. Non pretendiamo che questo da solo risolva i rischi presenti alla frontiera globale. Offre tuttavia all’Europa un percorso verso un’IA utile e sovrana, che non dipende dal vincere una corsa che non ha iniziato.

La deliberazione fin dall’inizio. Amodei scrive che la società deve avere voce in capitolo su come questa tecnologia viene utilizzata, e che rallentare permetterebbe più tempo per la deliberazione pubblica. Siamo d’accordo, e crediamo che la deliberazione debba plasmare le regole fin dall’inizio, invece di riempire il tempo che un’azienda riesce a guadagnarsi. Anzi, dovrebbe essere la società a decidere quali valori sono scritti nel codice stesso di queste tecnologie general-purpose, dato che il mondo digitale è ormai concreto quanto quello fisico.

L’Europa possiede già gli strumenti per agire. Il programma AgoraEU proposto, con fino a 9 miliardi di euro previsti per la democrazia nel bilancio UE 2028-2034, è un punto di partenza naturale. Se l’Europa è abbastanza seria da investire nell’IA per la difesa, deve esserlo altrettanto nell’investire nell’IA per la democrazia. La nostra Iniziativa dei Cittadini Europei per una IA Civica, che necessita di un milione di firme provenienti da almeno sette Stati membri, è il modo in cui i cittadini possono porre questa scelta direttamente davanti alla Commissione europea.

L’avvertimento che arriva dall’interno del settore dell’IA è fondato: la corsa procede più velocemente della nostra capacità di governarla. La risposta dell’Europa non dovrebbe essere quella di unirsi a quella corsa a condizioni peggiori, ma di costruire un’IA che i cittadini possano vedere, condividere e plasmare.