AI: re Carlo III mette in guardia i giganti del tech sui pericoli esistenziali

Re Carlo III ha rivolto un appello alle aziende tecnologiche impegnate nello sviluppo di modelli sempre più potenti di intelligenza artificiale, chiedendo misure per proteggere l’umanità e «non perdere il controllo del nostro destino o delle nostre anime». L’intervento ha aperto il summit convocato a Dumfries House, sede della sua Fondazione in Scozia, dove esperti del settore si sono riuniti per discutere rischi e opportunità.

Re Carlo III ha dichiarato:

«È urgente prendere in considerazione i rischi esistenziali»

Re Carlo III ha aggiunto:

«Lo sviluppo dell’intelligenza artificiale è affascinante e profondamente preoccupante in egual misura. La nostra umanità deve restare sacra».

Al summit erano presenti figure di spicco del mondo tecnologico e della ricerca, tra cui Jensen Huang, presidente e Ceo di Nvidia, Sir Demis Hassabis, cofondatore di Google DeepMind, il sottosegretario responsabile per l’IA Kanishka Narayan, Sarah Friar, Chief Financial Officer di OpenAI, e rappresentanti di Anthropic. Tra i grandi assenti si è notata la mancata partecipazione di Meta.

Era inoltre presente, come inviato speciale di Papa Leone, Padre Paolo Benanti, segnale di un dialogo inedito e stretto tra istituzioni religiose e monarchiche su tematiche etiche legate all’intelligenza artificiale. Secondo quanto emerso, vi è una forte convergenza tra il Vaticano e Buckingham Palace sull’esigenza di rallentare alcuni sviluppi e di adottare regole che orientino l’innovazione al bene comune; in questo quadro è stata citata la recente enciclica Magnifica Humanitas, che pone l’accento sulla necessità di un uso etico e distributivo dell’IA.

Il confronto ha incluso valutazioni sui possibili scenari di rischio, fino a quelli definiti «catastrofici» in assenza di adeguati meccanismi di controllo. Oltre agli aspetti etici, la discussione ha toccato ricadute pratiche: governance internazionale, standard di sicurezza, trasparenza degli algoritmi e responsabilità civile e penale in caso di danni causati da sistemi autonomi.

Dal punto di vista politico e regolatorio, il summit rafforza la pressione affinché governi e organismi sovranazionali definiscano quadri normativi più stringenti. Un impegno condiviso tra attori pubblici e privati potrebbe tradursi in linee guida comuni, esercizi di valutazione del rischio obbligatori e standard per l’addestramento e la certificazione dei modelli su larga scala.

Sul versante economico e di mercato, l’incontro ha implicazioni dirette: una maggiore regolamentazione potrebbe riequilibrare i vantaggi competitivi legati all’accesso a capacità computazionali estreme e ai dati, influenzando il valore relativo delle aziende leader in chip, infrastrutture cloud e piattaforme di modelli generativi. Per gli investitori, si profila un ambiente in cui l’allocazione del capitale terrà conto non solo delle capacità tecniche ma anche della conformità etica e regolamentare.

Per l’Italia e l’Europa, il summit rappresenta un’occasione per rilanciare la propria agenda sull’innovazione responsabile: rafforzare ricerca pubblica, incentivare collaborazione tra università e imprese, e favorire start-up che sviluppino soluzioni spiegabili e controllabili. Allo stesso tempo, va considerata la necessità di politiche attive per la formazione e la riqualificazione dei lavoratori potenzialmente impattati dall’automazione avanzata.

L’obiettivo dichiarato dagli organizzatori è promuovere un dialogo inclusivo tra industria, mondo accademico, istituzioni e rappresentanti religiosi, con l’intento di tradurre le preoccupazioni sollevate in azioni concrete e condivise a livello internazionale.

In sintesi

• Un irrigidimento normativo sui modelli avanzati di intelligenza artificiale potrebbe ridisegnare la catena del valore tecnologica, premiando imprese capaci di dimostrare compliance etica e governance solida.
• Per gli investitori italiani, è opportuno valutare l’esposizione alle società leader in chip e infrastrutture cloud, considerando il rischio regolatorio che potrebbe limitare alcune aree di crescita rapida.
• Le politiche pubbliche europee che incentivano ricerca e formazione possono trasformarsi in vantaggi competitivi per il tessuto produttivo nazionale, favorendo soluzioni più trasparenti e sostenibili.
• Un dialogo multilaterale fra istituzioni, imprese e società civile aumenta le probabilità che lo sviluppo dell’IA persegua obiettivi di coesione sociale oltre che di profitto tecnologico.