I revisori dell’intelligenza artificiale di Big Tech vedranno solo quello che viene loro mostrato

Per essere equi con OpenAI, va ricordato che l’azienda aveva comunque consentito lo svolgimento dei test; tuttavia questa vicenda evidenzia quanto dipenda dalla decisione di una singola impresa la quantità di informazioni che vengono rese disponibili agli esterni.

Un modello di intelligenza artificiale addestrato è, in termini pratici, un file molto voluminoso composto da numeri: la sua produzione può costare oltre 100 milioni di dollari, e chi possiede una copia possiede il modello stesso. Consegnare copie a terzi rappresenta quindi un rischio per la sicurezza intellettuale e operativa.

Questo crea per i valutatori una scelta scomoda che Google DeepMind ha ben descritto: o i tester cedono in anticipo le loro domande, permettendo all’azienda di conoscerle, oppure l’azienda fornisce loro il modello. Entrambe le opzioni sono problematiche per garantire imparzialità e riservatezza.

Il test in doppio cieco e la soluzione di DeepMind

Lo scorso agosto Google DeepMind, insieme al Istituto per la Sicurezza dell’IA di Singapore e ad altri tre gruppi esterni, ha sperimentato un approccio alternativo: il primo test al mondo su un modello di IA condotto secondo il principio del doppio cieco, analogo a quello utilizzato nelle sperimentazioni farmacologiche.

Il test è stato eseguito su macchine con hardware sigillato, in modo che i valutatori esterni non abbiano mai avuto accesso diretto al modello e la compagnia non abbia potuto consultare in anticipo le domande. Entrambe le parti possono poi verificare, con procedure matematiche, che i rispettivi materiali siano rimasti riservati.

Limiti e vulnerabilità dell’hardware

Spostare la fiducia verso l’hardware tuttavia non elimina tutti i rischi. L’anno scorso, dei ricercatori sono riusciti ad aggirare sistemi dello stesso tipo utilizzando attrezzature per meno di 1.000 dollari, pur avendo avuto accesso fisico ai server coinvolti. Questo dimostra che la protezione fisica e la gestione degli accessi restano elementi fondamentali.

Pur non sottovalutando queste vulnerabilità, è importante osservare che il problema dell’hardware violabile è qualitativamente diverso e, in molti casi, meno insormontabile rispetto all’idea di impedire completamente a chiunque di avvicinarsi al modello. Una gestione attenta delle macchine e dei controlli di accesso può ridurre significativamente il rischio.

Implicazioni per aziende, regolatori e investitori

La scelta tra trasparenza e protezione dei modelli ha conseguenze operative e regolamentari. Per le aziende significa bilanciare la necessità di validazione esterna con la tutela della proprietà intellettuale; per i regolatori implica definire standard di audit che proteggano sia la sicurezza sia l’affidabilità dei risultati.

Dal punto di vista del mercato e degli investimenti, la crescente importanza di soluzioni sicure per l’esecuzione e la verifica dei modelli potrebbe favorire la domanda di servizi di attestazione hardware, di tecnologie di Trusted Execution Environment e di provider cloud in grado di offrire garanzie tecniche e contrattuali elevate.

Per le piccole e medie imprese italiane che intendono adottare sistemi di IA, il costo di sviluppo e le complessità legate alla verifica indipendente possono rappresentare barriere d’ingresso, accentuando il ruolo delle grandi realtà tecnologiche. Ciò apre spazi per soluzioni di outsourcing sicuro e per imprese specializzate in cybersecurity e validazione indipendente.

Verso pratiche più robuste

Per mitigare i rischi sul piano pratico sono possibili diverse strategie: uso di hardware con attestazioni crittografiche, revisioni indipendenti dei processi di addestramento, protocolli che permettano verifiche matematiche senza rivelare dati sensibili e regole contrattuali più stringenti sul controllo fisico degli impianti.

Inoltre, standard internazionali e quadri normativi europei potrebbero incentivare l’adozione di pratiche comuni, riducendo l’asimmetria informativa tra grandi fornitori e utilizzatori finali e creando mercati per servizi di certificazione tecnologica.

Conclusione

La sperimentazione del doppio cieco mostra che esistono soluzioni pratiche per conciliare la verifica indipendente dei modelli di IA con la protezione della proprietà intellettuale. Restano però sfide tecniche e organizzative: la sicurezza dell’hardware, la gestione degli accessi e lo sviluppo di standard condivisi sono elementi essenziali per rendere queste pratiche scalabili e affidabili.

In sintesi

• La necessità di bilanciare trasparenza e protezione dei modelli favorisce la crescita di servizi professionali legati all’attestazione hardware e alla verifica indipendente, rappresentando un’opportunità di mercato per fornitori specializzati.
• I costi elevati di sviluppo e la complessità della certificazione possono consolidare il vantaggio competitivo dei grandi operatori tecnologici, spingendo le PMI italiane verso soluzioni di outsourcing sicuro.
• Investire in tecnologie di sicurezza, Trusted Execution Environment e audit crittografici potrebbe essere una strategia difensiva per gli operatori finanziari e tecnologici che vogliono mitigare rischi reputazionali e normativi.
• Un quadro normativo europeo chiaro e standard internazionali condivisi ridurrebbero l’asimmetria informativa, creando mercati più efficienti per servizi di certificazione e aumentando la fiducia degli investitori.