Più protezioni e modalità Studio: nasce ChatGPT for Teens di OpenAI

OpenAI rafforza la propria strategia sulla sicurezza dei più giovani con ChatGPT for Teens, una versione di ChatGPT progettata specificamente per gli utenti tra i 13 e i 17 anni. Il nuovo modello introduce protezioni più stringenti, strumenti dedicati allo studio e maggiori possibilità di controllo parentale, con l’obiettivo di adattare l’esperienza dell’intelligenza artificiale alle esigenze e ai rischi specifici dell’età adolescenziale.

La novità si inserisce nel percorso con cui OpenAI sta cercando di affrontare le criticità associate all’utilizzo dei chatbot da parte dei minorenni, in un contesto caratterizzato da una crescente attenzione normativa e legale verso la sicurezza delle piattaforme di intelligenza artificiale.

Come funziona ChatGPT for Teens

ChatGPT for Teens viene attivato automaticamente per gli utenti che, al momento della registrazione, dichiarano un’età compresa tra 13 e 17 anni. Il sistema può inoltre applicare l’esperienza dedicata quando identifica un possibile utente minorenne attraverso i modelli di utilizzo o l’anzianità dell’account.

Molte delle misure di sicurezza previste erano già applicate agli account appartenenti a minorenni. Le restrizioni interessano in particolare contenuti relativi ad autolesionismo, violenza, disturbi alimentari, attività pericolose, conversazioni romantiche o sessuali e sessualità esplicita.

L’obiettivo è creare un ambiente con limiti più rigorosi rispetto all’esperienza standard di ChatGPT, riducendo l’esposizione degli adolescenti a contenuti considerati particolarmente delicati.

Pause, ore di silenzio e modalità Studio

Tra le caratteristiche introdotte figurano promemoria più frequenti per invitare gli adolescenti a interrompere sessioni di utilizzo particolarmente lunghe. Gli avvisi per le pause scattano dopo 90 minuti di attività continuativa all’interno di una finestra di tre ore.

Sono previste anche le cosiddette ore di silenzio, durante le quali il servizio viene oscurato, e specifiche ore di studio. In queste ultime, la modalità Studio viene attivata automaticamente.

La modalità modifica il modo in cui ChatGPT interagisce con gli studenti: invece di fornire immediatamente una soluzione, propone domande guida con l’intento di favorire la comprensione del materiale. Sono inoltre disponibili quiz e visualizzazioni didattiche attraverso cui gli adolescenti possono esercitarsi e verificare quanto hanno appreso.

Il sistema è stato progettato anche per riconoscere i tentativi di aggirare un compito e, in questi casi, riportare l’interazione verso un percorso guidato.

Più limiti nelle interazioni con il chatbot

Le protezioni riguardano anche il rapporto che può svilupparsi tra adolescente e assistente virtuale. ChatGPT for Teens è configurato per evitare di suggerire di possedere sentimenti personali, una propria coscienza o una relazione emotiva con l’utente.

Alcune funzionalità, tra cui la modalità vocale, risultano inoltre disattivate nella versione dedicata ai minorenni.

Questi interventi assumono particolare rilevanza considerando la diffusione dei chatbot tra i giovani. Secondo lo studio del Pew Research Center citato nell’articolo originale, quasi un terzo degli adolescenti americani utilizza quotidianamente chatbot basati sull’intelligenza artificiale.

Il ruolo del controllo parentale

Un altro elemento centrale della nuova esperienza riguarda il controllo parentale. OpenAI consente ai genitori di collegare il proprio account a quello dei figli adolescenti e prevede notifiche in presenza di conversazioni riconducibili ad alcune situazioni considerate ad alto rischio, tra cui autolesionismo e suicidio.

Gli avvisi destinati ai genitori vengono sottoposti al controllo di moderatori umani. Allo stesso tempo, i dettagli specifici dei registri delle conversazioni vengono rimossi con l’obiettivo di tutelare la privacy dell’adolescente.

Per quanto riguarda i disturbi alimentari, OpenAI ha previsto notifiche dedicate, limitando le informazioni condivise e concentrando l’intervento sulle circostanze nelle quali un supporto esterno alla piattaforma può risultare rilevante.

La pressione normativa sulla sicurezza dei minori

Il lancio di ChatGPT for Teens arriva mentre il settore dell’intelligenza artificiale affronta una crescente pressione da parte di autorità e legislatori sulla tutela degli utenti più giovani.

OpenAI è coinvolta in diverse controversie legali, tra cui quella avviata dai genitori di Adam Raine, adolescente di 16 anni morto per suicidio. Secondo le accuse riportate nell’articolo originale, il ragazzo avrebbe utilizzato metodi suggeriti da ChatGPT. Si tratta di accuse oggetto di procedimenti legali e non di conclusioni giudiziarie definitive.

Negli Stati Uniti, la Federal Trade Commission ha inoltre avviato un’indagine sui chatbot di intelligenza artificiale utilizzati come compagni digitali, con particolare attenzione ai potenziali rischi per bambini e adolescenti.

Anche sul piano legislativo il tema sta assumendo maggiore importanza: al Congresso statunitense sono state presentate proposte per regolamentare i chatbot, mentre la California richiede specifiche misure di sicurezza per gli assistenti digitali utilizzati come compagni o confidenti.

Una sfida che riguarda l’intero settore dell’intelligenza artificiale

La protezione dei minorenni non riguarda esclusivamente OpenAI. Le aziende che sviluppano sistemi di intelligenza artificiale generativa sono chiamate sempre più spesso a definire limiti specifici per gli utenti più giovani, analogamente a quanto avvenuto negli anni precedenti con le piattaforme social.

Tra le società citate figura Anthropic, che ha scelto un’impostazione differente limitando l’utilizzo del proprio modello agli adulti.

Per OpenAI, ChatGPT for Teens rappresenta quindi un tentativo di mantenere l’accesso degli adolescenti alla tecnologia introducendo contemporaneamente maggiori protezioni, strumenti educativi e meccanismi di supervisione. La sfida sarà conciliare l’utilità di ChatGPT nello studio e nell’apprendimento con sicurezza, privacy e prevenzione delle interazioni potenzialmente problematiche.

Prospettive per ChatGPT for Teens

L’introduzione della versione dedicata agli adolescenti evidenzia una direzione precisa: differenziare maggiormente l’esperienza dell’intelligenza artificiale in funzione dell’età dell’utente.

Le ore di studio, la modalità Studio, i promemoria per le pause, le restrizioni sui contenuti e gli strumenti di controllo parentale delineano un modello nel quale sicurezza ed educazione assumono un ruolo centrale.

Per OpenAI, le principali sfide riguarderanno l’efficacia delle protezioni, la capacità di individuare correttamente gli utenti minorenni, la tutela della privacy e l’equilibrio tra supervisione e autonomia degli adolescenti, mentre l’intero settore continua a confrontarsi con un quadro normativo in evoluzione.