La nuova ia vocale di Jack Dorsey conquista gli utenti e mette in allarme gli esperti di frodi

Per ora Dessa è presentata come una anteprima di ricerca e non come un prodotto commerciale disponibile al pubblico.

La dimostrazione vocale dell’azienda ha rapidamente attirato attenzione sui social, con utenti che hanno lodato la naturalezza delle interazioni e altri che hanno sollevato dubbi sull’uso improprio della tecnologia.

Alexander Hoff ha dichiarato:

“Non avevo mai sentito nulla di artificiale che sembrasse così… umano.”

Hesamation ha dichiarato:

“Pura roba da fantascienza.”

Changpeng “CZ” Zhao ha scritto:

“Potrebbe essere molto utile per GiggleAcademy. Insegnare ai bambini con le attuali ‘voci AI’ era una sfida.”

Tuttavia le stesse qualità che alcuni hanno trovato impressionanti hanno sollevato preoccupazioni circa il rischio di inganno e frode.

Justine Bateman ha commentato:

“Così si può indurre la gente ad abbassare la guardia.”

Shiv Aroor ha scritto:

“Le chiamate truffa stanno per raggiungere livelli pandemici.”

Origine e struttura aziendale

Dessa è collegata al gruppo Block, che controlla servizi come Square e Cash App, oltre ad attività legate al bitcoin come il wallet Bitkey e l’unità di hardware per il mining Proto.

Il laboratorio di ricerca sull’intelligenza artificiale fa riferimento diretto a Jack Dorsey e include membri provenienti dall’ex startup canadese con sede a Toronto che aveva il medesimo nome, acquisita da Square nel 2020.

Rischi e opportunità

La capacità di sintetizzare voci estremamente naturali apre scenari applicativi significativi, in particolare nell’educazione e nell’accessibilità, ma comporta anche rischi concreti per la sicurezza dei consumatori e la fiducia nei servizi digitali.

Dal punto di vista regolamentare, la diffusione di voci artificiali indistinguibili da quelle umane sollecita interventi su autenticazione, trasparenza e responsabilità. Per le istituzioni finanziarie e le aziende italiane che offrono servizi a distanza, è probabile che si renda necessario rafforzare sistemi di verifica multilivello per prevenire frodi vocali.

Per gli investitori, la maturazione di tecnologie vocali avanzate rappresenta sia un’opportunità che un elemento di rischio: favorisce nuove linee di prodotto in EdTech, assistenza clienti e intrattenimento, ma richiede anche capitale per sviluppare contromisure e politiche di compliance.

Per il mercato italiano, in particolare per le imprese tecnologiche e le banche che puntano sulla digitalizzazione dei servizi, l’avvento di sintesi vocale convincente impone di bilanciare investimenti in innovazione con misure di tutela del cliente e di collaborazione con le autorità competenti.

Implicazioni pratiche

Le aziende che intendono integrare voci generate dall’AI dovranno prevedere chiare informative agli utenti, strumenti di riconoscimento dell’origine del messaggio e soluzioni per certificare l’identità nelle comunicazioni sensibili.

I fornitori di servizi educativi e i produttori di contenuti con interessi in Italia potrebbero trarre vantaggio da collaborazioni con laboratori di ricerca per sviluppare applicazioni etiche e controllabili, trasformando la tecnologia in un asset piuttosto che in un rischio reputazionale.

In sintesi

• L’adozione di sintetizzatori vocali avanzati può stimolare nuove opportunità di mercato in servizi digitali ed educativi, ma richiede investimenti paralleli in sicurezza e verifica per proteggere i consumatori italiani.
• Per gli investitori, le aziende che integrano queste tecnologie in modo responsabile e conformato alle normative potrebbero ottenere vantaggi competitivi, mentre quelle che sottovalutano i rischi reputazionali potrebbero affrontare perdite di valore.
• Il settore finanziario e le piattaforme digitali in Italia dovranno accelerare l’implementazione di sistemi di autenticazione vocale multi-fattore per ridurre il rischio di frodi e mantenere la fiducia degli utenti.