Quello che possono fare con la vostra voce su TikTok è micidiale: può capitare a tutti, allerta massima

Tik Tok sta sperimentando con un tool per i creator che manda un brivido lungo la schiena: il clonatore di voce. Quanto è sicuro?

Qualcuno si è messo a scartabellare dentro le stringhe di codice dell’ultima versione dell’app di TikTok disponibile per gli utenti che possiedono uno smartphone Android.

Una attività che con qualunque app porta sempre qualcosa di nuovo da scoprire. In questo caso AssembleDebug, noto in tutta la rete per essere proprio uno dei cacciatori di codici più affidabili, sembra essere riuscito a trovare qualcosa nella nuova app del social grattacapo di tutta la concorrenza: una funzione che permetterà di creare una copia ideale della propria voce con un clone.

E, neanche a dirlo, tutto grazie all’implementazione dell’intelligenza artificiale sulla piattaforma. Oltre alla novità interessante c’è da chiedersi la sicurezza degli utenti come verrà garantita.

TikTok avrà un tool per clonare le voci in una manciata di secondi

10 secondi. A quanto pare questo è il tempo che dovrebbe essere necessario per permettere alla intelligenza artificiale all’interno di TikTok per imparare il modo in cui un utente parla e creare una copia esatta della sua voce. AssembleDebug è riuscito a far emergere le schermate di questo nuovo servizio e ci permette di leggere quali sono le intenzioni del social di origine cinese e come dovrebbe essere utilizzata la nuova funzione. La prima schermata è quella di accoglienza in cui si legge chiaramente: “crea una versione AI della tua voce in appena 10 secondi! Potrai utilizzarla con il text to speech nei video TikTok“.

Il sistema viene spiegato in altre poche righe: l’utente registra se stesso mentre parla e la registrazione verrà poi processata da TikTok e le informazioni riguardo la voce verranno utilizzate per creare la copia virtuale. Per quello che riguarda la sicurezza di questa copia virtuale della propria voce, la stessa schermata iniziale garantisce che “la tua voce AI sarà privata e potrai cancellarla in qualunque momento” accompagnando le parole con la rassicurante icona di un lucchetto chiuso.

Toccando sul pulsante Continua si viene invitati a leggere i termini della cosiddetta TikTok Voice Library in cui si chiarisce che i termini sono legalmente vincolanti e che sarebbe il caso di fare uno screenshot per poterli tenere sotto mano. Il servizio Voice Library “offre narrazioni text to speech attraverso le voci dei creatori, compresa la tua, su video creati dagli utenti sulla piattaforma di TikTok“. La voce registrata, si legge nei termini di utilizzo, non deve andare a infrangere i diritti di nessuna terza parte. Il che tradotto in termini più facili significa che la piattaforma cercherà di evitare che vengano creati deep fake di personaggi più o meno famosi. Ma forse non è neanche la protezione delle terze parti che dovrebbe preoccuparsi quanto quello che si legge nella sezione dedicata a “Come usiamo la tua voce?”.

Una sezione in cui si chiarisce che la voce può essere utilizzata nei video e nei contenuti ma soprattutto in cui TikTok riconosce che per quanti sforzi la piattaforma farà per “ridurre il rischio che la tua voce Venga venga utilizzata in maniera non corretta e o inappropriata” nessuno può “prevedere, controllare o regolamentare in maniera accurata tutto lo spettro degli utilizzi che potrebbero essere fatti con la tua voce“. Il problema è infatti che nel momento in cui una voce dovesse entrare nella Voice Library in realtà, si legge chiaramente, questa voce può essere utilizzata anche da altri utenti. C’è però, e un altro screenshot lo chiarisce, modo di uscirne in un certo senso richiedendo la cancellazione della propria voce. Anche se questo non produrrà in automatico la cancellazione dei video eventualmente creati da altri con quella stessa voce.