_ Creșterea terifiantă a „clonării vocii” înșelătorii: cum pot hackerii să folosească inteligența artificială pentru a-ți replica vocea înainte de a efectua apeluri false de panică către prieteni sau familie, rugându-i să trimită bani

Vocile noastre sunt doar despre la fel de unic ca amprentele noastre - deci cum te-ai simti daca vocea ta ar fi clonata?

Un nou tip de deepfake cunoscut sub numele de clonarea vocii a apărut recent luni, în care hackerii folosesc inteligență artificială ( AI) pentru a-ți simula vocea.

Fețe celebre, inclusiv Stephen Fry, Sadiq Khan și Joe Biden au fost deja victime a clonării vocii, în timp ce un CEO fără nume a fost chiar păcălit să transfere 243.000 USD unui escroc după ce a primit un apel telefonic fals. 

Dar cum funcționează și cât de convingător este?

Pentru a afla, am lăsat un hacker profesionist să-mi cloneze vocea - cu rezultate terifiante.

Clonarea vocii este o tehnică AI care le permite hackerilor să înregistreze audio cuiva, să antreneze un instrument AI asupra lor. voce și recreați-o. 

Vorbind cu MailOnline, Dane Sherrets, arhitect de soluții la HackerOne, a explicat: „Acesta a fost folosit inițial pentru a crea cărți audio și pentru a ajuta oamenii care și-au pierdut vocea pentru motive medicale. 

„Dar astăzi, este folosit din ce în ce mai mult de Hollywood și, din păcate, de escroci.”

Când tehnologia a apărut pentru prima dată la sfârșitul anilor 1990, utilizarea sa a fost limitată la experți cu cunoștințe aprofundate despre AI. 

Cu toate acestea, de-a lungul anilor, tehnologia a devenit mai accesibilă și mai accesibilă, până la punctul în care aproape oricine o poate folosi, potrivit domnului Sherrets.  ;

„Cineva cu experiență foarte limitată poate clona o voce”, a spus el. 

„Este nevoie de mai puțin de cinci minute cu unele dintre instrumentele disponibile, care sunt gratuite și cu sursă deschisă.’

Pentru a-mi clona vocea, dl Sherrets avea nevoie doar de un clip de cinci minute în care vorbesc. 

Am ales să mă înregistrez citind un Povestea Daily Mail, deși domnul Sherrets spune că majoritatea hackerilor ar putea pur și simplu să ridice sunetul dintr-un apel telefonic rapid sau chiar dintr-un videoclip postat pe rețelele sociale. 

„Este posibil să o faci în timpul unui apel, dacă există ceva distribuit pe rețelele sociale sau chiar dacă cineva este pe un podcast. Chiar lucruri pe care le încărcăm sau le înregistrăm în fiecare zi”, a spus el. 

Odată ce i-am trimis clipul domnului Sherrets, el l-a încărcat pur și simplu într-un instrument (pe care a ales să nu îl facă nume), care ar putea fi apoi „antrenat” pe vocea mea. 

„După ce am făcut acest lucru, am putut să tastau sau chiar să vorbesc direct în instrument și să-l fac să scoată orice am am vrut ca mesajul să fie în vocea ta”, a spus el. 

„Ceea ce este cu adevărat nebunesc cu instrumentele care există acum, este că pot adăuga inflexiuni suplimentare, pauze sau alte lucruri. care fac ca discursul să sune mai natural, ceea ce îl face mult mai convingător într-un scenariu de înșelătorie.

Deși nu prezenta nicio pauză sau inflexiune adăugată, primul clip al clonei vocii pe care a creat-o dl Sherrets a fost uimitor de convingător. 

Vocea robotului mi-a îndreptat perfect hibridul american-scoțian. accent, așa cum spunea: „Hei, mamă, sunt Shivali. Mi-am pierdut cardul bancar și trebuie să transfer niște bani. Poți, te rog, să trimiți câteva pe contul care tocmai ți-a trimis un mesaj?'

Cu toate acestea, înfiorătoarea a fost luată la un pas în clipul următor, în care domnul Sherrets a adăugat pauze. 

„Spre sfârșit, puteți auzi o pauză lungă, apoi o respirație, iar asta face să sune mult mai natural”, a explicat hackerul profesionist. 

În timp ce experiența mea de clonare a vocii a fost, din fericire, doar o demonstrație, domnul Sherrets evidențiază unele dintre pericolele grave ale tehnologiei. 

„Unii oameni au primit telefoane false de răpire, la care „copilul” lor i-a sunat, spunând „Am fost răpit, Am nevoie de milioane de dolari sau nu mă vor elibera”, iar copilul pare foarte supărat”, a spus el. 

„Ceea ce vedem astăzi, din ce în ce mai mult, sunt oamenii care încearcă să facă mai mult încercări de inginerie socială vizate împotriva companiilor și organizațiilor.

„Am folosit aceeași tehnologie pentru a clona vocea CEO-ului meu. 

„CEO au adesea apariții publice, așa că este foarte ușor de obținut audio de înaltă calitate a vocii lor și clonează-l.

„Având vocea unui CEO, este mult mai ușor să obțineți o parolă rapidă sau accesul la un sistem. Companiile și organizațiile trebuie să fie conștiente de acest risc.’

Din fericire, domnul Sherrets spune că există mai multe semne cheie care indică că o voce este o clonă. 

„Există semne cheie”, a spus el pentru MailOnline.  ;

„Există pauze, probleme în care nu sună la fel de natural și ar putea fi ceea ce numiți „artefacte” în fundal.

„De exemplu, dacă o voce a fost clonată într-o cameră aglomerată și există o mulțime de alți oameni care discută, atunci când acea clonă a vocii este folosită, veți auzi niște gunoi în fundal.”

Cu toate acestea, după cum tehnologia continuă să evolueze, aceste semne vor deveni mai dificil de detectat. 

„Oamenii trebuie să fie conștienți de această tehnologie și să fie constant suspicioși față de orice le cere să acționeze urgent – ​​acesta este adesea un semnal roșu, „, a explicat el. 

„Ar trebui să pună rapid întrebări pe care poate doar persoana reală le-ar ști cu adevărat și să nu le fie frică să încerce să verifice lucrurile înainte de a lua orice măsură.”

Domnul Sherrets vă recomandă să aveți un „cuvânt sigur” cu familia și prietenii dvs. 

„Dacă vă aflați într-adevăr într-o situație urgentă, puteți spune acel cuvânt sigur și ei vor ști imediat că acesta ești cu adevărat tu', a spus el. 

În sfârșit, expertul recomandă să fii conștient de amprenta ta digitală și să fii cu ochii pe suma pe care o încarci online. 

„De fiecare dată când încarc acum, îmi extinde suprafața de atac audio și ar putea fi folosit pentru a antrena AI mai târziu”, a adăugat el. 

„Există compromisuri pe care toată lumea va trebui să le facă, dar este ceva de care trebuie să fii conștient - sunetul tău care plutește acolo poate fi folosit împotriva ta.'

(Fluierul)