Cum a ajuns fenomenul Deepfake o armă pentru fraude financiare, propagandă și manipulare
0Mai mult decât o simplă inovație tehnologică, deepfake-ul a devenit un instrument din ce în ce mai puternic de manipulare a realității digitale, făcând granița dintre adevăr și fals aproape invizibilă.
Fenomenul deepfake, o tehnologie sofisticată de manipulare digitală a imaginilor și videoclipurilor, a început să capete amploare și în România, pe măsură ce a devenit mult mai accesibilă și celor care nu sunt profesioniști în domeniul editării foto-video. Chiar dacă inițial a fost perceput ca o inovație tehnologică cu potențial de divertisment, creație artistică și, implicit, satiră, dar nu numai, deepfake-ul a ajuns să fie folosit mai mult ca o armă digitală în escrocherii financiare, fraude online, manipularea opiniei publice și răspândirea informațiilor eronate.
„Când ne gândim la tehnologie – și aici mă refer în special la cei din domeniul filosofiei tehnologiei –, discutăm adesea despre inovații cu utilizare duală. Un exemplu clasic este cercetarea în domeniul energiei nucleare. (...) Granița dintre inovație și amenințare nu este întotdeauna clară. Sigur, intenția din spatele utilizării unei inovații tehnologice este importantă, dar la fel de relevante sunt și consecințele neintenționate, care sunt adesea dificil de anticipat de la bun început. De exemplu, este clar că atunci când cineva creează o imagine, un clip video sau o înregistrare audio cu scopul de a înșela sau extorca bani – așa cum se întâmplă în cazul bine-cunoscutei metode «Accidentul» –, problema nu este inovația tehnologică în sine, ci efectele negative pe care aceasta le poate avea. Totuși, nu este vorba doar despre intenție, ci și despre consecințele neprevăzute ale utilizării acestor tehnologii“, explică Radu Uszkai, cercetător în cadrul Centrului de Cercetare în Etică Aplicată, pentru „Weekend Adevărul“.
Ce este deepfake-ul
Dacă granița dintre inovație și amenințare rămâne una neclară, așa cum subliniază Radu Uszkai, atunci înțelegerea tehnologiei deepfake devine esențială pentru a putea discerne falsul de adevăr, a ne proteja atât în mediul online, cât și viața privată. În acest context, „Weekend Adevărul“ a discutat cu Mihai Rotariu, manager al Direcției Comunicare, Media și Marketing din cadrul Directoratului Național de Securitate Cibernetică – DNSC, despre cum funcționează tehnologia deepfake, cum a evoluat și, mai ales, de ce poate fi atât de ușor de folosit în scopuri malițioase. „Deepfake-ul este, practic, o manipulare digitală a unei înregistrări audio, video sau a unei imagini, realizată cu ajutorul inteligenței artificiale sau al unor programe specializate. Din păcate, atacatorii din mediul online devin din ce în ce mai pricepuți în utilizarea acestei tehnologii pentru a-și perfecționa tacticile de fraudă, în timp ce utilizatorul obișnuit rămâne vulnerabil. Lipsa educației digitale, dar și o anumită relaxare sau dezinteres inexplicabil în ceea ce privește siguranța online contribuie la această problemă“, explică Mihai Rotariu.
Inițial, această tehnologie a fost dezvoltată pentru altfel de domenii, precum industria cinematografică sau crearea de avataruri digitale, însă, în timp a devenit un instrument puternic folosit pentru manipularea informațiilor, propagandă de diverse tipuri sau chiar înșelătorii. Odată cu dezvoltarea din ce în ce mai accelerată a inteligenței artificiale, modalitățile de a crea imagini sau videoclipuri deepfake au devenit mai accesibile și pentru utilizatorii obișnuiți, fără expertiză în editare foto sau video. Dacă la început, pentru crearea unui deepfake realist, aveai nevoie de resurse consistente și cunoștințe tehnice avansate, astăzi există aplicații și platforme online care permit generarea unui astfel de conținut în doar câteva minute. De asemenea, și costurile pentru folosirea acestei tehnologii au început să fie din ce în ce mai reduse, iar ceea ce a urmat a fost o explozie a deepfake-urilor în mediul digital, folosite preponderant pentru fraude financiare, campanii de dezinformare și atacuri asupra vieții private. În acest context, deepfake-ul devine o provocare globală, punând presiune atât pe autorități, cât și pe platformele online pentru a dezvolta soluții de detectare și combatere a conținutului falsificat.
Fraudă, manipulare și propagandă
În România, fenomenul deepfake nu mai este doar o amenințare teoretică, ci o realitate cu implicații serioase. Un exemplu recent îl reprezintă videoclipurile manipulate digital în care persoane publice sunt făcute să promoveze scheme financiare dubioase, devenind astfel un instrument eficient de manipulare a informației și de răspândire a dezinformării. Mihai Rotariu, expert în securitate cibernetică, explică modul în care aceste tehnici sunt folosite pentru a construi povești false și a influența percepția publicului: „Un caz relevant este cel al videoclipurilor în care o personalitate publică pare să ofere sfaturi financiare, conținut care se răspândește rapid pe rețelele sociale. În realitate, vorbim despre un interviu autentic, difuzat inițial la o televiziune din România, care a fost descărcat și manipulat cu ajutorul unor aplicații de inteligență artificială – unele disponibile gratuit. Infractorii cibernetici au modificat complet mesajul inițial, astfel încât, în clipul falsificat, persoana respectivă pare să promoveze un program național de îmbogățire, recomandând insistent investiția într-o anumită companie sau afacere, cu promisiunea unor profituri mari și riscuri minime, într-un timp foarte scurt – de regulă, o lună“.
Dar acesta nu este un caz singular care vizează România. Inclusiv imaginea lui Mugur Isărescu – guvernatorul Băncii Naționale a României – a fost folosită într-un videoclip deepfake de tip fraudă financiară prin care utilizatorii erau îndemnați să investeasă într-o anumită criptomonedă. „Un astfel de caz subliniază cât de important este să verificăm informațiile din mai multe surse înainte de a le crede. Dacă ne gândim la cei din spatele unei astfel de manipulări, lucrurile sunt cât se poate de simple. Scopul era să promoveze o schemă de investiții în criptomonede, iar atacatorii s-au întrebat cine este considerat în România o autoritate în domeniul bancar. Evident, nimeni altul decât guvernatorul BNR. Așa că au creat un deepfake în care acesta «îi convingea» pe oameni să investească. În astfel de situații, putem aplica reguli simple de logică și gândire critică. Să ne întrebăm: A recomandat vreodată Mugur Isărescu o criptomonedă? A avut vreo poziție publică în acest sens? Dacă răspunsul este nu, atunci avem deja un motiv serios de suspiciune“, atrage atenția cercetătorul Radu Uszkai, lector universitar la Academia de Studii Economice.
Realitatea, greu de distins
În ultimii ani, deepfake-urile au devenit mai mult decât niște simple trucaje vizibile cu ochiul liber. Astăzi, unele dintre imaginile și videoclipurile deepfake reușesc să îi păcălească atât pe utilizatorii obișnuiți, cât și pe cei care au un anumit nivel de expertiză în acest domeniu. Granița dintre adevăr și fals devine din ce în ce mai invizibilă. „Unele dintre aceste videoclipuri sunt realizate cu o calitate tehnică foarte bună, fiind dificil de identificat chiar și de către experți. Alteori, însă, manipularea este atât de grosolană, încât un utilizator atent, care își ia câteva secunde pentru a analiza detaliile grafice și audio, își poate da seama că este vorba despre un conținut falsificat“, atrage atenția reprezentantul Directoratului Național pentru Securitate Cibernetică – DNSC, Mihai Rotariu.
Pentru a sprijini utilizatorii în identificarea și combaterea deepfake-urilor, Directoratul Național de Securitate Cibernetică (DNSC) a publicat două ghiduri dedicate acestui fenomen, oferind sfaturi practice atât pentru persoanele fără experiență tehnică, cât și pentru companii, care pot deveni ținte ale unor astfel de atacuri. În plus, DNSC a lansat un test special pentru antrenarea utilizatorilor în recunoașterea deepfake-urilor. Aceste resurse sunt disponibile pe site-ul DNSC, dar și pe platforma sigurantaonline.ro, un proiect național de conștientizare a securității cibernetice, susținut de DNSC, Poliția Română și Asociația Română a Băncilor. „Site-ul sigurantaonline.ro oferă resurse utile pentru testarea și îmbunătățirea nivelului de securitate cibernetică. Utilizatorii pot verifica cât de bine recunosc principalele amenințări din mediul online și pot acumula treptat informații esențiale pentru protecția lor digitală“, explică Mihai Rotariu.
În fapt, cele mai recente date arată că, în ceea ce privește siguranța online, unul dintre punctele slabe ale românilor este tocmai identificarea imaginilor deepfake. Peste 350 de tineri și adulți au participat la un concurs interactiv de siguranță online, organizat în pasajul de la Piața Universității de Ziua Siguranței pe Internet. În urma evenimentului, parte a proiectului național #SiguranțaOnline, s-a constatat că cele mai multe dificultăți întâmpinate de participanți au fost la întrebările despre identificarea imaginilor deepfake, evidențiind astfel provocarea majoră pe care o reprezintă aceste tehnologii pentru utilizatorii.
Se încarcă comentariile...
