Deepfake tehnologija napreduje, ali često se koristi u loše svrhe

Deepfake tehnologija, koja vjerno oponaša ljude, nije. Predstavljena je široj javnosti tijekom serije Mandalorian 2019., gdje smo mogli vidjeti mladog Marka Hamilla u ulozi Lukea Skywalkera. Također, nova nije ni umjetna inteligencija. Pa kad se to dvoje spoji, uz mogućnosti kakve postoje danas, nebo je granica.

Posebno se sve skupa populariziralo s krajem 2022. i pojavom ChatGPT-a, koji je besplatno ili jeftino omogućio umjetnu inteligenciju stotinama milijuna ljudi. Time se ujedno pokrenula i utrka ostalih na tržištu jer nitko nije želio zaostajati. Naravno, tehnologija se dodatno razvijala, ali i zloupotrebljavala.

Rizici i aktivne prijetnje potaknute ovom nedavnom proliferacijom AI već su mjesecima istaknuli određeni stručnjaci - poboljšana socioekonomska nejednakost, ekonomske poremećaje, algoritamsku diskriminaciju, dezinformacije, političku nestabilnost i potpuno novo doba prijevara.

Prošla godina vidjela je rastuće slučajeve - u različitim formatima - AI-generirane prevare deepfakeom, neke koje su pokušale izvući novac žrtvama, neke koje su služile izrugati slavne osobe i neke koje su ih pokušale poniziti.

"Prevaranti su pronašli javno dostupne video i audio snimke za oponašanje putem YouTubea, a zatim su koristili deepfake tehnologiju kako bi emulirali njihove glasove i privukli žrtvu da slijedi upute", rekao je stručnjak Baron Chan.

Krajem siječnja su lažne, seksualno eksplicitne fotografije Taylor Swift, postale viralne na društvenim mrežama. Generirane su pomoću Microsoftovog generatora Designer AI. To čak nije nova stvar, na pornostranicama se nešto slično počelo masovnije pojavljivati još 2017.

Nažalost, koliko god tehnologija bila napredna i korisna, oni zlonamjerni okrenut će je u svrhe koje kod ljudi budi averziju, sumnju i odbojnost prema njoj. To je samo još jedan dokaz da uz dolazak novih stvari, treba u startu imati kvalitetne sustave zaštite.