U nezapamćenom slučaju, koji neki od istraživača nazivaju prvom svjetskom pljačkom sprovedenom uz pomoć vještačke inteligencije, a o kojoj se izvještavalo, lopovi su koristili softver za imitiranje glasa izvršnog direktora kompanije. Na taj način, prevarili su njegovog podređenog da pošalje stotine hiljada dolara na tajni račun, prema navodima osiguravajuće kuće te kompanije.
Generalni direktor britanske energetske kompanije, misleći da mu se nadređeni obraća preko telefona, pratio je naređenja jednog petka popodne u martu i prebacio više od 240.000 dolara na račun u Mađarsku, rekao je predstavnik francuske gigantske osiguravajuće kuće Euler Hermes, koji je odbio da imenuje kompaniju.
Zahtjev je bio prilično čudan, kako je kasnije direktor naveo u mejlu, ali je glas bio toliko sličan ljudskom, pa nije imao šta nego da učini što mu je rečeno. Iz osiguravajuće kuće, čiji je slučaj prvo objavio časopis Vol Strit Džurnal, dali su nove detalje o krađi Vašington postu u srijedu, uključujući i mejl zaposlenog kojeg je prevario, kako ga u osiguravajućoj kući interno nazivaju lažni Johanes.
Ti softveri za sintezu glasa, koje sada razvijaju mnoge gigantske i start ap kompanije iz Silikonske doline, mogu da oponašaju ritam i intonaciju glasa osobe i iskoriste ga da naprave ubjedljiv govor. Tehnološki giganti, kao što su Gugl i manje kompanije poput start apa za kloniranje ultrarealističnih glasova Lyrebird, su pomogli da se usavrše nastali falsifikati i učinili ove alate dostupnijim široj javnosti za besplatno neograničeno korišćenje.
Nove tehnologije i gubitak povjerenja
Međutim, sintetički audio i video snimci nastali pomoću vještačke inteligencije, poznati i kao dipfejk videi su dodatno pojačali zabrinutost o tome kako nove tehnologije mogu da srozaju javno povjerenje, osnaže kriminalce i učine tradicionalnu komunikaciju – poslovne dogovore, porodične pozive, predsjedničke kampanje – toliko izloženom komjuterizovanoj manipulaciji.
Kriminalci će koristiti sve raspoložive alate koji će im omogućiti da postignu ciljeve na najjeftiniji način, rekao je Endrju Groto, saradnik u Centru za sajber politiku na Stenford univerzitetu i šef odsjeka za politiku sajber bezbjednosti u Bijeloj kući tokom Obamine i Trampove administracije.
Ovo je tehnologija koja bi zvučala krajnje egzotično prije 10 godina, a sad se nalazi u dometu svakog laika koji ima viška kreativnosti, dodao je Groto.
Developeri te tehnologije su ukazali na njenu pozitivnu upotrebu, rekavši da ista može pomoći pri humanizaciji automatizovanih telefonskih sistema i pomoći nijemim ljudima da ponovo govore. Ipak, njen neregulisani rast takođe je izazvao zabrinutost zbog potencijala za prevaru, ciljana hakovanja i sajber kriminal.
Najmanje tri slučaja prevare imitiranjem glasa
Istraživači iz firme za sajber bezbjednost Symantec su rekli da su otkrili najmanje tri slučaja u kojima su firme prevarene imitiranjem glasa direktora. Iz kompanije Symantec su odbili da imenuju kompanije koje su bile žrtve ove prevare, kao i da potvrde da li je Euler Hermes među tim slučajevima. Ipak, naglasili su da su gubici u jednom od slučajeva iznosili milione dolara.
Sistemi funkcionišu tako što procesuiraju glas osobe i razlažu ga na komponente, zvukove i slogove koji se kasnije mogu kombinovati kako bi formirali nove fraze sa sličnim obrascima govora, visinom tona i naglaskom. U osiguravajućoj kući nisu znali koji je softver korišćen, ali može se naći mnoštvo besplatnih sistema na internetu koji zahtijevaju jako malo sofisticiranosti, podataka o govoru ili računarskog umijeća.
Lyrebird, na primjer, reklamira najrealističnije vještačke glasove na svijetu i dozvoljava svakome da napravi vokalnog avatara koji imitira glasove tako što će učitati snimljen makar jedan minut realnog govora.
Adaptiranje na sve brži razvoj tehnologija
Kompanija, koja nije odgovorila na zahtjev za komentar, branila je kreiranje softvera govoreći da će to pomoći da se ljudi prilagode novoj stvarnosti tehnologija koje se sve brže i neizbježno razvijaju, kako bi se društvo brže adaptiralo. U etičkom kodeksu, kompanija je napisala Zamislite da smo odlučili da uopšte ne pustimo u rad ovu tehnologiju. Drugi bi je razvili, a ko zna da li bi njihove namjere bile iskrene kao što su naše.
Saurab Šintre, viši istraživač koji proučava slične neprijateljske napade u istraživačkoj laboratoriji Symantec sa sjedištem u Kaliforniji, kaže da je tehnologija za generisanje zvuka posljednjih godina postigla transformativni napredak zbog proboja u načinu na koji algoritmi obrađuju podatke i izračunavaju rezultate. Količina snimljenih govora potrebnih za osposobljavanje alata za imitiranje glasa da proizvedu upečatljive imitacije se naglo smanjuje, izjavio je on.
Tehnologija nije savršena i neki od lažnih glasova ne bi prevarili slušaoca u mirnom, staloženom okruženju, rekao je Šintre. Ali u nekim slučajevima lopovi koriste metode da objasne nedostatke, govoreći da su buka u pozadini lažnog audio snimka, kao i zvukovi koji ukazuju na neki kvar ili odgovori koji kasne rezultat toga što se govornik nalazi u liftu, autu ili žuri da ne zakasni na let.
Stvaranje pritiska – vjekovna taktika obmanjivanja
Pored mogućnosti te tehnologije, lopovi su takođe računali na vjekovne taktike obmanjivanja kako bi povećali svoju efikasnost koristeći vremenski pritisak poput predstojećeg roka ili društvenog pritiska, kao što je želja da se umiri šef, kako podređeni ne bi ništa posumnjao. U nekim slučajevima, kriminalci ciljaju na finansijske čuvare u sektorima za računovodstvo i budžet u kompanijama, znajući da imaju ovlašćenja da odmah pošalju novac.
Kada stvorite stresnu situaciju za žrtve kao što je ova, njihova sposobnost da se na trenutak preispitaju – stani, šta se do đavola dešava? Zašto me zove izvršni direktor? – nestaje, i to lopovima dozvojava da se izvuku, kaže Šintre.
Predstavnici Euler Hermesa kažu da je kompanija, ogranak njemačke energetske kompanije u Britaniji, kontaktirala organe reda, ali još nije imenovala potencijalne osumnjičene.
Iz osiguravajuće kuće, koja prodaje polise preduzećima koja se bave prevarama i sajber kriminalom, su rekli da pokrivaju kompletna potraživanja kompanije.
Direktora, koji je u ovom slučaju bio žrtva, su pozvali u petak popodne u martu, a glas je zahtijevao da on hitno pošalje novac dobavljaču u Mađarskoj kako bi kompanija izbjegla kaznu zbog kasne uplate. Lažni izvršni direktor se obraćao direktoru imenom i poslao mu finansijske detalje mejlom.
Razotkrivena prevara
Direktor i njegov nadređeni su mnogo puta pričali direktno, rekla je predstavnica Euler Hermesa Antje Volters, koja je izjavila da se poziv nije snimao. Softver je mogao da imitira glas, i ne samo glas, već i tonalitet, intonaciju, njemački akcent, izjavila je ona.
Nakon što su lopovi iznijeli drugi zahtjev direktor je posumnjao i pozvao direktno svog šefa. Zatim su lopovi opet pozvali, razotkrivajući prevaru: Lažni Johanes je zahtijevao da priča sa mnom dok sam ja i dalje bio na vezi sa pravim Johanesom!, direktor je napisao u mejlu osiguravajućoj kući, koji je podijelio sa Postom.
Novac od ukupno 220.000 eura je prebačen preko računa u Mađarskoj i Meksiku prije nego što je preusmjeren na razne strane, rekla je predstavnica Euler Hermesa. Nisu imenovani osumnjičeni, kako kažu iz osiguravajuće kuće, a novac je nestao.
Postoji tenzija u komercijalnom svijetu između želje da se napravi najbolji proizvod i razmatranja loših aplikacija koje bi proizvod mogao da ima, rekla je Šarlot Stenton, direktorica kancelarije Carnegie Endowment for International Peace u Silikonskoj dolini. Istraživači moraju biti oprezniji kad stvaraju tehnologiju moćnu kao što je glasovno-sintetička, jer je očigledno došla do tačke kad može biti zloupotrebljena.