Ar galima suklastoti balsą lietuviškai: Lukas Keraitis pirmiausia paskambino savo tėčiui

Lukas Keraitis trejus metus ieškojo, kas jam padarytų jo paties balso sintezę. Siūlė programuotojams, siūlė universitetams, niekas nesiėmė. Galiausiai tai padarė lietuvių kompanija, ir dabar jo kompiuteryje yra programa, į kurią įrašius bet kokį tekstą jis nuskamba Luko balsu. Įdomiausia, ką jis padarė pirmiausia.

„Lietuvių kompanija man neseniai padarė mano balso sintezę, tai dabar kompiuteryje turiu programą, į kurią įrašau bet ką ir ji perskaito mano balsu. Tai aš vos tik gavau tą programą, bandžiau savo tėtį apgauti, ir yra video, kur aš iš nežinomo numerio jam skambinu."

10:50 laidoje

Skambutis nepavyko, ir būtent todėl jis įdomus. Tėtis pokalbį nutraukė, nes suprato, kad čia kažkokie apgavikai. Bet istorija tuo nesibaigia.

„Jis pagalvojo, kad čia apgaulė mano balsu. Aš tada jam paskambinau, o jis sako: norėjau tau skambinti, nes čia šakės, kažkas tavo balsu apsimetinėja labai kokybiškai. Sekundę susimėčiau."

12:20 laidoje

Ta sekundė ir yra visa esmė. Keraitis paaiškina ir kodėl atpažinimas buvo įmanomas: modelis apmokytas ant jo laidų įrašų, todėl balsas skamba pernelyg diktoriškai, be kasdienių netikslumų. Tai techninė detalė, kuri taisoma kita versija, o ne principinė riba.

Balsas jam nėra pirmas toks eksperimentas. Anksčiau Keraitis kūrė politikų deepfake vaizdo įrašus, kurie surinko porą milijonų peržiūrų, o po jų į jį kreipėsi vaizdo produkcija: tos pačios technologijos prireikė lietuviško filmo scenoms, kuriose aktoriai turėjo atrodyti kaip dešimtojo dešimtmečio vestuvėse. Taip buvo sutaupyta kaštų. Tas pats įrankis per kelias savaites nukeliavo nuo pramogos iki kino gamybos, ir tuo pačiu keliu jis eina pas sukčius.

Kodėl tai ne technologijų smalsumas

Antra pokalbio dalis paverčia tai kasdienybe. Keraitis sako bendravęs su žmonėmis, kurių šeimose tai jau įvyko.

„Paskambina sukčiai ir sako: jūsų dukra ar anūkė partrenkė prokuroro šunį, dabar duodu ją. Duoda kažkoks balsas, sako: močiute, padėk. Ir sako: atvažiuojam grynų pasiimti. Ir Lietuvoj žinau bent porą įmonių, kur skambino įmonės vadovo balsu ir sakė: perveskit pinigų dabar."

10:09 laidoje

Atkreipkite dėmesį į schemos konstrukciją. Balso reikia labai trumpai ir tik dviem žodžiams, o visą likusį darbą atlieka panika ir skubėjimas. Todėl klausimas, ar sintezė tobula, yra nesvarbus. Klausimas yra, ar jos pakanka penkioms sekundėms, o į tai atsakymas jau yra teigiamas ir lietuviškai.

Kryptis veikia ir į kitą pusę

Tame pačiame pokalbyje Keraitis parodė ir atvirkštinį dalyką. Naujesni modeliai iš vienos nuotraukos ar ekrano vaizdo gana tiksliai atspėja, kur ji daryta: pagal plyteles, pastatų detales ar net logotipo atspindį lange, kurį patys apverčia ir pagerina. Kartu su balso klastojimu tai duoda vieną bendrą pokytį. Anksčiau balsas įrodydavo, kas tu esi, o nuotrauka nieko nesakydavo apie tai, kur esi. Dabar abu dalykai apsivertė.

Tas pats galioja ir dokumentams

Trečias pokalbio sluoksnis yra apie tai, ką atiduodame patys, be jokių sukčių. Keraitis primena, kad įkelti dokumentai naudojami naujiems modeliams apmokyti, o tada gali iškilti visai kitam žmogui. Pavyzdį jis sudėliojo tiesiog ant manęs.

„Įsivaizduokim, kad aš esu podkasteris, mane domina sporto temos ir mano vardas Artūras. Jeigu aš išrašyčiau sąskaitą tokiai įmonei, kaip aš tai padaryčiau? O tu galbūt būsi įkėlęs savo sąskaitą kažkokiai įmonei, ir jisai tarp tų duomenų pasakys: kaip čia panašu į šitą šaltinį, kurį aš turiu, ir išmes PDF tos sąskaitos, kurią tu įkėlei."

1:10:13 laidoje

Jis mini ir realų atvejį, kai atsakyme netyčia iškilo kažkieno Regitros duomenys, ir prieš pusantrų metų buvusią klaidą, kai šone buvo matomos svetimų žmonių susirašinėjimų istorijos. Praktinė taisyklė iš to paprasta: prieš keliant prezentaciją, sutartį ar sąskaitą, jautrią informaciją iš jos verta ištrinti. Ne todėl, kad kas nors tikslingai ieškos jūsų dokumento, o todėl, kad jis gali iškilti atsitiktinai.

Kas man užkliuvo

Man šitas pokalbis buvo asmeniškesnis nei įprastai. Mano balsas yra šimtuose valandų viešų įrašų, ir tai yra tiksliai ta medžiaga, kurios reikia modeliui apmokyti. Kiekvienas, kuris kalba viešai, yra lengviausias taikinys, ir tam nereikia būti garsenybe, pakanka podkasto ar darbo pokalbių įrašų.

Antras dalykas, kurį nešuosi iš pokalbio, yra Keraičio tėčio reakcija. Jis neapsigavo, bet susimėtė. Sukčiams to visiškai užtenka, nes jie neprašo tavęs patikėti visam laikui. Jie prašo suabejoti tada, kai jau reikia veikti.

Ką su tuo daryti

Susitarkite šeimoje dėl vieno žodžio, kurio niekur neskelbiate ir kurio galima paprašyti telefonu. Skambučio, kuriame prašoma pinigų ar skubaus veiksmo, niekada nespręskite to paties skambučio metu: padėkite ragelį ir paskambinkite patys tuo numeriu, kurį turite užsirašę. Ir pasakykite tai tiems savo šeimos nariams, kurie apie balso klastojimą negirdėjo, nes būtent jiems skambina pirmiausia.

Visą pokalbį su Luku Keraičiu galima pasiklausyti čia: https://tapkgeresniu.lt/laida/Qt8Kj9Jbh_Q