Egy iskolaigazgató halálos fenyegetéseket kapott, miután egy hamis hangfelvételen megjelent, hogy mélyen sértő megjegyzéseket tesz. Más esetekben családtagoktól csaltak ki pénzt telefonhívásokkal, amelyekben szeretteik hangklónjait használták.
Azonosítási módszerek
Sherrets azt tanácsolja, hogy dolgozzunk ki más módszereket annak hitelesítésére, hogy valóban azzal a személlyel beszélünk, akinek gondoljuk magunkat. „Otthon ez azt jelenti, hogy családi jelszavakról kell dönteni” - mondja. „A munkahelyen ez azt jelenti, hogy nem utalunk át csak azért, mert hangüzenetet kaptunk a cégünk vezérigazgatójától”.
Spear fishing
Michael McNerney a Resilience kiberkockázat-biztosító cég biztonsági alelnöke, amely az olyan támadásokra terjed ki, mint a „spear fishing”, amikor az alkalmazottakat deepfake hanggal ráveszik a pénz átutalására. Ahogy hallgatta a mintákat, azon kapta magát, hogy megkérdezi: Ez valódi vagy hamis lélegzetvétel? Voltak-e hibák? Túl világos volt, túl tökéletes? A szavakba botlás és a lélegzetvételek nagyon is emberi dolgok, így, ha a dolgok túl tökéletesek, az valójában annak a jele lehet, hogy az AI csak színlel.
A két hangpárunkat hallgatva Harrington és kollégái a Müncheni Egyetem Fonetikai Intézetében szintén nehezen tudták megkülönböztetni a mesterséges intelligencia hangjait, amikor fül alapján hallgatták őket. Számos olyan jellemzőre mutattak rá, amelyeknek segíteniük kellett volna az emberi beszéd azonosításában. A beszédtempó változása gyakran az emberi hang látszólagos ismertetőjegye, de példáinkban az AI hangja valójában úgy tűnt, hogy ezt jobban produkálja, mint az emberi.
Lélegzetvétel
A lélegzetvételeknek is egy másik árulkodó jelnek kellene lenniük. Néhányan azok közül, akiknek lejátszottuk a klipeket, mindkét klipben azonosítottak valami furcsát a légzésben.