BBC kisérlet
A BBC egy kísérletet tett, hogy mennyire meggyőző egy mesterséges intelligencia által generált hang egy emberi hanghoz képest. Ehhez megkérték Conor Grennant, a New York University Stern School of Business vezető mesterséges intelligencia-fejlesztőjét, hogy készítsen hangpárokat, amelyek rövid szövegrészleteket olvasnak fel.
Az egyik Lewis Carroll klasszikus meséjének, az „Alice Csodaországban” címűnek egy részletét olvasta fel Grennan, a másik pedig egy ugyanilyen szegmens volt, amelyet az ElevenLabs szoftvercég AI beszédklónozó eszközével generáltak. Meglepő módon az emberek fele, akiknek lejátszottuk a klipeket, hallás alapján sem tudta megállapítani, hogy melyik melyik. Érdemes megjegyezni, hogy kísérlet távolról sem volt tudományos, és a klipeket nem csúcskategóriás audioberendezésen hallgattuk - csak a tipikus laptop- és okostelefon-hangszórókon.
Steve Grobman, aki a McAfee kiberbiztonsági vállalat technológiai igazgatója, nehezen tudta megkülönböztetni, hogy melyik hang emberi, és melyik mesterséges intelligencia, pusztán a fülével hallgatva. „Határozottan voltak olyan dolgok, amelyek túlmutattak a beszéden, mint például a belégzés, amelyek miatt inkább az emberi hang felé tendáltam, de a hanglejtés, az egyensúly, a hangszín a mesterséges intelligencia felé terelt” - mondja. A képzetlen emberi fül számára sok ilyen dolgot nehéz lehet érzékelni.
Az emberi hang
„Az emberek nagyon rosszak ebben” - mondja Grobman, és elmagyarázza, hogy a deepfake detektáló szoftverek segítenek elkapni azokat a dolgokat, amelyeket az emberi fül nem vesz észre. De különösen nagy kihívást jelent, amikor a rossz céllal hamis hanggal manipulálják a valódi hangot - mondja, és rámutat egy videóra, amelyen a Microsoft társalapítója, Bill Gates egy kvantumos mesterséges intelligencia részvénykereskedelmi eszközt reklámoz. Az emberi fül számára a hang pontosan úgy hangzott, mint a technológiai milliárdosé, de egy átverésosztályozó programmal lefuttatva a hangot mély hamisítványnak minősült.