Když vám zavolá „dcera“. Jak umělá inteligence mění internetové podvody

Ještě před několika lety připomínaly internetové podvody spíš špatně přeložené e-maily nebo SMS s gramatickými chybami. Dnes s rozvojem technologií se také šíří nové praktiky podvodníků, kteří mají k dispozici nástroje, které během několika sekund vytvoří věrohodný hlas, falešné video nebo fotografii. Cíl je však stále stejný – vyvolat silné emoce, přimět oběť jednat bez přemýšlení a tím z nich vylákat osobní údaje s myšlenkou krádeže. 

Odborníci upozorňují, že s rozvojem generativní umělé inteligence přibývá i případů podvodů založených na hlasových klonech a deepfake videích. 

Jak funguje klonování hlasu pomocí AI? 

Rodiče dnes běžně sdílejí videa z narozenin, školních besídek nebo rodinných výletů. Nejde přitom jen o fotografie. Každé video obsahuje také hlas dítěte. 

Teď ale AI dokáže z několika sekund nahraného hlasu vytvořit jeho velmi věrnou kopii. Stačí krátká nahrávka z videa na sociálních sítích, hlasová zpráva nebo veřejně dostupný záznam. Umělá inteligence následně vytvoří model hlasu, který dokáže říkat libovolný text, přestože jej daný člověk nikdy nenamluvil.  

Právě proto dnes vznikají podvody, při kterých rodiče nebo prarodiče dostanou telefonát od údajného člena rodiny. Volající tvrdí, že měl nehodu, přišel o telefon a potřebuje okamžitě poslat peníze. Největší zbraní podvodníků není samotná technologie, ale časový tlak a emoce. 

To samozřejmě neznamená, že bychom měli přestat natáčet rodinné vzpomínky. Je ale dobré zamyslet se nad tím, komu jsou videa určena. A dodržovat několik zásadních pravidel. 

Co dělat, když zvednu podezřelý telefonát? 

Odborníci z webu staysafeonline.com radí, pokud vám někdo volá jménem člena rodiny a žádá o okamžité poslání peněz: 

• zachovejte klid a nenechte se tlačit k rychlému rozhodnutí,  

• položte otázku, na kterou zná odpověď pouze skutečný člen rodiny,  

• požádejte o bezpečnostní heslo,  

• zavěste a zavolejte danému člověku na jeho běžné telefonní číslo,  

• neposílejte peníze ani osobní údaje, dokud si situaci neověříte jiným způsobem.  

Právě ověření přes jiný komunikační kanál patří mezi nejúčinnější obranu proti AI podvodům.  

Jak přechytračit podvodníky? 

Bitdefender.com uvádí několik jednoduchých tipů, které můžete v rámci své rodiny praktikovat. 

• Domluvte si rodinné bezpečnostní heslo. Tajnou frázi zná jen rodina. Pokud ji volající nezná, hovor ukončete a zavolejte blízkému na jeho běžné číslo. 

• Sdílejte méně osobních informací online. Veřejná videa s hlasem dětí, informace o dovolené nebo rodinných vztazích mohou podvodníkům pomoci vytvořit věrohodný příběh. 

• Nenechte se tlačit k rychlému rozhodnutí. Pokud vás někdo žádá o okamžité poslání peněz nebo citlivých údajů, nejprve si situaci ověřte jiným způsobem. 

• Využívejte zabezpečení banky. Zapněte si upozornění na platby, nastavte limity pro převody a při podezření na podvod banku co nejdříve kontaktujte. 

• Prověřujte neznámá telefonní čísla. Pokud máte pochybnosti, číslo si vyhledejte na internetu nebo v databázích podvodných hovorů a v případě potřeby ho zablokujte. 

• Mluvte o AI podvodech s celou rodinou. Děti i senioři by měli vědět, že dnes už nelze věřit všemu, co slyší nebo vidí. Nejlepší obranou je ověřování informací a zdravá opatrnost. 

Nejde jen o telefonáty 

Hlasové podvody jsou jen jednou částí problému. Stejnou technologií dnes vznikají také falešná videa známých osobností doporučujících investice, podvodné reklamy využívající tváře celebrit nebo videohovory s upravenou podobou člověka. 

Takzvané deepfaky jsou dnes natolik kvalitní, že pouhý pohled nebo poslech už často nestačí k ověření jejich pravosti. 

Umělá inteligence není problém. Rozhoduje, jak ji lidé využijí 

Umělá inteligence sama o sobě není nebezpečná. Naopak přináší mnoho užitečných možností – od pomoci lidem, kteří přišli o hlas, až po překlady nebo asistivní technologie. 

Stejně jako každou jinou technologii ji ale mohou zneužít i podvodníci. Právě proto je důležité mluvit s dětmi i prarodiči o tom, že dnes už nestačí věřit tomu, co slyšíme nebo vidíme. Kritické myšlení, ověřování informací a zdravá opatrnost jsou nejlepší ochranou před podvody (nejen) v době umělé inteligence. 

Klonování hlasu pomocí AI může mít i své výhody 

A to například zachování autenticity při tvorbě mluveného slova do audioknih nebo dialogů do filmu v případě, že nastala změna hlasového „herce“. Ve vzdělávání je možné využívat klonování hlasu k vytváření personalizovaných výukových materiálů, které mohou být přizpůsobeny individuálním potřebám žáků. Technologie také zlepšuje automatizované zákaznické služby. Typickým příkladem je virtuální asistentka Eva, se kterou si můžete popovídat, pokud zavoláte na zákaznickou linku O2.  

AI už dnes velmi hodnotně pomáhá i v medicíně. A to například lidem, kteří přišli o hlas po tracheotomii nebo odstranění hrtanu. Díky umělé inteligenci mohou znovu komunikovat hlasem, který se co nejvíce podobá jejich původnímu. Silným příkladem je Britka Sarah Ezekielová, která kvůli amyotrofické laterální skleróze (ALS) nemohla 25 let mluvit. Umělá inteligence jí dokázala obnovit vlastní hlas z pouhých osmi sekund staré nahrávky na videokazetě, takže ji její rodina mohla znovu slyšet tak, jak si ji pamatovala. Více o jejím příběhu se dočtete na webu Novinky.cz 

AI se dnes využívá také při diagnostice některých onemocnění z lékařských snímků, vývoji nových léčiv nebo jako asistent zdravotníků při péči o pacienty. 

Více o umělé inteligenci, jejích příležitostech i hrozbách se dočtete v našem vzdělávacím portálu. Vysvětlujeme, jak AI funguje, jak se učí, jak bezpečně využívat její možnosti i jak rozpoznat rizika, například „deep nudes“. 

Autor: Monika Ježková, Tým O2 Chytrá škola