Španělské úřady vydaly varování poté, co podvodníci použili AI videa na TikToku k napodobení princezny Leonor, dvacetileté dědičky španělského trůnu, v online podvodu zaměřeném na uživatele sociálních sítí.
Falešné účty ukazují realisticky vypadající videa, kde "Leonor" slibuje tisíce dolarů finanční pomoci výměnou za poplatek několika stovek dolarů předem. Oběti, které zaplatí, jsou pak požádány o další platby, než podvodníci zmizí, uvádí Nadace princezny Asturské.
Zachycený obrázek podvodného videa na TikToku vytvořeného pomocí AI, které tvrdí, že obsahuje princeznu Leonor
Nadace zdůrazňuje, že ani ona, ani princezna Leonor neprovozují žádné programy nabízející peníze, granty nebo osobní finanční pomoc, a všechny takové zprávy označuje za "zcela nepravdivé." Vyšetřování El País (přes The Guardian) zjistilo, že telefonní čísla spojená s podvodem byla vystopována až do Dominikánské republiky, přičemž některá videa přilákala více než milion zhlédnutí.
Navzdory pravidlům TikToku zakazujícím vydávaní se za někoho a podvodné aktivity noviny informovaly, že opakované stížnosti na falešné účty Leonor byly zamítnuty, přičemž platforma uvedla, že obsah neporušuje její pravidla. To poukazuje na rostoucí obavy z podvodů s napodobováním způsobených umělou inteligencí, protože stále realističtější falešná videa ztěžují uživatelům rozlišení oficiálních údajů od sofistikovaných podvodů.
