Politický reklamní prostor Facebooku je stále více hřištěm pro deepfake podvody a klamavý obsah, přičemž někteří z předních inzerentů platformy si vymýšlejí videa amerických politiků, kteří slibují neexistující vládní výplaty.
Letos v létě pozměněná videa tiskové mluvčí Bílého domu Karoline Leavittové tvrdila, že Američané mohou požadovat šeky na pomoc ve výši 5 000 dolarů, a přesměrovala uživatele na stránku nazvanou Get Covered Today. Podobná falešná videa zobrazovala senátory Elizabeth Warrenovou a Bernieho Sanderse, jak dávají stejné sliby. "Tohle není trik," prohlásila Warrenová v imitaci, i když ve skutečnosti tomu tak bylo.
Podle nové analýzy Tech Transparency Project (prostřednictvím The New York Times) představovalo 63 inzerentů používajících takové klamavé taktiky zhruba jednoho z pěti z 300 největších výdajů na politickou reklamu na Facebooku.
Společně spustili téměř 150 000 reklam a za posledních sedm let utratili téměř 49 milionů dolarů. Zatímco mnoho z těchto účtů bylo pozastaveno, více než polovina pokračovala ve zveřejňování nových reklam ještě tento týden.
"Jediná věc, která je horší než tato deepfake videa s umělou inteligencí, která jsou používána k podvodům Američanů, je skutečnost, že Meta na těchto podvodných reklamách vydělává desítky milionů dolarů," řekla senátorka Warrenová a vyzvala k přísnější ochraně spotřebitelů na internetu.
Společnost Meta, která vlastní Facebook, zakazuje reklamy, které se vydávají za úředníky nebo používají klamavé praktiky, tvrdí, že tato pravidla "energicky" prosazuje, a slibuje investice do technické obrany. Kritici však tvrdí, že vymáhání pravidel společnosti je pomalé, z velké části automatizované a reaktivní a spoléhá se na uživatele nebo výzkumníky, kteří podvody označí.
Vzestup nástrojů umělé inteligence usnadnil vytváření klamavých reklam a platformy sociálních médií jsou nyní primárním vektorem online podvodů, které překonávají podvody po telefonu nebo textových zprávách. Federální regulační orgány a vlády, včetně Singapuru, tlačí na společnost Meta, aby zakročila, a vyhrožují pokutami, pokud platforma nebude jednat.
Vzhledem k tomu, že příjmy z reklamy společnosti Meta se blíží 160 miliardám dolarů ročně, analýza projektu Tech Transparency Project naznačuje, že krátkodobý zisk má často přednost před integritou platformy a bezpečností uživatelů.
"Kyvadlo se vychýlilo směrem k více krátkodobým příjmům oproti dlouhodobému zdraví platformy," řekl Rob Leathern, bývalý zaměstnanec společnosti Meta a odborník na online důvěru. "Možná se to v určitém okamžiku bude muset vychýlit na druhou stranu."
