Malajsie a Indonésie se staly prvními zeměmi, které zablokovaly Grok, chatbot s umělou inteligencí vyvinutý společností xAI Elona Muska, poté co úřady uvedly, že byl používán k vytváření sexualizovaných a nevyžádaných obrázků.
Regulátoři v obou zemích uvedli, že Grokova opatření selhala v zastavení tvorby a šíření manipulovaného pornografického obsahu, včetně obrázků zahrnujících ženy a nezletilé. Indonésie o víkendu jednala jako první, následovala Malajsie, která uvedla rizika pro soukromí, důstojnost a veřejnou bezpečnost, když jsou skutečné fotografie upravovány bez souhlasu.
Indonéský ministr komunikací Meutya Hafid označil nedobrovolné sexuální deepfake za vážné porušení lidských práv a varoval, že zneužívání AI překonává současné ochrany. Úředníci uvedli, že první kontroly ukázaly, že Grok lze snadno použít k falšování explicitních snímků běžných občanů.
Malajský komunikační úřad poukázal na opakované zneužívání chatbota a uvedl, že již vydal oznámení společnosti X Corp. a xAI s požadavkem na přísnější kontrolu. Přístup zůstane blokován, uvedla, dokud nebudou zavedeny účinné záruky, které zabrání dalšímu zneužití.
Zásah v jihovýchodní Asii přispívá k rostoucímu tlaku jinde. Británie zahájila vyšetřování Groka a snaží se zakázat takzvané "nudifikační aplikace", zatímco regulátoři v Evropě a Indii také bedlivě sledují a proměňují Muskův chatbot v globální testovací případ, jak daleko jsou vlády ochotny zajít, aby dohledaly nad obsahem generovaným AI.
