Podle Financial Times se konalo naléhavé jednání, protože Amazon, který loni propustil 30 000 lidí, nyní čelí důsledkům používání AI pro složité programování. Novinám byla zaslana interní zpráva, která odhaluje, že vše není v pořádku, stejně jako e-mailový materiál, přičemž Dave Treadwell, senior viceprezident, je autorem buď poznámky, nebo jednoho z e-mailů, a žádá seniorních inženýrů, aby nyní museli přehlížet a schvalovat jakékoli změny v kódu provedené pomocí AI.
Amazon měl schůzku, aby zjistil, proč jejich systémy zažívají pády, nebo jak se tomu říká "výpadky", přičemž byli vyzváni zkušení inženýři, aby zjistili proč. Generativní AI nese část viny a přímý e-mail zaměstnancům firmy přímo přiznává problémy s "dostupností webu a související infrastruktury". To zahrnovalo 10 000+ zákazníků, kteří nemohli z webu odhlásit platbu, aplikace nefungovala a přímo spadla, a Amazon Web Services údajně sledoval svůj vlastní 13hodinový pád pomocí AI kódování, a nebyl jediný. Podle Financial Times to bylo ve skutečnosti díky umělé inteligenci, konkrétně kódovacímu botovi Kiro od Amazonu. Amazon vydal prohlášení, které to zcela popřelo a místo toho to přičítalo prosté lidské chybě.
Analytici z oboru poukazují na to, že problémy vznikají proto, že AI už není jen nástrojem pro asistenci, ale aktivně provádí změny, které stojí firmy jako Amazon spoustu reálných peněz nebo využívá hodně lidského pracovního času, jako je AI systém Claude, který v několika případech, některé z nedávných vymazali celé databáze během zlomku vteřiny, aniž by zvážili následky.