Ted Chiang není jen známý spisovatel sci-fi, autor děl jako 'The Story of Your Life' (který byl později adaptován pro kino pod názvem 'Arrival') a antologie 'Exhalation'; Je také jedním z nejbystřejších vizionářů v oblasti vývoje umělé inteligence a jejího zavádění v dnešní společnosti. Jako vizionářský autor jsme měli tu čest a potěšení s ním během Celsia 232 dlouze hovořit v rozhovoru, jehož plnou verzi si můžete přečíst zde.
Ze všech témat, o kterých jsme s Chiangem diskutovali, je možná nejdůležitější a nejodhalující, zda cesta, kterou jsme dnes zvolili ve vývoji umělé inteligence, zůstává stejná jako ta, kterou před lety nastínil ve své práci. Jeho odpověď byla stejně odhalující jako odsuzující:
"Po většinu historie sci-fi byla myšlenka myslících strojů nebo umělé inteligence velmi běžná a lidé se k ní často vraceli. Myslím, že kolem tohoto tématu vždy bylo mnoho zajímavých filozofických otázek. Ale to, co jsme viděli za posledních pět let, s nástupem generativní AI, nemá nic společného s tím, co bylo zkoumáno ve sci-fi. Otázky, které zajímaly sci-fi, se ve skutečnosti nevztahují na situaci, které dnes čelíme.
"Dovolte mi navrhnout způsob, jak se na to dívat.
"Dříve se sci-fi ptal: 'Měli byste nechat stroj, aby rozhodoval?' Myslím, že je to zajímavá filozofická otázka, protože myšlenka stroje, který rozhoduje lépe než lidé (nebo prostě jinak než lidé), vyvolává platné argumenty jak pro, tak proti důvěře v něj. Dnes je však otázka spíš: 'Měli byste nechat Amazon, aby dělal vaše rozhodnutí?'
"Nemyslím, že je to zajímavá filozofická otázka. Myslím, že odpověď je jasně 'ne, neměl bys'. Nemyslím si, že existuje dobrý filozofický argument pro to, aby Amazon dělal vaše rozhodnutí.
"Myslím tím, že generativní AI (software nyní popisovaný jako AI) není myslící stroj. V podstatě je to nástroj korporátní moci. Nemyslím si, že existuje nějaký dobrý filozofický argument pro prosté podřízení se korporátní moci. Je v zájmu firem klást otázky ohledně myslících strojů a naznačovat, že by mohly myslet lépe než vy.
"Ale to teď nemáme. To není situace, které čelíme. Pokaždé, když o těchto myšlenkách mluví, je to jen zástěrka, protože je zajímá posílení své moci nad lidmi.
"Takže si myslím, že je velmi důležité být si uvědomit situaci, ve které se skutečně nacházíme. Situace, ve které se dnes nacházíme, už není ta, o kterou se dříve zajímalo sci-fi. Situace, ve které se nacházíme, je o odporu proti moci korporací."