Tajný život moderátorů sociálních sítí

Existuje spousta obsahu, který je považován za příliš násilný, sexuální, urážlivý nebo jiný na to, aby jej bylo možné zobrazit na sociálních sítích. TikTok, Instagram, Facebook, Twitter/X, všechny v různé míře moderují svůj obsah, ale pokud jste si mysleli, že za tím vším stojí nějaký velký počítač, možná byste se měli znovu zamyslet.

Skuteční lidé prosévají obsah nahraný na tyto stránky a zajišťují, že i když možná nikdy neuvidíme hrůzostrašné pohledy, jsou jim vystaveni neustále, denně. BBC hovořila s moderátorem Mojezem z Nairobi o tom, jakou daň si to může vybrat na životě moderátora.

"Pokud si vezmete telefon a pak půjdete na TikTok, uvidíte spoustu aktivit, tanec, víte, šťastné věci," řekl. "Ale v pozadí jsem já osobně moderoval, po stovkách, děsivá a traumatizující videa. Vzal jsem to na sebe. Nechť se postará mé duševní zdraví, aby běžní uživatelé mohli pokračovat ve svých aktivitách na platformě."

I když jsou moderátoři po celém světě, velká část z nich sídlí ve východní Africe a mnoho moderátorů tvrdí, že jejich práce zničila jejich duševní zdraví. Někteří opustili průmysl úplně, zatímco jiní se spojili a vytvořili odbory.

Na modelech umělé inteligence se pracuje, aby toto moderování provedly, ale musí je trénovat lidé, kteří proto budou muset stále vidět hrůzostrašný a urážlivý obsah. Dokud jeden takový nástroj nedokáže dokonale moderovat online prostory, budou lidé v první linii.