AI a lidští moderátoři v boji proti dezinformacím

„Vnímáme, že mediální prostor se výrazně proměnil a potřeba chránit internetové diskuze a sociální sítě před nenávistí roste. V rodném Slovensku monitorujeme a moderujeme diskuze zhruba jedné třetiny mediálního trhu, stejně tak pomáháme řadě významných institucí, které chtějí mít kontrolu nad příspěvky svých online diskuzí: bez dezinformací, hoaxů či nenávisti. Těší nás, že i v České republice jsme našli velmi rychle uvědomělé mediální domy, které považují za svoji povinnost chránit své fanoušky a uživatele před nenávistným a dezinformačním obsahem,“ říká Jakub Šuster, spoluzakladatel a CEO elv.ai.

Slovenský startup původně vznikl jako reakce na hybridní válku a invazi Ruska na Ukrajinu v roce 2022. Jako neziskový projekt jej založila slovenská komunikační agentura New School Communications, která aktivovala lidské moderátory pro filtraci nenávistného obsahu. Jeden moderátor přitom ručně zvládne projít až 300 komentářů za hodinu. První měsíce ovšem ukázaly, že po podobné službě je mezi slovenskými médii a institucemi vysoká poptávka. Proto v květnu loňského roku vyčlenila agentura tuto službu do samostatného startupu, který započal vývoj AI nástroje pro analýzu textu.

Dnes elv.ai sází na kombinaci technologie a lidského faktoru. Vzhledem k dynamice a kontextu jazyka využívá nejen umělou inteligenci, ale i lidské moderátory, kteří AI kontrolují a rozpoznají možné jazykové nuance, které technologie nezachytí. Výsledkem je transparentní odstranění nevhodného a nenávistného obsahu v co nejkratším čase. Podle interních statistik totiž více než 25 % komentářů na sociálních sítích představuje hate speech, hoaxy či dezinformace. Díky unikátní kombinaci AI a moderátorů je jejich počet s využitím elv.ai možné snížit na 3–8 %.

Za elv.ai stojí čtyři spoluzakladatelé: Jakub Šuster, Gabriel Tóth, Ľudovít Ďurman a Milan Dubec. Všechny spojuje nejen zájem o technologie, ale i o politické a veřejné dění. Od zahájení projektu v březnu 2022 bylo díky elv.ai skryto nebo smazáno více než 2 500 000 nenávistných či dezinformačních komentářů z více než 16 000 000 a podařilo se také identifikovat přes 5 000 falešných profilů.

Evropskou expanzi, kterou elv.ai zahájil v České republice, podpořil investiční fond CB ESPRI Impact One sumou 500 tisíc eur. Slovenský fond se zaměřuje na podporu společností a neziskových organizací s pozitivním sociálním dopadem v oblastech ochrany lidských práv a základních svobod či v rámci výchovy, vzdělávání a výzkumu informačních služeb. Do konce roku 2023 investoval až 18,6 milionu eur z Evropského sociálního fondu a soukromých zdrojů.

„Do elv.ai jsme se rozhodli investovat, protože věříme, že kultivace online prostoru vede ke zlepšení společenské atmosféry jako takové. Jako impaktový fond nás zajímá nejen finanční výnos, ale i pozitivní dopad na společnost. Vítáme snahy o využití technologie k zmírnění dezinformačního obsahu na sociálních sítích, které by měly sloužit k propojení lidí, ne šíření nenávisti. Potenciál nástroje elv.ai vidíme nejen na českém a slovenském, ale i na celoevropském trhu,“ uvádí Miroslav Beblavý, CEO fondu CB ESPRI Impact One.

Slovenskému nástroji v současnosti důvěřují renomovaná slovenská média, ale i veřejné instituce. Mezi největší patří televize Markíza a JOJ, rádia Expres a Evropa 2, online magazíny Refresher či Plus Jeden Den. elv.ai v současnosti spravuje kontrolu nad obsahem diskuzí více než 100 profilů pro 30 klientů, včetně Zastoupení Evropské komise na Slovensku. Mezi nové klienty v České republice se nově zařadila televize Prima a vydavatelství Economia.

Od svého spuštění na českém trhu prošlo elv.ai více než 2 069 514 komentárů ze spravovaných 44 profilů svých klientů a partnerů v České republice. Z nich tvořilo nenávistný obsah 504 506 komentářů, což představuje 24% podíl. Oproti průměrnému počtu skrytého obsahu 15 %, které od svého spuštění elv.ai monitoruje, jde v Česku o 9% nárůst.