New School Communications: Keď užívatelia sociálnych sietí nevidia toxický obsah, majú menšiu tendenciu ho sami vytvárať

Spoločnosť New School Communications si za svoj projekt Elfovia.sk odniesla z 23. ročníka Via Bona Slovakia ocenenie v kategórii Spoločensky inovatívna firma. S využitím hybridného modelu ľudskej práce v kombinácii s modernými technológiami usiluje o minimalizovanie dopadu dezinformácií a nenávisti v prostredí sociálnych sietí. Zameriava sa na skrývanie vulgárnych komentárov, nenávistných prejavov v diskusiách pod príspevkami mnohých popredných slovenských médií. So zakladateľom a CEO New School Communucations Gabrielom Tóthom sme sa rozprávali o tom, prečo je dôležité kultivovať internetové diskusie, aj o úspechoch, ktoré má projekt Elfovia na svojom konte.

Stali ste sa víťazom ocenenia Via Bona Slovakia 2022 v kategórii Spoločensky inovatívna firma. Čo pre vás znamená zisk tohto ocenenia?

V prvom rade obrovskú radosť z toho, že naša snaha pomôcť zlepšiť online diskusie a bojovať proti nenávisti a dezinformáciám prináša výsledky. Nejde nám primárne o ocenenia. Ale keď prídu, dodávajú nám energiu a motiváciu. Pripomínajú nám, že naša práca v online prostredí naozaj prináša pozitívnu zmenu a nevnímame to tak iba my.

Prečo je dôležité regulovať obsah diskusií na internete?

Je dôležité pripomenúť si, ako veľmi ovplyvňuje našu spoločnosť to, čo čítame a píšeme na internete. Regulácia obsahu diskusií nie je len o pravidlách, ale o udržiavaní rešpektujúceho prostredia, kde každý môže bezpečne vyjadrovať svoje myšlienky. Nenávistné prejavy, vulgarizmy a iný toxický obsah nielen znepríjemňujú diskusie, ale tiež vytvárajú atmosféru strachu a nepriateľstva.

Aký bol dopad projektu Elfovia.sk od jeho začiatku a čo považujete za najvýznamnejšie úspechy?

Projekt bol natoľko úspešný, že sa tento rok osamostatnil od agentúry New School Communications a vznikol nezávislý startup elv.ai. Vyvinuli sme softvér založený na umelej inteligencii, vďaka ktorému teraz dokážeme moderovať diskusie trikrát rýchlejšie a presnejšie. Postupne našu AI učíme nové jazyky. Už moderujeme desiatky profilov v Čechách, ale naším cieľom je pomáhať po celej Európe. Ak by sme to ale mali zhrnúť v číslach, skontrolovali sme už 17,5 milióna komentárov, z toho 2,7 milióna sme museli skryť, pretože obsahovali vulgarizmy, nenávistné prejavy, dezinformácie alebo spam. Identifikovali sme viac ako 5 000 falošných profilov. Vďaka našej moderácii sme zaznamenali výrazný pokles škodlivého obsahu v diskusiách, čo naznačuje, že keď užívatelia sociálnych sietí nevidia toxický obsah, majú menšiu tendenciu ho sami vytvárať.

Ako projekt reaguje na neustále sa meniace prostredie sociálnych médií a dezinformácie?

Tu zohrávajú neoceniteľnú úlohu naši ľudskí moderátori, ktorí sú neustále v strehu a sledujú najnovšie trendy na dezinformačnej scéne. Títo „elfovia“, ako ich nazývame, nielen pomáhajú a učia našu umelú inteligenciu, ale sú aj zdrojom kritického myslenia. Prehľad o aktuálnej situácii v spoločnosti a na sociálnych sieťach je taký dôležitý pri našej práci, že pre každú krajinu musíme mať lokálnych moderátorov, aby rozumeli národnému kontextu a vedeli tak správne vyhodnotiť obsah diskusií.

Čo bude podľa vás najväčšou výzvou v téme zodpovedného podnikania  v roku 2024?

V prvom rade odlíšiť, čo je reálna snaha pomôcť chrániť planétu či zlepšiť spoločnosť a čo len marketingová snaha vyvolať tento dojem. Zároveň sa slovenské firmy môžu stretnúť s výzvou nastaviť si CSR ciele tak, aby sa vyhli kritike v polarizovanej spoločnosti. Výzvou môže byť aj financovanie CSR/ESG projektov v náročnej ekonomickej situácii. Čokoľvek bude prekážkou, dúfame, že nebude taká veľká, aby firmám zabránila v realizácii takýchto projektov.

Záleží vám na potrebách spoločnosti a usilujete sa prispieť k pozitívnym zmenám? Nominujte aj vy svoju firmu na ocenenie Via Bona Slovakia 2023 v kategórii Spoločensky inovatívna firma. Nominácie uzatvoríme 11. marca 2024.