Twitter Toxicity

webová aplikace 2019

Webová aplikace měřící škodlivost obsahu, se kterým se člověk setkává v online prostředí.
Je výstupem individuálního zadání na univerzitě, využívá principů strojového učení, Python a JavaScript.

Trávíme víc a víc času online a informace, se kterými se v tomto prostředí setkáváme, ovlivňují naše postoje, myšlení a názory. Na začátku byl předpoklad, že nikdo z nás se nechce obklopovat nezdravými, toxickými, urážlivými nebo nenávistými myšlenkami.

Vzniknul tedy nástroj pro sociální síť Twitter, který po přihlášení uživatele projde jeho profil a identifikuje uživatele, jež na jeho časovou osu publikují vulgární a toxické příspěvky.

Výsledkem je míra “toxicity” každého takového uživatele, která se na obrazovce zobrazí jako zelená bublina (velikost bubliny naznačuje míru toxicity). Na konci se pak zobrazí shrnutí a možnost přestat dané uživatele sledovat, případně sdílet výsledek tohoto testu veřejně.

Zvlášť pro české texty ale není model zdaleka přesný, jde spíše o cvičení a experiment. Jak aplikace vypadá a funguje lze vidět na videu:

 

 

Míra toxicity textu se určuje pomocí Perspective API na Google Cloud, aplikace používá Django framework a JavaScript. Zdrojový kód je na GitHubu.