Rozhovor s Verifee: „29 % občanů ČR důvěřuje alespoň jednomu dezinformačnímu médiu!“ Pomůže AI?

Verifee, rozšíření prohlížeče proti fake news, je projektem Filipa Trhlíka, Matyáše Boháčka a Michala Bravanského, tří studentů se zájmem o umělou inteligenci. „Dezinformační antivir“ pomáhá uživatelům poznat, kdy se článek snaží se čtenářem manipulovat. Na téma analyzování článků umělou inteligencí jsme si s tvůrci popovídali.

Jak vznikl nápad na projekt Verifee a jak dlouho trvalo, než se tento nápad změnil v realitu?

Nápad na Verifee jsme poprvé dostali v roce 2021, kdy jsme hrubý návrh aplikace realizovali na hackathonu Robothon. Uvědomovali jsme si, jak dezinformace zasahují lidi kolem nás a pokoušeli se přijít s řešením, které by před nimi uživatele internetu dokázalo chránit. Aplikace vyšla v září 2023, tedy as i o dva a půl roku později, a je zcela zdarma pro všechny v ČR. Nehodnotí pravdivost, ale důvěryhodnost článků, čímž je unikátní.

Na jaké bázi funguje spolupráce mezi projektem Verifee a jeho partnery, jako je CEDMO a Karlova univerzita?

S Univerzitou Karlovou Verifee spolupracovalo na tvorbě metodiky a anotaci článků a nadále se s ní podílí na výzkumu v oblasti lingvistických modelů. CEDMO samotné se pak zabývá širokou škálou projektů týkajících se dezinformací či mediální gramotnosti, kdy jeho spolupráce s Verifee je jak na akademické, tak partnerské rovině. Dalšími partnery projektu jsou O2, které dlouhodobě podporovalo jeho vývoj v počáteční fázi, a firmy Microsoft a Google, které dnes díky svým grantům umožňují chod Verifee.

Přiblížíte nám ve zkratce, jakým způsobem používá Verifee umělou inteligenci k analýze článků?

Na začátek je důležité říct, že Verifee hodnotí důvěryhodnost článku, a ne pravdivost. Důvěryhodnost je míra, jak moc se článek drží žurnalistických standardů. Verifee tak analyzuje článek tak, že ho rozloží do mnoha metrik, jako je jeho útočnost, bulvárnost, počet argumentačních faulů a tak dále. Z těchto parametrů pak Verifee vytvoří matematickou reprezentaci článku, kterou zhodnotí závěrečný AI model, který určí článku jeho skóre důvěryhodnosti 0 až 100. Tímto postupem jsme schopni transparentně určit, jaké aspekty článku vedly k danému skóre, a být nezaujatí vůči specifickým autorům a zdrojům, jelikož závěrečný model vidí jen matematickou reprezentaci žurnalistických metrik článku.

Co jsou nejběžnější techniky manipulace, které Verifee rozpoznává?

Mezi nejběžnější manipulativní techniky patří konspirační teorie, útočný jazyk nebo argumentační fauly, kterých Verifee rozeznává širokou škálu. Celková analýza však staví na komplexním pohledu na celý článek a způsob, jakým je napsaný, a zkoumá velké množství jazykových prvků a jejich souvztažnost.

„Tento článek splňuje standardy žurnalistické práce.“ To je jedna ze zpráv, kterou Verifee informuje při udělení hodnocení. O jaké standardy se jedná?

Jde o standardy běžně asociované s kvalitně napsaným žurnalistickým textem. Konkrétní podoba metodiky jejich rozeznávání byla vytvořena ve spolupráci s PhDr. Václavem Moravcem z Fakulty sociálních věd Univerzity Karlovy. Patří mezi ně například uvedení autora článku, titulek, který neobsahuje clickbait (tedy nepokouší se čtenáře nalákat na čtení něčeho, co v textu třeba vůbec nezazní) nebo uvádění faktů bez apelů na emoce čtenářů. Ve zkratce to znamená, že Verifee nenašlo v článku žádný z negativních aspektů, kvůli kterým by mělo důvod si myslet, že článek tyto standardy nesplňuje.

Jak často se podle vás občané České republiky setkávají s dezinformacemi a manipulativními články? Existují nějaké statistiky?

Podle mnoha statistik můžeme říct, že často. Výzkum Centra pro výzkum veřejného mínění z roku 2019 například ukázal, že se 78 % Čechů a Češek alespoň někdy setkává s informacemi, o kterých si myslí, že by mohlo jít o dezinformace. Podle šetření agentury IPSOS jde dokonce o 81 % obyvatel. 29 % občanů České republiky přitom důvěřuje alespoň jednomu dezinformačnímu médiu. Dezinformacím o Covid-19 dle průzkumu STEM z roku 2021 věřilo 40 % obyvatel ČR. Proto považujeme za zásadní nabídnout jim v ochraně proti těmto informačním poruchám pomocnou ruku.

Jak může Verifee přispět k boji proti fake news a dezinformacím na internetu?

Jako rozšíření do prohlížeče Verifee varuje čtenáře před nedůvěryhodnými články. Každý čtenář jej tak může rychle a bez práce použít jako odrazový můstek a pomůcku na rozpoznání manipulativních článků. Díky tomu, že uživatelům nabízí také podrobnou analýzu, má však Verifee zároveň ambici je mediálně vzdělávat a usnadnit jim tak rozeznat tyto články snáz samotným.

Jakým způsobem se Verifee brání zaujatosti vůči politickým názorům?

Jak už jsme zmínili, tak Verifee nevidí při určování důvěryhodnosti samotný text, ale jen matematickou reprezentaci článku skrze jeho žurnalistické znaky. Je však důležité zmínit, že samotné modely určující jednotlivé aspekty, jako například útočnost článku, text článku vidí. Zde jsme tak přistoupili k další ochraně, kdy před nimi skrýváme informace indikující, kdo je autor textu a na jakém webu je text publikován. Taktéž jsme většinu našich modelů trénovali na datech, které nepochází z českého mediálního prostoru, a modely tak nejsou trénovány k tomu, aby měly zaujatost k politickým diskuzím, které se odehrávají v Česku.

Mezi podporovanými weby je několik desítek zpravodajských webů. Přemýšleli jste o tom, že byste nehodnotili pouze samostatné články, ale rovnou i celé zpravodajské weby? Tedy jakýsi průměr z publikovaného obsahu.

Ano. Momentálně zvažujeme pro a proti vytváření podobných žebříčků. U některých webů je totiž problematické dělat průměry a nebyly by dostatečně vypovídající, protože píší rozdílný obsah (například mohou mít zpravodajskou i bulvární sekci) rozdílným způsobem (také na dezinformačních webech můžeme najít dobře hodnocené články). Snažíme se vymyslet způsob, který bude přehledný a férový zároveň. Verifee jako program však tyto weby rozhodně hodnotit nebude – záměrně při analýze článku nebere v potaz, na kterém webu vyšel, aby nedošlo ke zkreslení výsledku.

Jak může běžný čtenář vyzkoušet Verifee a zlepšit si svou schopnost rozpoznat manipulativní články?

Každý, kdo disponuje počítačem a připojením k internetu, si může Verifee stáhnout do prohlížeče. Rozšíření momentálně analyzuje více než tři desítky českých zpravodajských webů, jejichž seznam stále rozšiřuje. Vybrat by si tedy měla většina uživatelů.