AI výzkumník David Herel: „Využíváme umělou inteligenci tak, jak to ještě nikdo před námi nedělal“

Přinášíme vám rozhovor s Davidem Herelem, AI výzkumníkem na Českém institutu informatiky, robotiky a kybernetiky, ČVUT v Praze. Jak vypadá a jak se mění výzkum v oblasti umělé inteligenci, co stojí za aktuálním úspěchem českého konverzačního bota Alquist AI v soutěži Alexa Prize Socialbot Grand Challenge a jsou regulace AI v EU kontraproduktivní?

Davide, působíte jako AI výzkumník na Českém institutu informatiky, robotiky a kybernetiky, ČVUT v Praze. Mohl byste prosím přiblížit, v čem spočívá vaše role a jak vypadá váš „běžný pracovní den“?

Děkuji za pozvání. Na CIIRC se zabývám výzkumem umělé inteligence, konkrétněji v oblasti zpracování přirozeného jazyka. To je jeden z mála směrů v současné “AI”, který je skutečně AI-complete a mohl by nám přinést skutečnou umělou inteligenci.

Můj pracovní den jako vědce má jednu velkou výhodu. Zabývám se skutečně zajimavými problémy a tak lze těžko rozlišit, kdy začíná můj “pracovní” a “osobní” čas. Protože člověk často přijde na řešení problému nebo zajímavý nápad i při volnočasových aktivitách. Ale abych odpověděl na otázku, tak typicky mám za den několik schůzek týkajících se vědeckých projektů a zbytek dne píšu články, čtu novinky z oblasti výzkumu, vymýšlím řešení problémů nebo implementuji kód.

Můžete nám popsat některé konkrétní projekty, na kterých momentálně pracujete a jaký mají potenciální dopad na oblasti AI a společnost?

Určitě. Z krátkodobých, spíše inkrementálních projektů mohu vypíchnout náš téměř hotový článek o spojení jazykových modelů. V současnosti se komunita ve strojovém učení zaměřuje na to vyvinout co nejlepší model. To ale nemusí být vždy dobře, protože člověk může přijít i s novým modelem, který sice není nejlepší, ale chová se jinak než ostatní. Takový model má ale člověk problém zveřejnit, protože je obecně těžké někam dostat článek, pokud neporáží ostatní. My ale přicházíme s technikou, kde člověk může mít i suboptimální model a ten spojí s ostatními a dosáhne tak ještě lepších výsledků.

Náš hlavní dlouhodobý projekt ale je přijít s modelem, který se bude sám učit a zvyšovat svojí komplexitu v čase. Takové vlastnosti současné jazykové modely na neuronových sítích nemají. Takový projekt by mohl úplně otočit směr umělé inteligence a vědy obecně.

Proměnil se nějakým způsobem výzkum v oblasti AI během posledních měsíců? Přece jen „hype“ kolem umělé inteligence otevřel celou řadu otázek a přilákal pozornost široké veřejnosti.

V oblasti výzkumu se toho podle mě moc nezměnilo. Spíše v široké veřejnosti a to, že začala chápat sílu jazykových modelů typu ChatGPT.

Jednou z často diskutovaných oblastí v kontextu AI je také šíření fake news. Této oblasti se dotýká také vaše diplomová práce Adversarialní útoky na klasifikátory textu, kde upozorňujete na nedostatky automatické kontroly obsahu na sociálních sítích či diskuzních fórech. Jak vysoké spolehlivosti lze při detekci fake news v praxi dosáhnout?

Přesně tak. Právě teď je na sociální sítě nebo diskuzní fóra nahráváno obrovské množství textu a jiného multimediálního obsahu. Takový obsah ale nelze kontrolovat ručně a musí se kontrolovat automaticky. Většinou pomocí nástrojů umělé inteligence.

Zde se ale ukázalo, že jdou poměrně jednoduše ošálit. Například ve větě, která by byla označená jako fake news, mohu schválně umístit víc mezer navíc nebo udělat chybu v pár slovech a pro klasifikátor najednou věta už může být neškodná. Tomu se říká adversarialní útok. V praxi se takovéhle útoky zatím moc nedějí, ale jsou možné.

S hrozbami jako fake news přichází také otázka regulací. Lze podle vás zajistit, aby regulace nebrzdily inovace v oblasti umělé inteligence, ale zároveň chránily zájmy veřejnosti?

Myslím, že v EU mohou být zatím regulace kontraproduktivní. Netrénujeme tu velké jazykové modely ani nemáme velké AI firmy. V podstatě se nám pomalu stává, že používáme cizí technologie, kterým přestáváme rozumět. Myslím, že je nejdříve potřeba dohnat konkurenci a pak se zabývat otázkou regulací.

Nyní k velmi aktuální události. Studentský tým CIIRC vyvíjí konverzačního bota Alquista. Právě tento chatbot se úspěšně zúčastnil několika ročníků konverzační soutěže společnosti Amazon nazvané Alexa Prize Socialbot Grand Challenge a v tom posledním obsadil třetí místo. Zároveň se jednalo o první ročník, kde byly do konverzace kromě textu zahrnuty také obrázky. Jakým způsobem se podle vás může rozvoj konverzačních AI systémů, podporovaný touto soutěží, promítnout do našich každodenních životů a služeb?

Spojit obrázky a mluvený text bylo velmi náročné, ale povedlo se nám to skvěle. V konverzačním AI je velký a nevyužitý potenciál. V běžném životě komunikujeme mluveným slovem a díky naší technologii je člověk schopen kvalitně a poutavě konverzovat s naší umělou inteligencí. V blízké budoucnosti by tito chatboti mohly být použiváni například k ovládání chytré domácnosti či figurovat jako zábavný společník.

Můžete přiblížit, jak velkými změnami prošel Alquist AI od minulého ročníku? Jedná se o stejného bota, který je neustále vylepšován, nebo je nutné pro každý ročník začít na nových základech?

Přesně tak. Jedná se o stejného bota, který je každý rok vylepšován. Předešlé ročníky náš bot stál hlavně na ručně psaných dialozích. Tento rok přišla ale obrovská změna a zapojili jsme jazykové modely. Díky tomuto vylepšení je náš bot schopný odpovídat i na doposud nenaskriptované a neviděné situace.

Rozhodují o umístění mezi prvními místy detaily, nebo jsou rozdíly mezi vítězi opravdu výrazné? Je vlastně možné si z účasti odnést opravdu konkrétní zpětnou vazbu a strategii pro vylepšení s cílem umístit se v dalším ročníku ještě lépe?

Rozdíly jsou opravdu minimální a soutěžní pořadí často kolísají zvláště ve fázích, kdy je náš bot testován klienty Amazonu. Odtud můžeme získat snadno zpětnou vazbu. Velké finále Amazonu je už testováno odborníky a tam je situace výrazně méně transparentní a moc velkou zpětnou vazbu nedostáváme. Pro příští ročníky plánujeme nahradit ještě větší část skriptovaných dialogů jazykovými modely.

Výsledek je důkazem, že v oblasti AI u nás působí mnoho talentovaných „mozků“. Myslíte si, že má Česko potenciál stát se lídrem umělé inteligence?

Potenciál je tu obrovský, hlavně díky špičkovým lidem. Ostatně společně s Tomášem Mikolovem a dalšími experty jsme nedávno založili startup. Tam právě míříme na takovou “killer app”, která má za cíl změnit určitou nemalou část trhu. Využíváme umělou inteligenci tak, jak to ještě nikdo před námi nedělal.

Jaká je vaše rada pro mladé lidi, kteří se chtějí zapojit do výzkumu v oblasti umělé inteligence?

Nejlepší určitě je zkontaktovat vědce v oboru a popovídat si s ním o svých zájmech v AI. Odtud je pak relativně snadné začít pracovat na nějakém zajímavém problému. Dokonce je podle mě i lepší, když toho člověk moc neví a nemá načtené články v oboru, protože pak přichází s novými a neotřelými nápady.