David Holz, CEO společnosti Midjourney: „Jsme blízko k zákazu generování politických obrázků na příštích 12 měsíců“
V době narůstajícího napětí a obav z možného zneužití umělé inteligence v politické sféře přichází společnost Midjourney, známá svým pokročilým softwarem pro generování obrazů, s radikálním návrhem. Generální ředitel David Holz naznačil, že firma zvažuje zákaz vytváření politických snímků významných politických postav jako jsou Joe Biden a Donald Trump. Tento krok má zabránit potenciálnímu zneužití jejich technologie k šíření dezinformací nebo odvádění pozornosti v rámci nadcházejících prezidentských voleb v USA v roce 2024.
Je lepší se distancovat
Holz vyjádřil svůj postoj v rozhovoru s uživateli na platformě Discord, kde připustil, že ačkoliv může být zábavné vytvářet obrázky Donalda Trumpa, kvůli estetické zajímavosti této postavy, je pravděpodobně lepší se během volebního období od takových aktivit distancovat. Tento názor podtrhuje narůstající obavy z možného zneužití umělé inteligence v politice.
Demokraci i Taylor Swift obětí AI
Nedávné kontroverze, jako je šíření pornografických snímků zpěvačky Taylor Swift generovaných AI, které vyvolaly požadavky na lepší ochranu, pouze zvýrazňují potřebu regulace. (Poznámka: O problematice AI deepnudes jsme velmi podrobně psali v samostatném článku) Diskuse o vlivu umělé inteligence na demokracii se stává stále aktuálnější. S přibývajícím vývojem technologií jako deepfakes se objevují nové výzvy, které je třeba řešit.
V reakci na tyto výzvy některé firmy včetně společnosti Meta a Microsoft podporující OpenAI zavádějí opatření ve formě vodoznaků na obrázcích generovaných AI. Generální ředitel OpenAI Sam Altman vyjádřil obavy, že deepfakes mohou být v nadcházejících volbách sofistikovanější než kdy předtím.
První kroky proti dezinformacím
Midjourney, stejně jako jiné platformy, již zavedla některá ochranná opatření, ale jak Holz naznačil, může být rozhodnutí o zákazu politických snímků provedeno zcela v tichosti, což by mohlo ovlivnit transparentnost vůči uživatelům a voličům. Situace dokonale ilustruje složitou rovnováhu mezi inovacemi a regulací v digitální éře, kde je nezbytné najít cestu, jak podporovat pokrok bez ohrožení základních demokratických hodnot.
