Nový akční plán USA myslí na katastrofická rizika AI
V říjnu 2022, měsíc před vydáním ChatGPT, si Ministerstvo zahraničí USA objednalo hodnocení bezpečnostních rizik AI. Gladstone AI toto hodnocení dokončil v únoru 2024 ve formě celovládního akčního plánu, který zahrnuje analýzu katastrofických rizik.
Akční plán pro zvýšení bezpečnosti a ochrany před pokročilou umělou inteligencí
AI přináší nejen velké příležitosti, ale i zcela nové kategorie rizik srovnatelných s hrozbami zbraní hromadného ničení. Tyto výzvy vyplývají zejména z vyostřené konkurence mezi předními laboratořemi pracujícími na vývoji AI, které usilují o dosažení úrovně umělé obecné inteligence (AGI) ještě v tomto desetiletí. S tímto vývojem se pojí i významná bezpečnostní rizika, která mohou mít globální dopady.
V reakci na tyto výzvy Gladstone AI vypracoval na objednávku USA akční plán, který má za cíl zvýšit bezpečnost a ochranu před riziky spojenými se zneužitím pokročilé AI a ztrátou kontroly. Plán byl vytvořen po třináctiměsíčním výzkumu a konzultacích s více než dvěma sty zainteresovanými stranami, včetně vládních orgánů USA, Spojeného království a Kanady, poskytovatelů cloudových služeb, organizací zaměřených na bezpečnost AI a expertů na kybernetickou bezpečnost.
Pět konkrétních směrů
Akční plán se skládá z pěti vzájemně podporujících směrů úsilí (LOE), které mají za úkol zavést, formalizovat a internacionalizovat opatření na ochranu vývoje pokročilé AI, zatímco se současně buduje kapacita a připravenost pro tuto oblast. Tyto směry zahrnují:
- Stabilizaci vývoje pokročilé AI prostřednictvím dočasných opatření, včetně kontrol exportu součástí potřebných pro AI.
- Posílení schopností a kapacity pro přípravu a reakci na výzvy spojené s pokročilou AI, například zřízením pracovních skupin a vzdělávacích programů.
- Zvýšení národních investic do výzkumu bezpečnosti AI a vývoje standardů, což zahrnuje financování výzkumu a vývoje bezpečnostních norem.
- Formalizaci opatření pro zodpovědný vývoj a adopci AI zavedením regulačního úřadu a právního rámce odpovědnosti.
- Zakotvení opatření na ochranu AI v mezinárodním právu a zajištění dodavatelského řetězce AI, včetně vytvoření mezinárodní agentury pro AI a kontrolního režimu dodavatelského řetězce.
Plán vyzývá k přijetí opatření, která jsou bezprecedentní, ale po konzultaci s odborníky a zainteresovanými stranami jsou považována za adekvátní vůči velikosti a naléhavosti čelících rizik.
Vytvoření regulativního rámce v USA
Akční plán přijímá zásadu komplexní obrany, což znamená, že kombinace vícevrstvých kontrol nabízí odolnost proti jakémukoli jednotlivému bodu selhání. To zahrnuje vytvoření regulativního rámce, který cílí na AI „breakout timeline“ – dobu potřebnou k vytvoření AI systému od nuly, který by dosahoval současného stavu techniky. Nejpřísnější předpoklad počítá s 18 měsíci pro model ekvivalentní GPT-4.
Plán rovněž zdůrazňuje potřebu globální spolupráce a koordinace, přičemž navrhuje vytvoření mezinárodní agentury pro AI a kontrolního režimu dodavatelského řetězce AI, aby se zabránilo závodům ve výzbroji a zvýšilo se riziko globálních nehod a konfliktů.
Akční plán představuje ambiciózní rámec pro řešení výzev, které přináší rychlý vývoj pokročilé AI. Tento plán klade důraz na nutnost preventivních opatření, spolupráci mezi státy a průmyslem a zavedení efektivních regulací, aby se zajistilo, že vývoj AI bude probíhat zodpovědně a s ohledem na bezpečnost a ochranu celosvětového společenství. O dokument Akční plán pro zvýšení bezpečnosti a zabezpečení pokročilé umělé inteligence, který čítá 247 stran, je možné zažádat na webu Gladstone AI.
