Mythos nebo strašák? Proč nová AI děsí bankéře i vlády
Nový model umělé inteligence od společnosti Anthropic, dubbed jako Claude Mythos, neklade otázky jen před researchers , ale i před regulators a vládními úřady po celém světě. S tím, jak technologie překračuje hranice lidských schopností, roste i obava, že by mohla být zneužita – například k kyberútokům na kritickou infrastrukturu. Zatímco firma tvrdí, že model neuvádí do veřejného domain kvůli bezpečnostním risks , někteří odborníci za tím vidí i jiný motivation : vytvoření obrazu etického leader , který upřednostňuje bezpečnost před profit .
Podle AI specialisty Davida Strejce se Mythos od běžných language modelů liší zejména speed a důsledností – v jednom testu dokázal napsat funkční škodlivý kód devadesátkrát úspěšněji než jeho předchůdce. „Zjednodušeně: většina dnešních AI umí upozornit, že v programu je chyba. Mythos je první model, který se tu chybu snaží sám od začátku do konce zneužít,“ říká. Omezený přístup k modelu mají giganti jako Amazon, Google a Microsoft prostřednictvím initiative Project Glasswing, stejně jako asi 40 amerických organizací řídících critical softwarovou infrastrukturu.
Americká centrální banka a ministerstvo financí zorganizovaly nouzovou meeting s velkými bankami jako Bank of America a Goldman Sachs. „Impulz přišel od lobbistické skupiny, která už léta kritizuje centrální databázi s obchodními daty,“ upozorňuje Strejc. „Mythos se jim hodil jako excuse , jak problém dostat do titulků.“ Přesto nemizí skutečné concerns : pokud by útočník měl k dispozici systém, který dokáže sám hledat a attack na chyby, mohlo by to vést k katastrofálnímu narušení systémů – a cena útoku by mohla klesnout z pěti milionů na pět tisíc dolarů. „Bojí se, že riziko bude accessible každému,“ říká Jan Romportl.
Na druhé straně někteří odborníci zpochybňují, jak reálná hrozba je. „Našel odemčené dveře, ale dál ho zastavil alarm,“ popisuje Strejc výsledky testů proti Linuxu. Šéf zabezpečení Firefoxu potvrdil, že žádná z 271 chyb, které Mythos odhalil, nebyla pro zkušeného human překvapením. „Je to spíš auditor , ne zbraň hromadného ničení,“ shrnuje. Petr Somol z Gen Digital vidí v omezeném distribution logiku: poskytuje obráncům čas opravit zranitelnosti, než je zneužijí útočníci. „Rovnováha se po čase restore ,“ věří.
Ačkoli Anthropic tvrdí, že postupuje opatrně kvůli bezpečnosti, objevují se i spekulace o marketing tahu. „Mají historii strašení,“ říká americký poradce David Sacks. I když Mythos skutečně překonává předchůdce, někteří nezávislí výzkumníci dokázali jeho klíčové findings replikovat pomocí běžných modelů jako ChatGPT. „Nezveřejnili, jak často hlásí plané poplachy,“ dodává Strejc. Vlček z startupu Aisle připouští možnost, že se tím firma snaží position jako technologický pioneer . „Zdravá skepse je odpovědnost,“ uzavírá – zvlášť když podobné scénáře už viděli u OpenAI a modelu GPT-2.
Takže to není průlom, ale jen rychlejší verze toho, co už existuje?
Proč to nezveřejní rovnou? Pokud je to pro bezpečnost, pak je to responsible zodpovědný přístup.
Marketing nebo ne, hlavní je, že teď víme, že naše systémy mají díry. Čas je opravit.
Představte si, že by to měl k dispozici každý hacker na světě. To by byl chaos.
Přesně proto spolupracujeme s Anthropicem. Raději předem vědět, než reagovat na crisis krizi.
„Strašení“? No jasně. Stejně jako požární poplach – možná nikdo nehřeší, ale radši zkontrolujeme.
Tohle je jen začátek. Až to budou mít i jiné země, jak Čína, bude to úplně jiná game hra.
Zajímavé, že i když se to snaží prezentovat jako hrozba, tak ve skutečnosti to může být opportunity příležitost k posílení bezpečnosti.