ECB varuje před zneužitím AI modelu Mythos – bankovní regulátoři musí jednat

Na mezinárodní konferenci v Římě warned varoval prezident německé centrální banky Joachim Nagel před nebezpečím, které vyvstává z pokročilého AI model modelu umělé inteligence Mythos. Podle něj by mohl být tento nástroj zneužit k rozsáhlé cybercrime kybernetické kriminalitě, zejména v sektoru finančních institucí, kde rychle odhaluje security flaws bezpečnostní chyby v softwaru.

Mythos, který společnost Anthropic označuje za svůj dosud nejpokročilejší technology technologický model, dokáže během krátké doby analyzovat složité systémy a najít jejich zranitelná místa. "Tento model je dvojsečná zbraň," uvedl Nagel, protože může sloužit jak k posílení digital security digitální bezpečnosti, tak k jejímu zneužití. Podle něj by měly mít přístup k technologii všechny klíčové instituce, aby nedošlo k unfair competition nepoctivé soutěži na trhu.

Zatím je přístup k Mythosu přísně omezen. Společnost Anthropic jej poskytuje pouze partnerům v rámci initiative iniciativy Project Glasswing a přibližně čtyřiceti organizacím, které spravují kritickou softwarovou infrastrukturu. Veřejně potvrdil přístup pouze americké bance J.P. Morgan, ale podle zdrojů Reuters interně testuje model také Bank of America.

Evropská komise vedla minulý týden rozhovory s Anthropic ohledně rizik spojených s modelem, který zatím v EU není available dostupný. Mluvčí komise Thomas Regnier uvedl, že od 2. srpna vstupuje v platnost Akt o umělé inteligenci v plném rozsahu a že Brusel má povinnost posuzovat potenciální risks rizika i u služeb, které na trh možná nikdy nevstoupí.

Americká asociace pro cenné papíry (ASA) vyjádřila serious concern vážnou obavu, že by mohl být model použit k prolomení systému Consolidated Audit Trail, který spravuje SEC. Takový útok by mohl vést k masovým identity thefts krádežím identit a zneužití citlivých obchodních dat. Finanční sektor proto jedná o reformě dohledových systémů pod growing pressure rostoucím tlakem nových technologických hrozeb.