Банки увидели угрозу в новых ИИ-моделях типа Claude
На весенних встречах Международного валютного фонда и Всемирного банка в Вашингтоне прозвучал тревожный сигнал: новые модели artificial intelligence , такие как Claude Mythos Preview от стартапа Anthropic, могут стать источником серьезных рисков для глобальной финансовой системы. Глава Банка Англии Эндрю Бейли назвал ситуацию «очень серьезным вызовом» и подчеркнул, что development технологий опережает любые попытки их регулировать.
Особое беспокойство вызывает способность модели автоматически находить тысячи критических уязвимостей в программном обеспечении — от операционных систем до браузеров. По словам представителей Anthropic, это меняет сам balance между кибератакой и защитой. Риск в том, что такая мощь может быть использована не только для укрепления безопасности, но и в деструктивных целях. Глава Европейского центрального банка Кристин Лагард предупредила: если технологии попадут в «неправильные руки», последствия могут быть катастрофическими.
Пока глобального regulation нет. Европейские регуляторы, включая Европейское банковское управление, признают, что не имеют доступа к полной версии модели и не могут fully assess угрозу. Руководитель управления Франсуа-Луи Мишо отметил, что формирование подходов только начинается. Между тем, geopolitical tension мешает согласованию международных правил — странам не хочется сдерживать собственные технологические прорывы.
При этом банки не отвергают пользу. Джейми Даймон из JPMorgan Chase подчеркнул, что ИИ помогает выявлять уязвимости, которые нужно устранить, а Тед Пик из Morgan Stanley назвал такие технологии важной частью будущей financial ecosystem . Однако decision о балансе между инновацией и безопасностью остается открытым. Давление на регуляторов растет — как со стороны бизнеса, так и со стороны общенародного public trust .
В марте США усилили позиции: Госдепартамент создал новое бюро, ориентированное на угрозы от ИИ и передовых технологий. Оно будет заниматься national security , включая кибератаки и возможную милитаризацию космоса. Этот шаг показывает: мир начинает воспринимать ИИ не как инструмент будущего, а как current threat , требующую немедленного response .
Если регуляторы не поспевают за development развитием, кто вообще контролирует этот risk риск? Банки заинтересованы в прибыли, а не в безопасности.
США создают бюро, а ЕС даже доступа к модели нет. Где global coordination глобальная координация? Каждый сам за себя — и это при geopolitical tension геополитической напряжённости.
Не надо демонизировать ИИ. Он выявляет уязвимости — значит, помогает их чинить. Давление есть, но и opportunity возможность тоже.
«Неправильные руки» — это звучит как клише, но в данном случае это реальность. Одна утечка модели — и cyberattack кибератака нового уровня.
Главное — не дождаться катастрофы, чтобы начать regulation регулирование. Решение должно быть проактивным, а не реактивным.
А кто вообще решает, что считать threat угрозой? Пока всё зависит от того, кто первый запатентует и за кем стоит государство.