UE está preocupada com alcance possível de novo modelo de IA da Anthropic
A pressure regulatória sobre a Anthropic está aumentando rapidamente na Europa. O porta-voz da Comissão Europeia, Thomas Regnier, afirmou que a risk associados ao novo modelo de inteligência artificial da empresa exigem esclarecimentos imediatos. "Temos um novo modelo de IA que está sendo lançado. Ele acarreta certos riscos. Precisamos de informações sobre eles", disse ele em coletiva.
A empresa já havia anunciado que restringiria o acesso ao novo modelo, o Claude Mythos, apenas a 40 grandes empresas de tecnologia, adiando sua liberação ampla. A justificativa é dar tempo para corrigir vulnerabilities críticas antes que hackers possam explorá-las. A medida, embora preventiva, gerou críticas por excluir entidades fora dos Estados Unidos, levantando dúvidas sobre a global preparedness .
O cerne da preocupação está na a speed e na escala com que o modelo poderia ser usado de forma maliciosa. Segundo a própria Anthropic e seus parceiros, o sistema pode operar em níveis que nenhum ser humano conseguiria alcançar, abrindo caminho para ataques capazes de paralyze bancos, hospitais ou national infrastructure em questão de horas.
O alarm se espalhou para os principais centros financeiros. Diretores dos maiores bancos dos EUA se reuniram com Jerome Powell, presidente do Federal Reserve, e com o secretário do Tesouro, Scott Bessent, para discutir as security implications do modelo ainda não lançado. A decision sobre como regular essas tecnologias pode moldar o futuro do mercado de IA e o equilíbrio entre inovação e a risk sistêmico.
Limitar a 40 empresas nos EUA enquanto o resto do mundo fica de fora? Isso não é preparação, é exclusão. O risk risco é global, então a resposta precisa ser também.
A pressure pressão sobre a Anthropic é justa. Quando se lida com tecnologia capaz de paralyze paralisar hospitais, não pode haver margem para erro.
Notem que até os bancos já estão em alerta. Isso não é teoria: é uma ameaça real ao sistema financeiro. O cost custo de uma falha seria imenso.
Claro que querem controlar o lançamento. Mas será que essa change mudança é genuína ou só uma manobra para evitar regulamentação mais dura?
A speed velocidade com que isso avança é impressionante. Daqui a pouco, decisões de national security segurança nacional vão depender de modelos que ninguém entende direito.
E a trust confiança pública? Se o primeiro impulso é esconder o modelo em vez de testá-lo com transparência, por que deveríamos acreditar que está seguro?