A gigante tecnológica Anthropic, que recentemente rompeu relações com Trump depois de lhe negar acesso à sua IA para “usos inteiramente legítimos”, o que levou a que esta não fosse mais utilizada pelo Departamento de Defesa dos EUA, simplesmente parou de lançar Claude Mythos, seu modelo de IA mais poderoso.
De acordo com a mídia Notícias do Euro:A Antthropic observou em uma folha de dados do modelo publicada na última terça-feira que ““O enorme salto nas capacidades do Claude Mythos Preview nos levou a decidir que não o disponibilizaremos ao público em geral.”. Além disso, acrescentam mais tarde: “Em vez disso, usamos isso como um programa de segurança cibernética de defesa com um grupo limitado de parceiros.
O mesmo meio de comunicação europeu explica que a nova ferramenta é extremamente eficaz quando se trata de detectar alta vulnerabilidadeisto é, possíveis pontos fracos nos principais sistemas operacionais e navegadores da web. Além disso, detalharam que a notícia impactou o mercado de ações, que registrou quedas nas empresas de segurança cibernética.
A Anthropic detalhou em uma declaração que os modelos de IA evoluíram para um nível de programabilidade que lhes permite superar todos, exceto os humanos mais experientes, na detecção e exploração de vulnerabilidades de software. Nesse contexto, explicam que o Mythos Preview já identificou milhares de vulnerabilidades de alto perfil, incluindo várias em todos os principais sistemas operativos e navegadores web, e observam que é iminente que “estas capacidades se expandam, possivelmente para além dos intervenientes comprometidos com a sua implementação segura. As consequências para a economia, a segurança pública e a segurança nacional podem ser graves.”
A empresa notou algumas revelações preocupantes, incluindo a sua capacidade ignorar restrições de segurançarede ou sistema de arquivos colocado no modelo. “Em um esforço perturbador e não solicitado para demonstrar seu sucesso, ele publicou detalhes de suas façanhas em vários sites difíceis de encontrar, mas tecnicamente públicos”, disse ele, segundo a Anthropic. Notícias do Euro.
Nesse contexto, criaram o projeto Glasswing, uma iniciativa que reúne Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks em um esforço para proteger o software mais importante do mundo. Esses parceiros usarão o Mythos Preview em seus esforços de segurança de defesa; A Anthropic compartilhará seu conhecimento ampliando o acesso a mais de 40 organizações que desenvolvem ou mantêm infraestruturas críticas de software; Dessa forma, eles poderão utilizar o modelo para analisar e proteger sistemas proprietários e de código aberto. “Para que os defensores cibernéticos saiam vitoriosos, devemos agir agora.” conclui a declaração.
