LONDRES: Quando? Antrópico Disse ao mundo este mês que havia criado um modelo de inteligência artificial tão poderoso que foi muito perigoso espalhar amplamentea empresa nomeou 11 organizações como parceiras para ajudar a implementar a proteção. Todos eles foram EUA:.
Em apenas duas semanas, a modelo ligou Mitosdesencadeou uma corrida global como ainda não tinha sido vista na era da IA. Um mito segundo a Antrópico tem uma capacidade perturbadoramente eficaz de encontrar e explorar falhas ocultas em software que gerencia os bancos, redes de energia e governos do mundohavia se tornado um símbolo geopolítico e estava nas mãos de uma empresa americana.
Os líderes mundiais têm lutado medir a magnitude dos riscos de segurança e como enfrentá-losenquanto Anthropic apenas compartilhou Mythos de volta Reino UnidoFora dos Estados Unidos. o governador de Banco da Inglaterra alertou publicamente que a Antthropic poderia encontrar uma maneira “Abra todo o mundo do risco cibernético”. Ele Banco Central Europeu Ele começou a consultar discretamente os bancos sobre sua proteção. RA Ministro das Finanças O Canadá comparou a ameaça ao fechamento do Estreito de Ormuz.
Para concorrentes dos EUA, como China você: RússiaMythos puto de aliviar As implicações de segurança de ficar para trás na corrida da IA. A mídia russa pró-Kremlin descreveu o modelo da seguinte forma “Pior que uma bomba nuclear”.
As respostas revelaram a realidade algo que os pesquisadores de IA há muito alertam contraembora principalmente em teoria. quem lidera a construção dos modelos de IA mais poderosos receberá vantagens geopolíticas desproporcionais. Os grandes avanços na IA começam a parecer-se menos com lançamentos de produtos e mais com testes de armas, e muitos países querem compreender. Como funcionam essas tecnologias e quais proteções são necessárias?.
À medida que os “modelos” básicos de IA se tornam mais consistentes, o acesso se torna mais geopolíticodisse Eduardo Levi YeatiEx-economista-chefe e conselheiro regional de crescimento e inteligência artificial do Banco Central da Argentina. Banco Interamericano de Desenvolvimento. “Eu encararia este episódio como um alerta para as políticas públicas. Os governos não podem mais ignorar o problema”.– acrescentou.
Até mesmo o governo dos EUA, que tem estado em desacordo com a Anthropic sobre o uso de inteligência artificial na guerra, tomou nota do mito. na sexta-feira Dario AmodeiCEO da Anthropic se reuniu com autoridades Casa Branca Depois de alguns membros da administração Trump apontam o potencial do novo modelo para causar estragos em sistemas de computador.
Antrópicobaseado em São Franciscoele disse O jornal New York Times o que? O acesso ao Mythos é restrito por razões de segurança. A empresa focou em compartilhar o modelo mais de 40 organizações que fornecem tecnologia usada para manter infraestruturas globais críticas, como a Internet ou redes elétricas. A Anthropic citou 11 dessas organizações, incluindo Amazônia:, Maçã: você: Microsoftque prometeu ajudar desenvolver soluções de segurança para vulnerabilidades identificadas pelo modelo.
A empresa disse que não tem um cronograma imediato para expandir amplamente a disponibilidade, mas trabalhará com o governo dos EUA e parceiros da indústria para determinar os próximos passos. Ele afirmou que o recebeu muitas solicitações de governos, empresas e outras organizações solicitações de acesso e informações, mas essas organizações podem ter vários níveis de conhecimento para avaliar com segurança um modelo de IA tão poderoso.
Antrópico acrescentou que espera que sim outros grupos estão lançando modelos de IA com capacidades cibernéticas semelhantes de forma mais ampla durante pelo menos 18 meses, deixando às organizações tempo limitado para implementar correções de segurança necessárias.
A Anthropic disse na terça-feira que estava investigando o relatório usuários não autorizados eles poderiam acessar a versão Mythos.
A corrida em torno do mito ocorre quando cooperação internacional mínima em IA. Os governos observam-se uns aos outros com suspeita enquanto as empresas correm para se manterem à frente dos seus rivais. Não há equivalente Tratado de Não Proliferação de Armas Nuclearesnem verificações gerais, nem regras acordadas sobre como lidar com algo como o Mythos.
Quando a Anthropic anunciou o modelo, muitos especialistas elogiaram a cautela da empresa em limitar quem poderia testá-lo, mas expressaram: preocupação com a falta de coordenação internacional para enfrentar os riscos.
O Reino Unido foi o único país a aderir. Seu AI Safety Institute, uma organização apoiada pelo governo, testou o Mythos e publicou uma avaliação independente na semana passada que confirmou que pode realizar ataques cibernéticos sofisticados que nenhum modelo anterior de IA havia alcançado.
“Isso representa um salto nas capacidades de IA em segurança cibernética”disse Kanishka NarayanO ministro britânico de IA anunciou nas redes sociais na semana passada que o país estava tomando medidas proteger “infraestrutura nacional crítica”.
Outros receberam menos informações. Isto Comissão EuropeiaO órgão executivo dos 27 países da União Europeia, conheceu Antrópico pelo menos três Desde que o mito foi lançado, segundo um responsável da UE. No entanto, a empresa não forneceu acesso ao modelo porque os dois lados não concordaram sobre como compartilhá-lo com a comissão, segundo o responsável.
Num comunicado, a Comissão disse que estava “avaliando as implicações potenciais do Mythos”, que “Apresenta capacidades cibernéticas sem precedentes”.
Claudia PlattnerPresidente da Agência de Segurança Cibernética de Alemanhaé conhecido como ICS:disse que não teve acesso ao Mythos, mas recentemente se encontrou com funcionários Antrópico em São Francisco para obter “informações significativas” sobre suas operações. Os recursos do modelo têm um propósito “uma mudança de paradigma na natureza das ameaças cibernéticas”Plattner disse no comunicado.
A resposta entre os concorrentes da América tem sido mais moderada. Apesar do recente conflito da Anthropic com a administração Trump, Amodei deixou claro que a IA deveria ser usada defender os Estados Unidos e outras democracias e derrotar adversários autocráticos.
Nem Pequim nem Moscovo fizeram quaisquer declarações públicas sérias sobre os mitos.. Pesquisadores na China e a comunidade mais ampla de inteligência artificial estão observando a questão de perto, segundo analistas que estudam o ecossistema tecnológico do país. Muitos bancos, empresas de energia e instituições governamentais no país Eles usam o mesmo software em que a Mythos encontrou vulnerabilidades, mas não estão participando das discussões por enquanto.
“Para a China, acho que este é o segundo alarme depois do ChatGPT.”disse Matt Sheehaninvestigador-chefe de Carnegie Endowment para a Paz Internacional. Ele acrescentou que a política dos EUA não permite que a China adquira os semicondutores mais sofisticados para criar sistemas avançados de IA. ajuda a ampliar a liderança americana.
Alguns pesquisadores de IA na China falaram em particular preocupação de que o país possa ficar ainda mais para trásperdendo as vantagens associadas à construção do modelo fundamental primeiro, de acordo com Jeffrey DingProfessor de Ciência Política Universidade George Washington.
Liu PengyuIsto foi afirmado pelo porta-voz da Embaixada da China em Washington A China não está a par dos detalhes do Mythosmas apoia um ciberespaço pacífico, seguro e aberto.
Mythos é o mais recente sinal de uma crescente divisão global em relação à IA. Países que carecem de infraestrutura computacional poderosa e modelos avançados de IA eles correm o risco de se tornarem dependentes de empresas como a Anthropic, Google: você: OpenAI:embora tenham pouca influência sobre o design e a proteção de seus produtos, disse ele Levi Yeatty.
“A ideia de que o acesso à IA de fronteira é algo que uma empresa pode limitar unilateralmente usando critérios opacos e inapeláveis, deveria ser uma preocupação real– disse o especialista.
