Após semanas de hesitação, a administração Trump emitiu finalmente uma ordem executiva para a supervisão federal de novos sistemas de inteligência artificial. Se o pedido valesse o papel em que está escrito, eu aplaudiria, mas não vale.
A razão para a mudança de longa duração foi a revelação pela Anthropic do seu sistema de inteligência artificial, Mythos, que aparentemente tem uma capacidade sem precedentes de encontrar e explorar vulnerabilidades em códigos de computador, colocando sistemas de software relacionados com a segurança (tais como infra-estruturas, serviços públicos e sistemas militares) em risco de intrusão subtil, destruição e até mesmo controlo total. Em última análise, a administração percebeu que a abordagem da América à IA, que equivale a “aceleração total, sem travões”, poderia levar a um caos imprevisível para os Estados Unidos por parte das suas próprias empresas de IA.
Mas o que fazer? Afinal de contas, a administração Trump assumiu uma posição extremamente pró-IA, insistindo que não há nada que impeça as empresas americanas de vencerem os chineses na corrida para alcançar o “domínio global da IA”. Mas a grande maioria dos americanos – e aparentemente até alguns conselheiros próximos do círculo íntimo de Trump – estão céticos quanto a deixar as nossas empresas de IA fazerem o que quiserem. Uma pesquisa recente da Gallup descobriu que “80% dos adultos dos EUA acreditam que o governo deveria manter os regulamentos de segurança e proteção de dados de IA, mesmo que isso signifique um desenvolvimento mais lento das capacidades de IA”. Como populista, Trump não deveria ignorar esta questão de 80-20.
Até o Congresso ficou suficientemente alarmado com os riscos para propor propostas de lei bipartidárias que restringiriam a utilização de inteligência artificial pelo Departamento de Guerra e proibiriam a utilização de inteligência artificial para fins como vigilância doméstica ou sistemas de armas autónomos. Há uma boa chance de que tais projetos de lei saiam do comitê e cheguem ao plenário para votação – e serão aprovados facilmente.
Se o presidente ouvisse o terreno, haveria uma crescente indignação pública no nosso país contra as empresas tecnológicas obscenas que prometem destruir os nossos meios de subsistência, desperdiçar a nossa terra, electricidade e água no processo, roubar o património da criação humana, desqualificar os nossos adultos e nunca qualificar os nossos filhos. O conflito do condado de Box Elder é apenas um entre muitos em todo o país. O povo americano está a confrontar-se com um produto que ostenta publicamente uma agenda que muitos consideram diametralmente oposta ao florescimento humano.
Alguém próximo do presidente deve levantar estas questões, uma vez que a nova ordem executiva é apresentada como um compromisso bem-vindo entre segurança e inovação. No entanto, não é de forma alguma um compromisso. Vamos dar uma boa olhada no conteúdo.
Primeiro, o governo federal, através de uma força-tarefa conjunta, determinará quais modelos de IA têm capacidade para realizar um nível sério de manipulação. Estes modelos são referidos na ordem executiva como “modelos de limites cobertos” e, embora a lista de verificação para esta designação seja categórica, o termo indubitavelmente visa os LLMs mais complexos que se aproximam de um nível de desempenho de inteligência geral.
De acordo com o pedido, as empresas que pretendem implementar estes modelos de limites têm a oportunidade de submeter voluntariamente os seus modelos ao Departamento do Tesouro para uma revisão confidencial de 30 dias, concebida para testar a capacidade de vulnerabilidade do modelo e alertar as partes interessadas para a necessidade de modificar ou defender rapidamente o software que se tornou vulnerável pela implementação do modelo.
No entanto, a ordem executiva observa: “Nada nesta seção deve ser interpretado no sentido de autorizar a criação de uma licença governamental obrigatória, pré-autorização ou licença para o desenvolvimento, publicação, publicação ou distribuição de novos modelos de inteligência artificial, incluindo modelos de fronteira”. Além disso, “esta ordem não criará qualquer direito ou benefício, substantivo ou processual, executável por lei ou por equidade por qualquer uma das partes contra os Estados Unidos, seus departamentos, agências ou entidades, executivos, funcionários ou agentes, ou qualquer outra pessoa.”
Traduzido para o inglês, nenhuma empresa de IA nos EUA terá que submeter seu modelo para revisão antes que o modelo seja implantado no mundo real. Mesmo que uma empresa opte voluntariamente por realizar esta revisão, ela pode implementar o modelo num período fixo de 30 dias, mesmo que isso não seja tempo suficiente para desenvolver as correções ou defesas necessárias para que outras partes interessadas se protejam contra os danos que a revisão indica que irá causar. E se o modelo levantar problemas após a revisão, o processo de revisão do governo não pode ser criticado em tribunal por ser insuficiente para prevenir danos.
Sejamos honestos: é papel de seda. O governo está a fazer um espectáculo concebido para fazer parecer que está a fazer algo sobre os sérios riscos de segurança da IA, quando na verdade não está a fazer nada.
Alguns estão optimistas de que a ordem executiva é o primeiro passo em direcção a futuras regulamentações obrigatórias, oferecendo uma forma de ganhar tempo enquanto o governo contrata mais profissionais para equipar um escritório com capacidades de testes mais fortes. No entanto, não sou um optimista por natureza. Quando este futuro regulatório desejado finalmente chegar, se sim, o que já foi divulgado? E como colocar esses gênios de volta nas garrafas?
A resposta curta é que eles não podem. Que fique registado que, neste momento crítico da história da humanidade, quando o governo federal deveria ter defendido o seu povo, em vez disso, ele ficou de braços cruzados.
