Em fevereiro, a startup especializada em IA generativa Anthropic recusou, por razões éticas, dar acesso ilimitado ao Pentágono ao seu modelo de IA Claude. A empresa exigia respeitar uma série de linhas vermelhas sobre o uso da sua tecnologia na vigilância massiva de cidadãos americanos e em armas autónomas. Além de chamá-la de “esquerda radical” e “woke”, Donald Trump ordenou a cancelamento de todos os seus contratos com o Departamento de Guerra e incluiu-a numa lista de empresas perigosas para a segurança nacional.
Anthropic é uma rara avis no universo da IA. O seu manifesto fundacional aposta numa IA segura, responsável e positiva para a humanidade. O seu diretor executivo, Dario Amodei, abandonou a OpenAI em 2021 precisamente por considerar que não cumpria os padrões de segurança, e constituiu a sua nova empresa como corporação de benefício público: legalmente obrigada a construir modelos respeitadores dos direitos humanos. Amodei abriu-se a conversar com a Casa Branca, mas denunciou-a por violar a Primeira Emenda com o seu veto à Anthropic.
No outro extremo do discurso está Palantir, outra das grandes empresas do setor. O seu manifesto, um texto de 22 pontos publicado em abril na rede social X, foi classificado de forma unânime como exemplo de “tecnofascismo”. Frente à advertência de Amodei de que um mau uso de uma tecnologia tão poderosa como a IA pode levar ao descarrilamento da democracia, o CEO da Palantir, Alex Karp, acredita que é a arma principal para garantir a sobrevivência do Ocidente. A burocracia e a democracia travam o progresso, e o Vale do Silício tem o dever quase moral de participar na defesa da nação. O uso da sua tecnologia pelo ICE para identificar e localizar migrantes nos EUA e a sua colaboração com o Ministério da Defesa de Israel estão acreditados.
A Amnistia Internacional coloca os EUA, China, Paquistão, Afeganistão, Sudão do Sul e Tanzânia, no catálogo de países que em 2025 aplicaram através da tecnologia práticas autoritárias como a vigilância ilícita de cidadãos para limitar o direito à liberdade de expressão ou reprimir protestos. A regulação da IA continua a ser insuficiente. Por exemplo, as Diretrizes de Governança da IA desenvolvidas na Índia foram não vinculativas ou muito gerais.