En febrero la startup especializada en IA generativa Anthropic se negó, por razones éticas, a dar acceso ilimitado al Pentágono a su modelo IA Claude. La firma exigía respetar una serie líneas rojas sobre el uso de su tecnología en vigilancia masiva de ciudadanos estadounidenses y armas autónomas. Además de tacharla de “izquierda radical” y “woke”, Donald Trump ordenó la cancelación de todos sus contratos con el Departamento de Guerra y la incluyó en una lista de compañías peligrosas para la seguridad nacional.
Anthropic es una rara avis en el universo de la IA. Su manifiesto fundacional apuesta por una IA segura, responsable y positiva para la humanidad. Su director ejecutivo, Dario Amodei, abandonó OpenAI en 2021 precisamente por considerar que no cumplía los estándares de seguridad, y constituyó su nueva empresa como corporación de beneficio público: legalmente obligada a construir modelos respetuosos con los derechos humanos. Amodei se ha abierto a conversar con la Casa Blanca, pero la ha denunciado por violar la Primera Enmienda con su veto a Anthropic.
En el otro extremo del discurso se sitúa Palantir, otra de las grandes compañías del sector. Su manifiesto, un texto de 22 puntos publicado en abril en la red social X ha sido calificado de forma unánime como ejemplo de “tecnofascismo”. Frente a la advertencia de Amodei de que un mal uso de una tecnología tan poderosa como la IA puede llevar al descarrilamiento de la democracia, el CEO de Palantir, Alex Karp cree que es el arma principal para garantizar la supervivencia de Occidente. La burocracia y la democracia frenan el progreso, y Silicon Valley tiene el deber casi moral de participar en la defensa de la nación. El uso de su tecnología por parte de ICE para identificar y localizar migrantes en EEUU y su colaboración con el Ministerio de Defensa de Israel están acreditados.
Ammistía Internacional sitúa a EEUU, China, Pakistán, Afganistán, Sudán del Sur y Tanzania, en el catálogo de países que en 2025 han aplicado a través de la tecnología prácticas autoritarias como la vigilancia ilícita de ciudadanos para limitar el derecho a la libertad de expresión o reprimir protestas. La regulación de la IA sigue siendo insuficiente. Por ejemplo, las Directrices de Gobernanza de la IA desarrolladas en la India fueron no vinculantes o muy generales.
