Durante las últimas semanas, se ha intensificado el enfrentamiento entre el CEO de Anthropic, Dario Amodei, y el secretario de Defensa, Pete Hegseth, debido al uso de inteligencia artificial por parte del ejército estadounidense.
Disputa sobre el uso militar de la inteligencia artificial
La empresa Anthropic se niega a que sus modelos de IA sean utilizados para vigilancia masiva de ciudadanos estadounidenses o en armas autónomas que puedan atacar sin intervención humana. Por su parte, el secretario Hegseth sostiene que el Departamento de Defensa no debería estar sujeto a las restricciones de un proveedor y que cualquier “uso legal” de la tecnología debería estar permitido.
Preocupaciones de Anthropic
Anthropic argumenta que la IA presenta riesgos únicos y requiere salvaguardias especiales, sobre todo si se utiliza en el ámbito militar. Tradicionalmente, los contratistas de defensa tienen poco control sobre el uso final de sus productos, pero Anthropic insiste en mantener ciertos límites, especialmente para evitar que sus modelos participen en decisiones letales automatizadas o vigilancia indiscriminada.
El ejército de EE.UU. ya utiliza sistemas altamente automatizados, algunos de ellos letales, y la normativa actual permite que sistemas de IA seleccionen y ataquen objetivos sin intervención humana, siempre que cumplan ciertos estándares y sean revisados por altos funcionarios. Esta posibilidad preocupa a Anthropic, ya que el avance tecnológico podría facilitar que sistemas autónomos tomen decisiones críticas sin supervisión, aumentando el riesgo de errores graves.
Además, la IA puede potenciar la vigilancia legal, permitiendo análisis de patrones a gran escala, resolución de entidades entre múltiples bases de datos, evaluación predictiva de riesgos y monitoreo conductual continuo, lo que eleva el nivel de preocupación sobre la privacidad ciudadana.
Exigencias del Pentágono
El Pentágono defiende su derecho a utilizar la tecnología de Anthropic para cualquier fin legal, sin verse limitado por políticas internas del proveedor. El portavoz principal del departamento ha declarado que no buscan vigilancia masiva ni el despliegue de armas autónomas, pero insisten en que ninguna empresa debe dictar los términos de las operaciones militares.
Se ha dado a Anthropic un plazo para decidir si permitirá el uso de sus modelos para cualquier propósito legal; de lo contrario, la empresa podría ser considerada un riesgo para la cadena de suministro y perder su relación con el gobierno.
En ocasiones, las críticas del secretario Hegseth han incluido comentarios sobre la influencia cultural en el desarrollo de la IA, subrayando la intención de crear sistemas enfocados en la eficacia militar y no en cuestiones ideológicas.
Consecuencias y próximos pasos
El Pentágono ha amenazado con declarar a Anthropic como un “riesgo para la cadena de suministro”, lo que impediría a la empresa hacer negocios con el gobierno, o con recurrir a la Ley de Producción de Defensa para obligarla a adaptar sus modelos a las necesidades militares. El desenlace sigue siendo incierto, pero ambas partes enfrentan riesgos significativos.
Un veto a Anthropic podría poner en peligro la seguridad nacional, ya que el Departamento de Defensa tendría que esperar varios meses para que otras empresas como OpenAI o xAI alcancen el mismo nivel tecnológico. Mientras tanto, xAI se prepara para ofrecer sus servicios al gobierno y, según declaraciones recientes, no tendría inconvenientes en ceder el control total de su tecnología al Departamento de Defensa. Por otro lado, OpenAI podría mantener restricciones similares a las de Anthropic.