El presidente de los Estados Unidos, Donald Trump, ha anunciado una prohibición sobre el uso de la tecnología de Anthropic AI a nivel federal. La orden sigue a un intenso desacuerdo entre la empresa y el Pentágono respecto a la aplicación militar de esta tecnología.
Actualmente, las negociaciones entre Anthropic y el Departamento de Defensa se habían estancado, ya que ambas partes se negaban a llegar a un compromiso con la fecha límite para alcanzar un acuerdo acercándose. Con respecto a la solicitud del Pentágono, fuentes dijeron que funcionarios de la sede del Departamento de Defensa de los Estados Unidos exigieron que Anthropic aflojara sus directrices éticas, señalando que un fracaso en hacerlo podría resultar en graves repercusiones.
El presidente Trump detiene el uso de la tecnología de AI de Anthropic
El presidente Trump compartió su publicación en Truth Social describiendo su punto de vista sobre el asunto. En la publicación, señaló que, “Los extremistas de izquierda en Anthropic han cometido un ERROR CATASTRÓFICO al intentar FORZAR al Departamento de Guerra y obligarlos a seguir sus Términos de Servicio en lugar de nuestra Constitución.”
También agregó que, “NOSOTROS determinaremos el futuro de nuestro país – NO alguna empresa de IA radical y fuera de control dirigida por personas que no entienden cómo es el mundo real.” Notablemente, durante este tiempo, el plazo estaba a solo una hora de distancia.
Anteriormente, Anthropic rechazó la solicitud de los funcionarios del Pentágono para que los contratistas aprobaran la utilización de sus sistemas para cualquier propósito legal. En este punto, la empresa de IA se negó a suavizar las limitaciones que impedían que Claude se utilizara de manera efectiva para la vigilancia masiva nacional o para armas totalmente autónomas. Dada la intensidad de la situación, Trump caracterizó el incidente como una amenaza significativa para las tropas de EE. UU. y la seguridad nacional.
En una declaración, argumentó que, “Su egoísmo está poniendo en riesgo las vidas americanas, a nuestras tropas en peligro, y a nuestra seguridad nacional en peligro.” Siguiendo el argumento de Trump, los informes destacaron que Sam Altman, el CEO de OpenAI, demostró esfuerzos por calmar las cosas. Aun así, varios analistas admitieron que reducir las tensiones sigue siendo un desafío.
Por otro lado, Pete Hegseth, el Secretario de Defensa de los Estados Unidos, argumentó que etiquetar a Anthropic como un riesgo en la cadena de suministro amenazaba con terminar la conexión entre los proveedores militares de EE. UU. y la empresa de IA. Hegseth hizo estos comentarios aproximadamente 24 horas después de que el CEO de Anthropic, Dario Amodei, emitiera una declaración alegando que su empresa no puede cumplir con la solicitud del Departamento de Defensa. Según él, la solicitud iba en contra de la conciencia de Anthropic.
La IA generativa gana popularidad entre varias empresas
Con respecto al conflicto entre Anthropic y el Pentágono, los informes destacaron que el campo de la IA generativa aprovecha modelos avanzados para crear código de software, texto, imágenes y otros resultados realistas pero inexactos que imitan de cerca la creatividad humana. Para lograr este resultado, algunas fuentes señalaron que los modelos funcionan identificando patrones subyacentes en los datos de entrenamiento para producir respuestas contextuales a las entradas del usuario.
En este punto, vale la pena señalar que la IA Generativa va más allá del mero análisis para generar contenido activamente. Según la investigación de los analistas, esta capacidad podría revolucionar numerosas industrias, incluida la defensa. Al mismo tiempo, desarrollar estos modelos plantea serios desafíos, incluidas preocupaciones éticas y riesgos existenciales potenciales.
Aun así, varias empresas han demostrado un fuerte compromiso de asignar fondos sustanciales al campo. Por ejemplo, los funcionarios del Pentágono emitieron una declaración el verano pasado afirmando que habían asegurado contratos individuales con importantes actores de la industria, incluidos OpenAI, Anthropic, Google y xAI. Notablemente, se informó que cada contrato estaba valorado en $200 millones, particularmente para iniciativas de inteligencia artificial de frontera.
La publicación El presidente Trump ordena a las agencias de EE. UU. detener el uso de Anthropic AI en medio de la disputa ética apareció por primera vez en Coinfea.