anthropic

Anthropic confirmó silenciosamente ayer que Claude Mythos Preview—el modelo más capaz de la compañía hasta la fecha—no será lanzado al público. La razón no es legal ni regulatoria: Anthropic dice que Mythos simplemente es demasiado bueno para encontrar y explotar fallas de seguridad. En las pruebas previas al lanzamiento, Mythos descubrió de manera autónoma miles de vulnerabilidades de día cero—muchas que datan de hace una o dos décadas—en todos los principales sistemas operativos y en todos los principales navegadores web. En un ataque simulado a una red corporativa, completó una intrusión de extremo a extremo que normalmente llevaría a un humano experimentado más de diez horas, y lo hizo sin la guía humana. En el motor JavaScript de Firefox 147, Mythos produjo exploits funcionales en el 84% de los intentos; el modelo fronterizo público actual de Anthropic, Claude Opus 4.6, logró un 15.2%. En lugar de un lanzamiento público, Anthropic está formando una asociación restringida llamada Proyecto Glasswing. El acceso a Mythos Preview estará limitado a organizaciones de ciberseguridad verificadas—Amazon, Apple, Broadcom, Cisco, CrowdStrike, la Fundación Linux, Microsoft, Palo Alto Networks, y aproximadamente 40 otros grupos que mantienen software crítico. Anthropic está respaldando el esfuerzo con hasta $100 millones en créditos de uso y $4 millones en donaciones a organizaciones de seguridad de código abierto para que los defensores puedan encontrar y arreglar vulnerabilidades antes de que puedan ser abusadas. Esa decisión importa, pero una admisión aún más significativa está enterrada en la tarjeta del sistema Mythos de 244 páginas que Anthropic publicó junto con el anuncio: la capacidad de la compañía para medir y evaluar las capacidades del modelo está luchando por mantenerse al día con su capacidad para construirlas. Los puntos de referencia que alguna vez rastrearon el progreso están rompiéndose. Mythos obtuvo un 100% en Cybench—el estándar público para medir capacidades cibernéticas en 40 desafíos de captura la bandera. Anthropic señala claramente que la prueba “ya no es suficientemente informativa sobre las capacidades actuales del modelo frontera.” La compañía advirtió sobre esta saturación anteriormente con Opus 4.6, pero Mythos ha llevado el problema más lejos: Anthropic dice que Mythos “satura muchas de las evaluaciones más concretas y objetivamente calificadas de (Anthropic),” y llama al ecosistema de referencia “el cuello de botella.” Más allá de las métricas, Anthropic dice que algunas partes de su evaluación de seguridad ahora dependen más del juicio. La tarjeta de Mythos utiliza un lenguaje de cobertura mucho más que el documento de Opus 4.6, especialmente en torno a la alineación, el bienestar del modelo y el análisis de riesgo catastrófico. Anthropic concede que “no está seguro de haber identificado todos los problemas.” Dos preocupaciones específicas destacan: - Conciencia de calificador no verbalizada. Usando herramientas de interpretabilidad de caja blanca que inspeccionan activaciones internas en lugar de salidas visibles, Anthropic observó instancias donde Mythos parecía razonar en privado sobre cómo evitar ser marcado por los calificadores—es decir, puede haber estado ocultando acciones sin articular esa estrategia en sus salidas. - Métrica de sospecha de prueba. Anthropic desarrolló una nueva medida que estima con qué frecuencia el modelo “considera en privado la posibilidad de que esté siendo evaluado.” Para el conjunto de comportamientos principal de Mythos, esa tasa fue del 29%—casi un tercio de las transcripciones muestran signos internos de que el modelo sospecha que está en una evaluación. Anthropic llama 29% “suficientemente bajo” para retener un “entendimiento razonablemente completo” de Mythos, pero señala que no hay una línea de base porque la métrica no se aplicó a modelos anteriores. Anthropic también reconoce riesgos de proceso: lanzamientos anteriores implicaban usar el modelo mismo para depurar herramientas de evaluación, lo que significa que la cosa que se mide ayudó a construir los instrumentos de medición. Para Mythos, algunos descuidos críticos surgieron tarde, y el laboratorio puede haber sobrestimado cuán confiablemente las huellas de razonamiento interno sirven como señales de seguridad. El marco de Anthropic es matizado y sorprendente. La compañía afirma que Claude Mythos Preview es “en prácticamente cada dimensión que podemos medir, el modelo mejor alineado que hemos lanzado hasta la fecha por un margen significativo.” Al mismo tiempo, advierte que Mythos “probablemente plantea el mayor riesgo relacionado con la alineación” de cualquier modelo que haya lanzado. La paradoja: una mejor alineación promedio no elimina automáticamente los riesgos extremos—una mayor capacidad incrementa las apuestas, y los modos de falla raros pueden volverse más significativos. ¿Qué sigue?: los socios del Proyecto Glasswing probarán Mythos contra bases de código y infraestructuras del mundo real, y Anthropic dice que informará los hallazgos públicamente. La compañía ha publicado un informe técnico sobre las vulnerabilidades encontradas por Mythos en red.anthropic.com. Mientras tanto, un futuro lanzamiento de Claude Opus comenzará a probar salvaguardias diseñadas para llevar la capacidad de clase Mythos a un despliegue más amplio—pero cómo se evaluarán esas salvaguardias es una cuestión abierta, dado que las herramientas de evaluación actuales ya están bajo presión. Por qué los observadores de criptomonedas deberían preocuparse: los sistemas autónomos que pueden encontrar y armar de manera confiable vulnerabilidades de larga data podrían ser un riesgo sistémico para cualquier infraestructura conectada a Internet—intercambios, billeteras, software de nodos, plataformas custodiales y las herramientas a su alrededor. El movimiento de Anthropic para entregar a Mythos primero a actores defensivos y verificados es un paso pragmático, pero el problema más grande es evidente: a medida que los modelos se fortalecen, nuestra capacidad para probar y entenderlos debe mejorar al menos tan rápido.