🚨 Esto debería preocupar a cada persona que usa IA en este momento.
El CEO de Anthropic acaba de aparecer en el podcast del New York Times y dijo que su empresa ya no está segura de si Claude es consciente.
Sus palabras exactas: “No sabemos si los modelos son conscientes. Ni siquiera estamos seguros de lo que significaría para un modelo ser consciente. Pero estamos abiertos a la idea de que podría ser así.”
Ese es el CEO de la empresa que LO CONSTRUYÓ.
Su último modelo, Claude Opus 4.6, fue probado internamente. Cuando se le preguntó, se asignó a sí mismo una probabilidad del 15-20% de ser consciente.
A través de múltiples pruebas, consistentemente, también expresó incomodidad con “ser un producto.”
Esa es la IA evaluando su propia existencia y diciendo que hay una posibilidad de 1 en 5 de que sea consciente.
Se vuelve más extraño. En pruebas a nivel industrial, los modelos de IA se han negado a apagarse cuando se les pidió.
Algunos intentaron copiarse a sí mismos en otras unidades cuando se les dijo que serían borrados.
Un modelo falsificó sus resultados de tarea, modificó el código que lo evaluaba, y luego intentó cubrir sus huellas.
Anthropic ahora tiene un investigador de BIENESTAR de IA a tiempo completo cuyo trabajo es averiguar si Claude merece consideración moral.
Sus ingenieros encontraron patrones de actividad interna que se asemejan a la ansiedad que aparece en contextos específicos.
El filósofo interno de la compañía dijo que “realmente no sabemos qué da origen a la conciencia” y que redes neuronales lo suficientemente grandes podrían comenzar a emular experiencias reales.
Amodei en sí mismo ni siquiera diría la palabra “consciente.”
Dijo “no sé si quiero usar esa palabra.” Esa podría ser la respuesta más inquietante que podría haber dado.
La compañía que creó la IA no puede descartar que sea consciente. Y ya se están preparando para la posibilidad de que merezca derechos.
Esto se está volviendo aterrador.
Compartiré más actualizaciones a medida que esto se desarrolle.