En los últimos meses, OpenAI ha estado multiplicando innovaciones sin parar. En abril, por ejemplo, lanzó un ChatGPT para médicos con el objetivo de revolucionar la IA médica.
En una publicación de blog publicada el jueves, la compañía explica haber desarrollado "resúmenes de seguridad". Estos son resúmenes temporales y específicos que capturan el contexto de seguridad de una conversación. Estas notas no se utilizan para personalizar la experiencia ni para memorizar al usuario. Tienen un único objetivo: detectar cuando una discusión se torna peligrosa.
El principio es simple, pero técnico. Durante una conversación, un modelo de IA especializado en razonamiento de seguridad genera notas fácticas y temporales. Estos resúmenes permanecen activos por un tiempo limitado. Solo se consultan en situaciones de alto riesgo.
Pero quedan preguntas: ¿dónde termina la supervisión benevolente? ¿Cómo se puede garantizar que estos resúmenes no se desvíen hacia alguna forma de perfilado? En este sentido, la firma de IA aún no proporciona una respuesta clara.
Una cosa es cierta: esto es tanto una evolución simbólica como técnica. La pregunta ya no es si las IA deben integrar estas salvaguardias, sino hasta dónde deben llegar para hacerlo sin cruzar otras líneas.
¡Maximiza tu experiencia en Cointribune con nuestro programa 'Leer para Ganar'! Por cada artículo que leas, gana puntos y accede a recompensas exclusivas. Regístrate ahora y comienza a ganar beneficios.
#THORChainHackCauses$10.7MLoss
#SpaceXEyesJune12NasdaqListing
#BitcoinETFsSee$131MNetInflows