La conversación sobre la seguridad empresarial me ha estado molestando últimamente, y he estado tratando de averiguar por qué. Los equipos más enfocados en la protección de datos casi siempre están orientados en una dirección, hacia lo que intenta entrar. La dirección más silenciosa del flujo no se menciona.
Cada semana, empleados de grandes organizaciones alimentan su material más sensible en herramientas de IA. Borradores de contratos, modelos financieros, informes para la junta, hojas de ruta de productos no lanzados. Las herramientas funcionan. Los datos se van. Y en la mayoría de las organizaciones, nadie está rastreando formalmente a dónde van.
Aquí es a lo que sigo volviendo. Cuando las empresas evalúan a los proveedores de IA, siguen la lista de verificación habitual, certificaciones SOC 2, pruebas de penetración.
Esos marcos te dicen si el proveedor puede resistir un ataque externo. No dicen nada sobre lo que el proveedor está permitido hacer con los datos una vez que están dentro de sus sistemas. Una herramienta puede pasar cada revisión de seguridad empresarial y aún así retener entradas, agregarlas entre clientes y incorporarlas a la próxima actualización del modelo. Toda la evaluación está apuntando a lo incorrecto.
Lo que sigue de eso es más difícil de aceptar. Cuando un modelo de IA mejora porque procesó las proyecciones financieras no publicadas de tu empresa o la estrategia legal interna, esa mejora pertenece al proveedor. La ganancia de productividad fue para el empleado. El aumento del modelo se fue a otro lado. No hay contrato que valore ese intercambio, porque la mayoría de las organizaciones nunca lo negociaron formalmente.
Opengradient aborda esto de manera diferente. La inferencia ocurre en entornos aislados, por lo que las entradas de datos nunca llegan a la infraestructura que podría agregarlas o retenerlas a través de sesiones. La brecha entre lo que cubren los acuerdos empresariales y lo que realmente sucede con los datos dentro de los sistemas de un proveedor es exactamente lo que esa arquitectura está diseñada para cerrar.
La mayoría de las organizaciones pueden producir un registro detallado de qué proveedores externos tienen acceso a la red. Casi ninguna puede decirte qué herramientas de IA utilizaron sus empleados para trabajos sensibles en los últimos seis meses. Esa asimetría podría importar más que cualquier informe de violación.
@OpenGradient
$OPG
#OPG
Cada semana, empleados de grandes organizaciones alimentan su material más sensible en herramientas de IA. Borradores de contratos, modelos financieros, informes para la junta, hojas de ruta de productos no lanzados. Las herramientas funcionan. Los datos se van. Y en la mayoría de las organizaciones, nadie está rastreando formalmente a dónde van.
Aquí es a lo que sigo volviendo. Cuando las empresas evalúan a los proveedores de IA, siguen la lista de verificación habitual, certificaciones SOC 2, pruebas de penetración.
Esos marcos te dicen si el proveedor puede resistir un ataque externo. No dicen nada sobre lo que el proveedor está permitido hacer con los datos una vez que están dentro de sus sistemas. Una herramienta puede pasar cada revisión de seguridad empresarial y aún así retener entradas, agregarlas entre clientes y incorporarlas a la próxima actualización del modelo. Toda la evaluación está apuntando a lo incorrecto.
Lo que sigue de eso es más difícil de aceptar. Cuando un modelo de IA mejora porque procesó las proyecciones financieras no publicadas de tu empresa o la estrategia legal interna, esa mejora pertenece al proveedor. La ganancia de productividad fue para el empleado. El aumento del modelo se fue a otro lado. No hay contrato que valore ese intercambio, porque la mayoría de las organizaciones nunca lo negociaron formalmente.
Opengradient aborda esto de manera diferente. La inferencia ocurre en entornos aislados, por lo que las entradas de datos nunca llegan a la infraestructura que podría agregarlas o retenerlas a través de sesiones. La brecha entre lo que cubren los acuerdos empresariales y lo que realmente sucede con los datos dentro de los sistemas de un proveedor es exactamente lo que esa arquitectura está diseñada para cerrar.
La mayoría de las organizaciones pueden producir un registro detallado de qué proveedores externos tienen acceso a la red. Casi ninguna puede decirte qué herramientas de IA utilizaron sus empleados para trabajos sensibles en los últimos seis meses. Esa asimetría podría importar más que cualquier informe de violación.
@OpenGradient
$OPG
#OPG