$ROBO El Problema de Confianza en Máquinas Autónomas
A medida que los robots se vuelven más autónomos, una pregunta silenciosa comienza a aparecer.
¿Cómo confiamos en lo que hacen las máquinas?
En los sistemas de software tradicionales, la verificación suele ser más fácil. Existen registros. El código puede ser auditado. A veces, las salidas pueden reproducirse.
Las máquinas físicas son diferentes.
Los sensores pueden leer mal los entornos. Los modelos se comportan de manera impredecible. Dos robots enfrentando la misma situación pueden producir resultados diferentes.
He estado pensando en este problema recientemente. Cuanta más autonomía ganan las máquinas, más importante se vuelve la verificación.
Esa es en parte la razón por la que el concepto explorado por @Fabric Foundation llamó mi atención.
Fabric está explorando una infraestructura donde los sistemas robóticos podrían depender de la computación verificable y capas de coordinación compartida.
Por supuesto, la verificación en robótica está lejos de ser simple.
Aún así, el problema de confianza en torno a las máquinas autónomas se está volviendo más difícil de ignorar.