Los científicos quieren enseñar a los robots a saber cuándo confiar en los humanos
diciembre 09, 2018
La investigación de la teoría de juegos intenta construir un marco para la confianza humano-robot*.
Si la robótica avanzada se vuelve omnipresente en la sociedad, necesitamos saber que podemos confiar en ellos.
Al mismo tiempo, debemos asegurarnos de que los robots confíen en nosotros simples seres humanos en asuntos que no están preparados para manejar, argumentan los investigadores en un artículo publicado el mes pasado en la revista académica ACM Transactions on Interactive Intelligent Systems. El trabajo, una colaboración de los científicos de Penn State, MIT y Georgia Institute of Tech, es un intento de desarrollar una definición y un modelo de confianza que podría traducirse fácilmente en código de software. Después de todo, los robots no pueden tener un "presentimiento" para confiar en alguien como lo hacen los humanos.
Aquí está la definición un tanto autorreferencial con la que se establecieron: "una creencia, sostenida por el fiduciario, de que el fideicomisario actuará de una manera que mitiga el riesgo del fideicomisario en una situación en la que el fiduciario ha puesto en riesgo sus resultados".
Sigue al líder
Para llegar a esa definición, los científicos necesitaban descubrir hasta qué punto los humanos ya están dispuestos a confiar en los robots, y viceversa. En el transcurso de cuatro años, observaron cómo más de 2,000 participantes humanos jugaban escenarios que desafiaban su visión de la robótica.
En algunos, los participantes tenían que elegir si seguirían o no a un robot fuera de un edificio en llamas. En algunos casos, sin embargo, habían visto la falla de navegación del robot momentos antes. En otros escenarios, los participantes tenían que decidir si ayudarían a un robot que estaba pidiendo ayuda para ingresar a una habitación que estaba bajo llave.
A la inversa, algunos experimentos probaron cuántos robots estaban dispuestos a confiar en la humanidad. En un giro de alta tecnología en un experimento clásico de la teoría de juegos, los robots NAO humanoides actuaron como prestamistas y eligieron la cantidad de dinero que se le prestaría a un humano en función de la cantidad de dinero que el humano pagó en cada ronda. Con el tiempo, los robots detectaron el patrón de cada humano. Por ejemplo, el robot interpretó que un humano devolvía más dinero como una señal de que el humano confiaba en el robot.
Relaciones humano-cyborg
Desafortunadamente, actualmente nos encontramos en una relación unilateral con los robots cuando se trata de confiar unos en otros.
Pero hay buenas señales para el futuro. Muchos participantes ayudaron a un robot, si se lo pedían con amabilidad, incluso ante un riesgo personal. Y algunos siguieron a los robots a lo largo de una ruta peligrosamente serpenteante a través de un edificio en llamas, incluso después de ver que el mismo robot se perdió solo unos minutos antes.
Mientras tanto, los humanos tenían que ganarse activamente la confianza de sus prestamistas robóticos más desalmados y sin alma, lo que sugiere que es posible que tengamos que trabajar arduamente para ganar nuestro lugar entre nuestros futuros amos robóticos.
*Artículo original de Futurism.com, Scientists Want to Teach Robots to Know When to Trust Humans
*Artículo original de Futurism.com, Scientists Want to Teach Robots to Know When to Trust Humans