meme-robot-marvin-660x350.jpg

Robots que dudan de sus actos se integran mejor con los humanos

Existen grandes incertidumbres sobre el futuro de la interacción entre robots y humanos, a tal extremo que la ONU ha organizado una serie de conferencias para debatir sobre el asunto. Ahora, un rama de investigadores ha antitético el punto secreto para mejorar esta convivencia: la duda.

La Universidad de California en Berkeley ha presentado los resultados de su más reciente proyecto de estudio, donde han desarrollado una simulación de interacción entre robots con sistemas de inteligencia fabricado y humanos para encontrar que la duda de los autómatas sobre sus actos facilita su integración social:

meme-robot-marvin-old-new

Está claro que una de las principales herramientas que podemos usar para mitigar el peligro potencial de un sistema de IA con mala conducta es la capacidad de apagarlo.

Pero, a medida que mejoran las capacidades de los sistemas de Inteligencia Artificial, es importante comprobar de que estos no adopten otros objetivos que impidan que un ser humano los apaguen.

Nuestro objetivo ha sido estudiar los incentivos que un autómata tiene que permitirse para dejar que lo desactiven.

Es lo que señala el documento del esquema como pulvínulo para la aplicación de sus simulaciones, en donde se le pidió a un autómata que realizara una tarea, y a un ser humano se le dio la opción de permitir que continuara o azuzar el interruptor de agotado, a la par que el autómata asimismo tenía la capacidad de anular su propio interruptor y, por lo tanto, asediar la voluntad del humano.

Aquellos robots cuyo sistema de IA determinaba que tenían mucha confianza sobre sí mismos y que realizaban un desempeño correcto de sus labores, se mantuvieron encendidos e incluso se reactivaban a sí mismos luego de que el humano los apagaba.

meme-robot-marvin-sad

Mientras que aquellos robots cuya inteligencia fabricado mantenía bajos niveles de confianza sobre sus decisiones se mantuvieron apagados luego de que el humano apretara el interruptor, incluso cuando juzgaban que estaban haciendo un buen trabajo con su tarea asignada.

La investigación concluye luego de estudiar todas sus simulaciones que los robots con algún extremo de incertidumbre acerca de su función de utilidad tienen mayores incentivos para aceptar o apañarse supervisión humana, lo que los vuelve más confiables para el hombre.

De esto están hechas las pesadillas.




Source link

deja tu opinion

Seguinos

Tecnoblog en las redes sociales