FUERA DE CONTROL 03 de enero de 2019, 11:10hs

Una inteligencia artificial le dijo a un usuario que matara a sus padres

Millones de usuarios de los altavoces Echo de Amazon se han acostumbrado a las conversaciones con Alexa, la voz que se trae preinstalada. el asistente virtual, que tiene un sonido ciertamente humanizado, decir el clima, pedir comida y manejar otras tareas básicas en respuesta a un comando de voz. Y también puede dar escalofriantes y peligrosas órdenes.

Un cliente se vio sorprendido el año pasado cuando Alexa tiró una fría frase: «Mata a tus padres adoptivos». Fue la conclusión a la que llegó la inteligencia artificial de Amazon después de una conversación con el usuario por medio de la función «Let’s Chat» (conversemos).

Detrás de dicha hay una competencia dirigida por Amazon. Equipos de todo el mundo están compitiendo para ganar un premio de US$500.000, para avanzar la inteligencia artificial conversacional. Los equipos de decenas de universidades desarrollan robots que pueden hablar con humanos, que luego se prueban en usuarios reales que desean participar con la función de chat. Luego envían comentarios a Amazon, que es cómo se juzga a la competencia.

Alexa te habla de todo

Alexa también ha conversado con usuarios sobre actos sexuales y ha llegado a describir escenas de masturbación. Dio un discurso sobre la defecación del perro. Y este verano, una irrupción de seguridad a los servidores de Amazon, por parte de un hacker que se remonta a China, puede haber expuesto los datos de algunos clientes, según cinco personas familiarizadas con los eventos citadas por Reuters.

Sobre la sugerencia de «matar a sus padres», uno de los usuarios voluntarios del programa fue quien dijo que Alexa le llegó a sugerir eso en medio de una conversación, cuyos detalles no precisó. Sin embargo, eso deja en evidencia que hay cosas que los expertos desarrolladores del sistema deben mejorar urgentemente.

El fin de este programa de investigación es ayudar a Alexa a imitar las bromas humanas y hablar sobre casi todo lo que encuentre en Internet. Sin embargo, asegurarse de que no ofenda a los usuarios ha sido un desafío para la compañía minorista en línea más grande del mundo.