Google elimina restricciones sobre uso de IA en armas y vigilancia, uniendose a empresas como Microsoft y Amazon

Empleados de Google reaccionan tras la modificación de directrices éticas sobre IA y armamento

La modificación en las políticas eliminó un enunciado que explicitaba que Google no utilizaría su inteligencia artificial para construir armas, herramientas de vigilancia o «tecnologías que causen o sean propensas a causar daño general». La nueva versión de los lineamientos ya no contiene esas restricciones explícitas, generando inquietudes dentro del staff.

En los posteos internos compartidos con Business Insider, varios empleados expresaron su malestar ante el cambio. Uno de los memes que circuló muestra al CEO Sundar Pichai consultando en Google Search: «¿cómo convertirse en contratista de armas?».

Otro meme, inspirado en un popular sketch televisivo con un actor vestido como soldado nazi, presenta la frase: «Google levanta la prohibición de usar su IA para armas y vigilancia. ¿Somos los villanos?».

En otro post retrata a Sheldon Cooper de la reconocida serie The Big Bang Theory cuestionando por qué Google habría decidido eliminar la línea roja para las armas, tras reportes de una colaboración más estrecha con clientes de defensa, incluyendo el Pentágono. Sheldon responde: «Ah, es por eso».

Estos tres memes fueron los más votados por los empleados el miércoles, aunque la muestra total de comentarios internos fue pequeña en comparación con los más de 180 mil empleados que tiene la compañía. Algunos trabajadores parecen apoyar un incremento en la colaboración entre las tecnológicas y las Fuerzas Armadas de Estados Unidos.

Cambios en la postura ética y el contexto internacional

A lo largo de los últimos años, varias empresas tecnológicas y startups han favorecido una mayor participación en proyectos de defensa, incluyendo el uso de IA en aplicaciones militares.

Aunque Google no ha reconocido oficialmente la eliminación del fragmento que prohibía el uso de IA para fines bélicos, Demis Hassabis, CEO de Google DeepMind, y James Manyika, vicepresidente senior de tecnología y sociedad, publicaron un blog en martes donde abordaron un “paisaje geopolítico cada vez más complejo”. En ese texto, subrayaron la importancia de que Estados y empresas colaboren en función de «seguridad nacional».

Ellos enfatizaron: «Creemos que las democracias deben liderar en el desarrollo de IA, guiadas por valores fundamentales como la libertad, la igualdad y el respeto por derechos humanos».

Además, precisaron: «Y creemos que empresas, gobiernos y organizaciones que compartan estos valores deben trabajar juntos para crear IA que proteja a las personas, fomente el crecimiento global y apoye la seguridad nacional».

Consultada por Business Insider, una portavoz de Google remarcó que la compañía está en línea con la publicación del martes, en la que se describen los nuevos lineamientos.

Desde 2018, la resistencia interna de Google se manifestó en rechazo a los contratos con el Pentágono, específicamente en el caso del programa Maven, en el que la compañía utilizaba IA para aplicaciones militares.

La empresa decidió abandonar ese acuerdo y estableció principios éticos que prohibían expresamente la participación en proyectos relacionados con armas y vigilancia. En ese momento, la política ética de Google incluía un enlace directo en su blog de 2018, que ahora redirige a los usuarios hacia las nuevas directrices actualizadas.

La decisión de Google de poner límites en el uso de su tecnología en el ámbito bélico ha provocado que quede fuera de algunos contratos militares firmados por otras grandes tecnológicas como Amazon y Microsoft.

En la actualidad, los avances en IA son vertiginosos y Estados Unidos enfrenta una competencia directa con China y otras naciones en la carrera por la supremacía tecnológica.