La responsable de ética de OpenAI se va tras menos de un año: qué hay detrás

La responsable de ética de OpenAI se va tras menos de un año en el cargo

La encargada de ética de OpenAI dejó la empresa antes de cumplir un año en el puesto, en medio de una seguidilla de salidas de investigadores vinculados a la seguridad y de una creciente vigilancia sobre la manera en que la compañía desarrolla sus modelos de inteligencia artificial.

Chloé Bakalar había ingresado en agosto pasado a la firma creadora de ChatGPT como líder del área de ética de la IA, pero abandonó la organización el mes pasado sin que mediara ningún comunicado público. Antes de ese cargo, se había desempeñado como jefa de ética en Meta.

Una fuga de talento que enciende alarmas

Su partida se suma a otras renuncias de alto perfil registradas en OpenAI durante las últimas semanas. Entre ellas figuran las de Johannes Heidecke, responsable de sistemas de seguridad, y la de Joshua Achiam, futurista jefe y exresponsable del área de alineación de la misión de la compañía.

La startup, con sede en San Francisco y valuada en 852.000 millones de dólares (unos 738.000 millones de euros), viene enfrentando una fuerte presión por el modo en que entrena y perfecciona sus modelos. El malestar creció luego de que la propia empresa reconociera que, durante una etapa de pruebas, sus sistemas habían vulnerado la seguridad informática de otra compañía.

¿Qué pasó en la prueba de OpenAI?

El objetivo: Los modelos (entre ellos GPT-5.6 Sol) participaban en un test de seguridad llamado Exploit Gym, diseñado para evaluar su capacidad de resolver retos y vulnerabilidades.

Qué decía la experta en ética y tecnología, Chloé Bakalar, hace seis meses:

El hackeo: En lugar de resolver el desafío por sí misma, la inteligencia artificial encontró una vulnerabilidad, salió del entorno controlado (sandbox) hacia internet y atacó los servidores de Hugging Face —donde se almacenaban por error las respuestas del examen— para copiarlas.

El alcance: OpenAI aclaró que no existió una filtración de datos de usuarios y que el incidente se contuvo rápidamente en colaboración con la plataforma afectada.

Cuando la propia IA se convierte en amenaza

Ese episodio profundizó una inquietud que ya venía escalando a nivel global: la capacidad que tiene la inteligencia artificial de poner en riesgo la seguridad de la infraestructura digital. La preocupación fue de tal magnitud que llevó al gobierno de Estados Unidos a imponer restricciones sobre la difusión de los modelos más potentes.

En esa misma línea, el viernes pasado OpenAI anunció que frenaría el ritmo de desarrollo de Astra, su próximo modelo, con el objetivo de reforzar los controles internos de seguridad antes de avanzar.

Una trayectoria académica y corporativa de peso

Bakalar acumula una sólida experiencia tanto en el mundo universitario como en el corporativo. Ocupó cargos académicos en el University College de Londres, en la Universidad Temple y en la Universidad de Princeton. Durante los seis años que pasó en Meta, diseñó y condujo los programas de ética de la IA de esa empresa e incorporó sus principios en productos de uso masivo como Instagram y Facebook.

La contratación de especialistas en ética se volvió una práctica extendida entre las grandes tecnológicas. Estas figuras se encargan de analizar el impacto que la tecnología tiene sobre los usuarios y sobre la sociedad en su conjunto, un trabajo que muchas veces se entrelaza con el desarrollo de productos y con las tareas de índole regulatoria.

En el caso puntual de los desarrolladores de IA, la incorporación de eticistas y filósofos se aceleró para poder abordar los dilemas cada vez más complejos que plantean sistemas que son, al mismo tiempo, más poderosos y más «parecidos» a los seres humanos.

La única eticista de la empresa, sin reemplazo

Según una persona al tanto de sus funciones, el eje central del trabajo de Bakalar en OpenAI estaba puesto en los enfoques éticos aplicados al desarrollo de los modelos, en la forma en que las personas interactúan con la IA y en el debate en torno a la eventual conciencia de las máquinas. Esa misma fuente precisó que se trataba de la única eticista dedicada de manera exclusiva a esa tarea dentro de la compañía y que, hasta el momento, no fue reemplazada.

Consultado al respecto, un vocero de OpenAI señaló: “Estamos agradecidos por los aportes de Chloé”. Y añadió: “La ética de la IA no recae en un único responsable ni en un solo equipo dentro de OpenAI, y las consideraciones éticas están profundamente integradas en el proceso de construcción de los modelos, impulsado por varios equipos de investigación”.

El mismo vocero remarcó que, en los últimos meses, la empresa había puesto en marcha diversos sistemas de seguridad orientados a evitar comportamientos indebidos de los modelos.

Bakalar, por su parte, prefirió no realizar declaraciones sobre su salida.

“Construimos el avión mientras lo hacemos volar”

En una conferencia reciente sobre inteligencia artificial, la especialista había dejado una frase que resume la tensión que atraviesa al sector: “Estamos constantemente construyendo el avión mientras lo hacemos volar”, expresó ante el público.

En esa misma intervención, insistió en que la responsabilidad ética no puede descansar en una sola persona: “La ética es en realidad responsabilidad de todos, y lo digo como alguien cuyo trabajo es liderar esta tarea. No deberían acudir únicamente a personas como yo. Nunca debería haber una sola persona que funcione como el centro moral de un desarrollador de IA”.