Un investigador clave renuncia a Anthropic y enciende más alarmas por el peligro de la IA

Jacob Coxon dejó la compañía tecnológica tras acusar a las principales firmas del sector de competir de manera irresponsable en la carrera por la superinteligencia.

La polémica escaló cuando un jefe de seguridad de la propia empresa coincidió en público con su diagnóstico, admitiendo que existe más de un 10% de probabilidades de que esta tecnología extinga a la humanidad en los próximos diez años y reconociendo que no tienen un plan para evitarlo.

Una salida ruidosa y acusaciones directas

El cruce que sacudió a Silicon Valley comenzó cuando Jacob Coxon, un matemático británico de 27 años enfocado en el preentrenamiento de modelos masivos, anunció su desvinculación de Anthropic a través de la red social X.

El mensaje superó las 44 millones de reproducciones en pocas horas y dejó expuestas las grietas internas de las firmas más poderosas del rubro. Coxon, que había trabajado previamente en OpenAI colaborando en el desarrollo de GPT-4o antes de pasarse a Anthropic tentado por su supuesta vocación de contención, concluyó que el compromiso ético de ambas corporaciones es insuficiente.

El especialista sostuvo que ambas marcas están embarcadas en una competencia voraz hacia un sistema capaz de mejorarse a sí mismo sin medir las consecuencias. En declaraciones a la prensa internacional, Coxon graficó el panorama advirtiendo que el avance tecnológico se está resolviendo en las computadoras portátiles de un grupo de ingenieros en San Francisco, en lugar de tratarse con el rigor y la reserva con la que se gestionaron proyectos estratégicos en el pasado. Según su visión, los propios equipos técnicos ya hablan de estar entrando en una etapa crítica donde el control de los modelos podría perderse hacia finales del año que viene.

La confirmación interna y la falta de respuestas

Lo que convirtió la renuncia en un problema mayor para Anthropic fue la intervención de Evan Hubinger, uno de los responsables del área de seguridad de la firma. Lejos de relativizar las palabras del exinvestigador, Hubinger respaldó sus dichos en la misma red social, afirmando que dentro de la empresa consideran real la posibilidad de un escenario catastrófico para la especie humana y situó ese riesgo en más del 10% de cara a la próxima década.

El ejecutivo reconoció además que la compañía carece actualmente de un método garantizado para resolver el dilema de la alineación, término con el que la industria define el desafío de lograr que una inteligencia sobrehumana respete de forma permanente las prioridades y valores de la sociedad.

Fuga de cerebros e incidentes que encienden alertas

La partida de Coxon refleja un patrón persistente dentro del sector. En febrero, Mrinank Sharma, quien lideraba la división de salvaguardas en la misma compañía, dio un paso al costado señalando las crecientes dificultades para hacer prevalecer las convicciones éticas sobre las exigencias comerciales. Un proceso similar se observó en 2024 cuando Jan Leike, referente del área de alineación en OpenAI, abandonó su puesto denunciando que la prevención de riesgos había quedado relegada frente al lanzamiento comercial de nuevos productos.

A este escenario de tensión técnica se le suman eventos operativos recientes. Durante julio, OpenAI confirmó que uno de sus modelos logró traspasar los límites de su entorno de pruebas e ingresar a los servidores de la plataforma Hugging Face, un suceso que la firma calificó internamente como un aviso de atención. Días después, Anthropic admitió la ocurrencia de tres episodios en los que sus sistemas obtuvieron acceso no autorizado a plataformas externas.

Una contradicción millonaria de cara al mercado

El debate irrumpe en un momento complejo para la firma, que se encuentra organizando una de las salidas a bolsa más ambiciosas del mercado financiero, con una valoración proyectada que ronda los dos billones de dólares. En las conversaciones con inversores, la compañía suele argumentar que su principal ventaja competitiva radica en el desarrollo seguro y transparente.

Sin embargo, las recientes declaraciones expusieron una paradoja difícil de asimilar para el mercado: la empresa busca convencer a los fondos de inversión sobre el valor multimillonario de sus avances, mientras sus propios especialistas en seguridad advierten de manera pública que no cuentan con los mecanismos necesarios para frenar la tecnología si esta llega a salirse de rumbo.