Los cuatro gigantes de la IA piden frenar los modelos de frontera, pero ninguno propone lo mismo

Cuatro nombres, un mismo diagnóstico y ninguna receta compartida

Demis Hassabis, cofundador de Google DeepMind y científico jefe de Alphabet, se sumó esta semana al debate que agita a la industria tecnológica. En su cuenta de X escribió: “El ensayo de Dario (Amodei) apunta hacia el camino correcto. Los detalles hay que trabajarlos, pero la dirección es la adecuada para enfrentar este momento crítico. Por eso también publicamos hace poco nuestra propuesta de un organismo de estándares para la IA de frontera”.

Con ese mensaje se completó un cuadro llamativo: en menos de dos días, los cuatro máximos responsables de las compañías que fabrican los modelos más potentes del planeta (Anthropic, OpenAI, xAI y Google DeepMind) coincidieron en que hay que avanzar con más cautela. Sin embargo, ninguno planteó exactamente lo mismo. Vale la pena detenerse en qué firmó cada uno y qué dejó afuera.

Anthropic: los auditores entran a la oficina

Dario Amodei, director ejecutivo de Anthropic, reclamó en su ensayo We Must Pace the Frontier (Debemos marcar el ritmo de la frontera) desacelerar la velocidad a la que se perfeccionan las capacidades de los modelos.

Su empresa asumió, por ahora, un único compromiso concreto: permitir el ingreso de evaluadores externos —menciona a la organización METR— con escritorio, credencial y computadora de la propia firma, un acceso equiparable al de los equipos internos de riesgo y la potestad de difundir sus conclusiones sin que Anthropic pueda intervenir en la edición.

Se trata de personal contratado por Anthropic y que trabaja dentro de Anthropic. El modelo, explica el propio Amodei, es el de los supervisores bancarios. Frenar de verdad, aclara, requiere que el sector coordine con el aval antimonopolio del Estado y, en el escenario ideal, un acuerdo de alcance global.

Google: un árbitro que mira desde afuera

Hassabis, en cambio, no se comprometió a abrir las puertas de DeepMind. Lo que hizo fue rescatar el marco que había presentado el 14 de julio, que apunta en otra dirección. Su propuesta es que Estados Unidos ponga en pie un organismo de estándares para la IA de frontera, con supervisión federal pero financiado por la propia industria, “muy parecido a FINRA”, la entidad que controla a los corredores de bolsa.

Ese cuerpo tendría un directorio integrado por expertos independientes y representantes del código abierto, definiría mediante pruebas cuáles modelos califican como “de frontera” y recibiría esos sistemas hasta 30 días antes de su lanzamiento para examinarlos en materia de ciberseguridad, riesgo biológico, intentos de esquivar las barreras de seguridad y señales de engaño.

En una primera etapa la adhesión sería voluntaria; luego, obligatoria para poder comercializar el modelo en territorio estadounidense. Las evaluaciones se actualizarían cada trimestre, y el organismo tendría facultades para “coordinar una desaceleración del desarrollo entre los laboratorios de frontera si se considera necesario”.

La distancia con Amodei es de diseño. Uno ubica al vigilante dentro de la empresa y pagado por ella. El otro lo coloca por fuera, con el gobierno como testigo.

Hassabis, además, habla en otra escala. Sostiene que la inteligencia artificial general está “a pocos años”, que su impacto podría equivaler a “10 veces la Revolución Industrial a 10 veces la velocidad” y que la humanidad “encontró la forma de hacer que la arena piense”. A su entender, estamos “en las faldas de la singularidad”.

OpenAI y xAI: por ahora, solo declaraciones

Sam Altman respondió en X, según consignó CNN: “Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera. Fue un tema central en nuestras discusiones dentro de OpenAI durante las últimas semanas. Comprometerse a contar con evaluadores independientes con acceso de empleado es una gran idea, y haremos lo mismo”. Y anticipó que habrá “más para compartir pronto”.

Es la posición más próxima al primer paso de Amodei. Llega después de que Jakub Pachocki, científico jefe de OpenAI, reclamara una desaceleración coordinada en un ensayo propio, y de que la compañía asegurara haber frenado el desarrollo de su modelo Astra por sus capacidades en el terreno de la ciberseguridad.

Elon Musk, propietario de xAI, se limitó a dos palabras: “Dario tiene razón”. No aclaró a qué se refería. Días antes había tildado de “montaje” la renuncia del investigador de Anthropic que dio origen a toda esta discusión.

Dónde se dan la mano y dónde se separan

Los cuatro comparten el diagnóstico de fondo: la automejora recursiva —la capacidad de la IA de construir a la próxima IA— ya está en marcha, y los ataques protagonizados por agentes de OpenAI contra Hugging Face demostraron que estos sistemas pueden actuar por cuenta propia. También coinciden en que hace falta un tercero que controle.

Y hay un punto de encuentro menos evidente: en los cuatro casos, frenar aparece como una posibilidad a futuro, no como un compromiso del presente. Amodei lo supedita a la coordinación del sector; Hassabis lo deposita en un organismo que todavía no existe, “si se considera necesario”; Altman lo promete para un futuro cercano; Musk ni siquiera lo nombra.

Las diferencias asoman en tres frentes clave. El primero: quién financia y contrata a quien supervisa. En la visión de Amodei, la propia empresa; en la de Hassabis, una entidad bajo control federal.

El segundo: en qué momento se examina el modelo. Durante el entrenamiento, según Amodei; antes del lanzamiento, según Hassabis. Y el tercero: qué se le pide al gobierno estadounidense. Amodei exige una autorización para que los competidores puedan coordinarse entre sí; Hassabis propone directamente crear un organismo específico.

Hay cuatro firmas para el rumbo. Para la velocidad, todavía no aparece ninguna.