La carrera por desarrollar sistemas de inteligencia artificial (IA) cada vez más poderosos comenzó a generar una señal de alarma entre sus propios protagonistas. Los líderes de Anthropic y OpenAI coincidieron en la necesidad de moderar el avance de los modelos de frontera y reforzar los controles externos, mientras que el empresario Elon Musk respaldó públicamente esa posición. Sin embargo, el presidente de Estados Unidos, Donald Trump, rechazó la idea de frenar el desarrollo de la tecnología y calificó como “fuerzas negativas” a quienes promueven una desaceleración.
El debate cobró fuerza después de la denuncia de Jacob Coxon, un investigador de 27 años que trabajó durante tres años en OpenAI y Anthropic y que recientemente abandonó la industria con fuertes cuestionamientos sobre la velocidad y las condiciones en las que avanza el desarrollo de la IA.
Coxon advirtió en la red social X sobre los riesgos de que un reducido grupo de empresas privadas compita por construir sistemas cada vez más capaces sin mecanismos de supervisión suficientes. Según el investigador, quienes desarrollan estas tecnologías consideran seriamente la posibilidad de que la IA pueda alcanzar capacidades capaces de representar una amenaza extrema para la humanidad antes de que termine la década.
Su advertencia puso nuevamente en el centro del debate una de las principales preocupaciones de los especialistas en seguridad de IA: qué controles deberían existir a medida que los sistemas adquieren mayor autonomía y capacidad.
La advertencia de Anthropic
En ese contexto, el CEO de Anthropic, Dario Amodei, publicó un ensayo titulado “We Must Pace the Frontier”, en el que sostuvo que la industria debe reducir la velocidad de la carrera por los modelos de frontera para permitir que los mecanismos de seguridad acompañen el crecimiento de sus capacidades.
“Escribí un nuevo ensayo sobre por qué la industria de la IA debería desacelerar, con un plan de tres partes para hacerlo”, señaló Amodei.
Anthropic acompañó el planteo con una primera medida concreta: permitirá que evaluadores externos tengan acceso permanente a sus sistemas, en condiciones similares a las de sus empleados. El objetivo será verificar el cumplimiento de las medidas de seguridad, reportar incidentes y evaluar el alineamiento de los modelos durante su entrenamiento.
La propuesta recibió rápidamente el respaldo de Sam Altman, CEO de OpenAI y uno de los principales competidores de Amodei en la carrera por desarrollar los modelos más avanzados.
“Estoy de acuerdo con Dario en que necesitamos moderar el avance de la frontera”, afirmó Altman, quien reveló que la cuestión fue uno de los principales temas de discusión dentro de OpenAI durante las últimas semanas.
El empresario también anunció que OpenAI seguirá el camino planteado por Anthropic y dará a evaluadores independientes un nivel de acceso similar al de sus empleados para controlar sus sistemas. “Es una gran idea y nosotros haremos lo mismo”, sostuvo.
A la coincidencia entre los responsables de Anthropic y OpenAI se sumó Elon Musk, propietario de SpaceX y fundador de xAI, otra de las compañías que participa de la competencia global por desarrollar modelos más avanzados. “Dario tiene razón”, escribió el empresario.
La convergencia entre Amodei, Altman y Musk amplificó una discusión que hasta ahora estaba concentrada principalmente entre investigadores y especialistas en seguridad de IA: cómo controlar una tecnología cuyo desarrollo se acelera por la propia competencia entre las empresas que buscan liderarla.
El problema radica en que cada compañía tiene incentivos comerciales y tecnológicos para lanzar modelos más capaces antes que sus rivales, mientras que los sistemas de evaluación, regulación y supervisión necesitan tiempo para determinar qué nuevos riesgos aparecen a medida que aumenta la autonomía de estas herramientas.
La denuncia de Coxon y las posteriores posiciones de Amodei, Altman y Musk exponen así una de las principales paradojas de la actual carrera por la inteligencia artificial: las empresas que compiten por llevar la tecnología hasta sus límites comienzan a reconocer públicamente que la velocidad de esa misma competencia puede convertirse en uno de sus mayores riesgos.
Trump rechaza desacelerar el avance de la IA
El debate también llegó a la Casa Blanca. Durante su visita a Irlanda, Donald Trump se pronunció en contra de quienes reclaman mayores límites para el desarrollo de la inteligencia artificial.
“Creo que hay muchas fuerzas negativas que están sacando el tema cuando no deberían hacerlo, y están planteando cosas que no van a suceder”, sostuvo el mandatario ante la prensa, según informó la agencia AFP.
Las declaraciones de Trump se produjeron pocos días después de que Coxon abandonara la industria y acusara a OpenAI y Anthropic de “jugar con nuestras vidas” al desarrollar modelos capaces de automejorarse.
El presidente estadounidense, que mantiene una postura favorable al crecimiento de la industria tecnológica, descartó aplicar frenos al desarrollo de la IA, en un momento en que los principales referentes del sector comienzan a reclamar mecanismos de control más estrictos.
El contrapunto entre el gobierno estadounidense y los líderes de algunas de las principales compañías de inteligencia artificial plantea un escenario decisivo para la regulación global de una tecnología cuyo desarrollo avanza a una velocidad inédita.
Mientras empresas como OpenAI, Anthropic y xAI compiten por alcanzar sistemas cada vez más sofisticados, crece una pregunta que ya no pertenece únicamente al ámbito académico: ¿cómo garantizar que los mecanismos de seguridad avancen al mismo ritmo que la inteligencia artificial?