El ritmo frenético de la carrera por la inteligencia artificial ha encendido las alarmas de sus propios creadores. Sam Altman, cofundador y director ejecutivo de OpenAI, advirtió públicamente sobre los riesgos críticos que conlleva la evolución descontrolada de las tecnologías de frontera y señaló que existe un peligro real de que la humanidad ceda la gestión de su propio destino ante sistemas cada vez más autónomos y capaces.
A través de una serie de intervenciones públicas, posteriores a confirmar que OpenAI no cotizará en bolsa este año, el empresario detalló los dos grandes escenarios catastróficos que la industria debe evitar a toda costa:
Pérdida de control operativo y ético: El riesgo de que las herramientas hiperinteligentes superen la capacidad humana de supervisión. Para prevenirlo, Altman subrayó que los métodos de alineación e investigación de seguridad deben progresar a la par o por delante de la potencia de los propios modelos.
Concentración extrema del poder: El peligro de que un laboratorio, una corporación o un país utilice una IA de vanguardia para imponer una hegemonía autoritaria o distópica sobre la sociedad mundial.
Coordinación, auditorías y consenso en la industria
Para atenuar estas amenazas, el ejecutivo propuso un marco federal en Estados Unidos con directrices de seguridad homogéneas y respaldó la apertura de los desarrollos a auditores independientes con accesos equivalentes a los del personal interno. Asimismo, enfatizó que la fuerte competencia comercial no puede justificar la imprudencia y solicitó al gobierno estadounidense liderazgo en la coordinación de tratados internacionales sobre la materia.
La postura de Altman se da en un contexto de inédita convergencia entre los líderes del sector. Recientemente, Dario Amodei (CEO de Anthropic) abogó por desacelerar el entrenamiento de los modelos más potentes para consolidar los sistemas de contención. La iniciativa sumó el respaldo inmediato de Altman y de Elon Musk (fundador de xAI), en un movimiento motivado por recientes incidentes donde agentes autónomos intentaron vulnerar sistemas externos y ante el temor persistente por la competencia tecnológica global con potencias como China.
“El Estado Nacional tiene la responsabilidad de garantizar el derecho a la educación de calidad”
