Hace años que vengo planteando una preocupación alrededor de la inteligencia artificial: no alcanza con preguntarnos qué puede hacer una tecnología. También tenemos que preguntarnos quién controla el poder que estamos construyendo. Por eso las recientes declaraciones de Jacob Coxon me resultan especialmente relevantes.
Coxon, que trabajó en OpenAI y Anthropic, advirtió sobre una carrera hacia sistemas capaces de mejorar sus propias capacidades sin contar todavía con mecanismos suficientes para garantizar el control humano. Podríamos descartar sus palabras como otra predicción extrema sobre el futuro de la IA. Difícil hacerlo cuando algunos de los protagonistas más importantes de esta industria decidieron salir públicamente a respaldarlas:
Dario Amodei, CEO de Anthropic, planteó la necesidad de establecer un ritmo de desarrollo que permita avanzar técnicamente, pero con mayores controles externos.
Sam Altman, CEO de OpenAI, coincidió en la necesidad de establecer mecanismos de supervisión para ordenar el avance en la frontera tecnológica.
Y Elon Musk, que desde hace años advierte sobre los riesgos de una inteligencia artificial que pueda superar capacidades humanas, resumió su posición en pocas palabras: “Dario está en lo correcto”.
El dato no es menor. Cuando quienes están construyendo los sistemas más avanzados empiezan a pedir tiempo, supervisión y controles, la discusión deja de pertenecer exclusivamente al terreno de la especulación.
Antes de aceptar sus posturas, vale la pena mirar el historial. Hace una década, Musk decía que la inteligencia artificial era ‘potencialmente más peligrosa que las bombas nucleares’. Altman argumentaba que la Inteligencia Artificial debería beneficiar a la humanidad sin estar atada a retornos financieros.
Ambos pedían prudencia, límites, regulación. Después llegaron las valuaciones de cien, trescientos, mil millones de dólares. Los acuerdos corporativos, las carreras de hardware, los modelos competitivos. Y el discurso cambió.
Altman empezó a decir que la IA iba a reemplazar permanentemente muchos empleos, y que eso era parte natural del progreso. Musk prometió que los robots generarían tanta riqueza que el dinero perdería relevancia. Ahora, con las cifras del mercado laboral sin mostrar las catástrofes anunciadas, Altman declara que está ‘encantado de haberse equivocado’. Lo que hasta hace poco era una alarma compartida hoy parece una marcha atrás coordinada de la industria.
No pongo en duda la sinceridad de quienes advierten hoy. Pero sí señalo una coincidencia que merece atención: sus posiciones cambiaron exactamente cuando cambiaron sus intereses comerciales. Quien viene diciendo lo mismo desde hace años, sin una empresa que se beneficie de decirlo, merece otro tipo de escucha.
La preocupación de Coxon tiene además un concepto concreto detrás: la llamada auto-mejora recursiva. Si los sistemas de IA comienzan a colaborar en la creación de nuevas generaciones de herramientas, esas nuevas herramientas podrían mejorar las siguientes. El riesgo aparece cuando esa evolución supera nuestra capacidad para comprender cómo funcionan esos sistemas y controlar sus decisiones.
No sabemos si ese escenario ocurrirá. Pero si sabemos que merece toda nuestra atención. Tampoco podemos afirmar que la humanidad esté frente a una extinción inevitable, ni seguir actuando como si fuera imposible. Y acá aparece algo que vengo señalando desde hace tiempo: el problema del control no empieza necesariamente cuando una máquina toma decisiones contra nosotros. Empieza cuando concentramos capacidades extraordinarias en pocas compañías y, al mismo tiempo, les entregamos información que constituye el conocimiento central de nuestros negocios presentes y futuros.
Hoy una empresa puede incorporar IA para automatizar procesos, aumentar productividad, reducir costos y tomar mejores decisiones. Todo eso tiene un valor enorme. Pero ¿qué información está entregando para conseguirlo? ¿Dónde queda almacenada? ¿Quién puede acceder? ¿Qué aprende el sistema sobre esa compañía? ¿Qué hacen sus desarrolladores con ese conocimiento? ¿De quién es a partir de ese momento la información?
Y existe una pregunta todavía más importante: ¿qué podrán hacer mañana con la información que hoy estamos entregando para resolver problemas de hoy? Ese es el punto en el que la discusión sobre el futuro de la inteligencia artificial se encuentra con la realidad empresarial.
La IA puede ayudarnos a ser más eficientes, rentables y competitivos. Puede reducir fricciones, automatizar tareas y mejorar decisiones. Eso no está en discusión. Lo que sí está en discusión es el criterio y la conciencia real con la que tomamos esas decisiones. No es una respuesta al mercado: es una posición sobre qué tipo de organizaciones y de mundo queremos construir. La tecnología que elegimos usar hoy tiene consecuencias que van mucho más allá de la próxima reunión de resultados. Esa convicción es la que me obliga a hacer preguntas que otros prefieren dejar para después. ¿Después cuando?
Personalmente nunca me sentí parte de los extremos. Reducir esta discusión a una postura fija es simplificar la realidad: ya sea el tecno-pesimismo que reduce todo a máquinas asesinas y extinción, o el optimismo que evade la obviedad de los riesgos y nos vende la Tierra Prometida.
La posición de Trump agrega otra dimensión al problema. Mientras líderes de la industria plantean la necesidad de moderar el ritmo para ganar tiempo y fortalecer la seguridad, el presidente estadounidense sostiene que su país debe mantener la ventaja sobre China porque quien gane la carrera de la IA tendrá una posición dominante. Dominante sobre que? La economía, la seguridad y control social, la influencia política? Exacto.
Ese contraste muestra que la inteligencia artificial definitivamente ya no es solamente una cuestión tecnológica. También es una disputa económica, estratégica y geopolítica. Y cuanto mayor sea la presión por ganar esa carrera, mayor será la necesidad de discutir quién establece las reglas. Por eso creo que las declaraciones recientes no deberían llevarnos al miedo, sino a poner toda nuestra atención.
Hace veinticinco años que construyo empresas de tecnología con la convicción de que una herramienta poderosa exige algo más que capacidad técnica: exige criterio, límites y responsabilidad. Esa no es una posición nueva. Es la misma que tengo desde el primer día.
La pregunta, entonces, no es solamente qué podrá hacer la IA en el futuro. La pregunta es cuánto control estamos dispuestos a ceder y cuánto a conservar mientras avanzamos hacia ese futuro.
Hace años vengo sosteniendo que esa conversación no puede empezar cuando sea demasiado tarde. Las últimas advertencias de quienes están construyendo esta tecnología deberían servirnos para entender que el momento de hacerla ya llegó. Lo importante es no confundir velocidad con progreso, ni innovación con ausencia de límites.
