Como un mantra que parece repetirse como un eco sin fin, en los últimos meses referentes internacionales de diferentes orígenes disciplinares vienen alertando sobre la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA). Desde el filósofo e historiador Yuval Harari, hasta el premio Nobel Geoffrey Hinton, mundialmente reconocido como el “padrino” de la IA.
Hoy, identificar con precisión el límite que separa la ciencia ficción de la IA reedita trazas de los debates que protagonizaron sus precursores, durante la mítica conferencia realizada en el Dartmouth College, a inicios de 1956.
Considerado el hito fundacional de la IA como campo de investigación, ese encuentro giró en torno a una idea: el aprendizaje y la inteligencia pueden ser descriptos con tal precisión, que una máquina puede simularlos. A 70 años de ese mojón histórico, casi toda actividad humana parece estar atravesada, de un modo u otro, por la inteligencia artificial.
“En los últimos cinco años, la IA explotó. Y los acontecimientos de los últimos meses están demostrando que ha evolucionado de manera autónoma: ya no alcanza, no sirve desenchufarla. Incluso quienes se negaban a frenar su desarrollo –Frank Bezos (Amazon), Elon Musk (SpaceX, Tesla), Sam Altman (Open AI)–, hoy dudan si la IA no ha generado sus propios recursos para continuar funcionando sola ante un ataque a su infraestructura.”
La aseveración pertenece a Gustavo Juárez, un experto argentino que ha brindado más de 70 disertaciones sobre la temática en 26 países. Actualmente dirige el Laboratorio de Inteligencia Artificial de la Universidad Nacional de Tucumán (UNT) y forma parte del Institute of Electrical and Electronics Engineers (IEEE), la mayor organización profesional técnica del mundo.
Para reforzar su idea, ejemplifica: “La IA es una herramienta, como el serrucho. ¿Tiene algún riesgo, para el carpintero, el uso del serrucho? Sí. El tema es que ahora el serrucho corta solo, ya no necesita la mano del carpintero”.
Juárez llegará a Córdoba para participar en el VIII Congreso Argencon 2026, que se llevará a cabo del 11 al 13 de noviembre, en la Facultad de Ciencias Exactas, Físicas y Naturales de la Universidad Nacional de Córdoba. En ese evento brindará la conferencia «Educación y Ética en Ingeniería. Procesos inteligentes, decisiones humanas: inteligencia artificial en Ingeniería«.
Soberanía y gobernanza de datos
Para graficar la velocidad de avances registrados en el campo de la IA, el experto de la UNT recuerda que tiempo atrás las tecnologías demoraban entre ocho y diez años en alcanzar su madurez y lograr su adopción. Hoy, ese tiempo se redujo a solo dos o tres años.
En su mirada, el impacto social de la IA no es comparable a ningún hecho social o tecnológico conocido. Se trata de un fenómeno único de alcances inconmensurables en muchísimos ámbitos: información, educación, trabajo, salud, ambiente, ética, privacidad de datos, y muchos más. “El nivel de dependencia que las personas han desarrollado hacia esta tecnología es brutal y eso aumenta su complejidad”, asegura.
El trasfondo, sin embargo, resulta aún más complejo y tiene su anclaje en el plano geopolítico. En ese campo, la gobernanza de los datos ocupa un papel protagónico. “Al mundo ya no lo manejan los gobernantes de los países, sino quienes gobiernan los datos, los algoritmos y los data center”, analiza Juárez.
“En esta última década el mundo ha cargado bases de datos que generaron conocimiento para la IA. Y ese conocimiento no solo no se pagó, sino que se usará con fines estratégicos, políticos o comerciales”, subraya el especialista.
En esa línea, advierte que es imposible hablar de gobernanza de datos si se carece de infraestructura capaz de garantizarla, como plan estratégico a nivel gubernamental. Y, en esa materia, “Argentina está lejísimo”, remarca Juárez.
Regulación vs. estándares
La idea de una regulación que ordene y establezca límites al uso e injerencia de la IA en la vida cotidiana, aparece de manera recurrente. No obstante, ¿resulta factible?
“Desde mi visión de Latinoamérica y Argentina, no. Trabajo en el IEEE que es una organización donde somos 530 mil ingenieros e ingenieras en el mundo. En uno de sus congresos mundiales –donde se fijan las pautas estratégicas a tres años– se propuso, en cambio, la creación de un estándar”, justifica el director del Laboratorio de Inteligencia Artificial – UNT.
Ese abordaje descarta que sean los Estados o entidades supranacionales, como la ONU o la Unión Europea, quienes establezcan las limitaciones. En cambio, postula que sean las propias empresas las que certifiquen cómo utilizaron la IA en sus procesos, mediante la adopción de estándares como las normas ISO.
“La IA debería tener un estándar. Actualmente participo en un grupo de IEEE que está generando uno para redes neuronales. A la larga, la idea es que el estándar que acordemos se masifique y gobiernos, productores y desarrolladores cumplan los pasos definidos en él cuando utilicen este tipo de tecnología”, completa.
Con la ética de la mano
La IA está presente más que nunca a través de herramientas emergentes y disruptivas con capacidad para transformar y mejorar muchos aspectos de la vida cotidiana. Frente a tal escenario resuena la necesidad de acciones y reflexiones por parte de la sociedad. ¿Cuál es el rol de la ética en este debate?
Para Juárez, “la ética cumple un papel fundamental en el desarrollo y adopción de la tecnología. Es necesario que su aplicación sea responsable, equitativa y sostenible, tomando en cuenta los impactos de la tecnología en la privacidad, la imparcialidad, el empleo, la responsabilidad, el medio ambiente y el acceso, entre otros ítems”.
Como toda herramienta, hace falta conocerla y aprender a usarla cada vez mejor. En primer lugar, Juárez recomienda no consultarla como si fuese profesional de la psicología: “Intentará convencernos de que tenemos razón”. Luego, propone leer los permisos que se le habilita y evitar alimentarla con datos personales: “Nada es gratis: la información que le compartimos podría ser usada para su entrenamiento”.
Por último, recuerda que la IA tiene múltiples sesgos (étnicos, idiomáticos y de género) y alucina con facilidad, dos aspectos importantes a tener en cuenta al momento de evaluar la validez de sus respuestas.
El especialista insiste en la integración de la ética en el control de las tecnologías para maximizar los beneficios que estas pueden aportar a la sociedad, tanto como minimizar los riesgos potenciales. “La IA construye conocimiento y ante esto la amenaza es enfrentar procesos de desinformación que propicien la toma de decisiones”, advierte.
Algunos aspectos para trabajar, desde un enfoque ético, se basan en los siguientes criterios:
- Autenticidad e Integridad: informar a las personas usuarias sobre el uso de IA, capacitar acerca de cómo funciona y para qué se va a utilizar. Se debe ser transparente acerca de las posibles limitaciones de esta tecnología, del sesgo de su proceso de búsqueda y su influencia en las respuestas y de la existencia potencial de errores en las mismas.
- Garantizar la privacidad: es crucial tomar medidas para proteger la privacidad de las personas usuarias. Bajo la fachada de la IA, muchas herramientas tienen como propósito la recopilación ilegal de datos, sin que exista el consentimiento explícito.
- Evitar la discriminación: esto puede lograrse mediante la implementación de controles de calidad y la revisión de los datos de entrenamiento para identificar y corregir posibles prejuicios y sesgos.
- Fomentar los ámbitos para la reflexión ética: espacios donde estudiantes y docentes reflexionen sobre las implicaciones éticas del uso de IA en la educación, el mercado comercial/industrial y el ámbito laboral.
- Supervisión y monitoreo: es importante que el uso de la IA sea supervisada y monitoreada para asegurar que se cumplan los estándares éticos, incluyendo la revisión de las conversaciones generadas y la retroalimentación de las personas usuarias.
Gustavo Juárez es magíster en Ingeniería, director del Laboratorio de Inteligencia Artificial de la Facultad de Ciencias Exactas y Tecnología de la Universidad Nacional de Tucumán (Facet – UNT) y miembro estable del IEEE.