Ante el escenario actual, donde la inteligencia artificial (IA) transforma el tejido social, el profesor e investigador de la Universidad Nacional de Córdoba (UNC) y Conicet; director alterno de la Maestría en Tecnología, Políticas y Culturas Agustín Berti, subrayó la necesidad de incorporar la discusión sobre tecnologías en el ámbito político, enfatizando que “hay que tener una política tecnológica que nos permita decidir sobre las direcciones que va tomando la tecnología”.
Berti explicó que, si bien la IA permite que las máquinas aprendan y reconozcan patrones a partir de enormes bases de datos, estos datos reflejan los sesgos históricos de la sociedad. “La máquina, el algoritmo, no es racista o clasista; la sociedad es racista y clasista. La máquina simplemente replica esos datos”, aclaró en una entrevista para UNCiencia Podcast.
Así, se hace evidente que los sistemas de IA no solo imitan, sino que también perpetúan problemas existentes. El investigador abordó la posibilidad de que existan diferentes perspectivas dentro de las inteligencias artificiales. Según él, estas tecnologías, como ChatGPT, “recuperan todas las opiniones existentes y las combinan con base en la pregunta que les hacemos”. Esto significa que la IA no tiene una opinión propia, sino que responde en función de los patrones de los textos disponibles, los cuales están sesgados por la cultura.
Berti hizo hincapié en que es fundamental discutir y comprender las tecnologías en lugar de adoptar posturas ni tecnofóbicas ni tecnofílicas. “No pensaría en términos de positivo o de negativo. Hay que discutir las tecnologías, comprenderlas y saber cuáles queremos”, afirmó. Esta comprensión es vital no solo para los usuarios, sino también para que las políticas públicas se adapten a los cambios que estas tecnologías traen consigo.
El control de la inteligencia debe ser democrático, resaltó Berti. “Todo el mundo debería tener un acceso similar a la posibilidad de entrenar inteligencias artificiales con las necesidades específicas de cada sector”. El concepto de “tecnodiversidad” también fue mencionado como crucial: “es necesaria para que las inteligencias puedan dar cuenta otras formas y visiones del mundo”, sentenció.
Diversidad y democracia en la inteligencia
La tecnodiversidad implica que la variedad de datos, enfoques y perspectivas culturales se incorpore en la creación de sistemas de IA. Este principió es esencial para garantizar que las máquinas no reproduzcan solo una visión del mundo, sino que reflejen la rica diversidad de experiencias y contextos presentes en la humanidad.
Berti advierte que actualmente la IA se desarrolla bajo una alta concentración de poder en manos de una minoría homogénea: “Está hipersesgada hacia una funcionalidad determinada, que es la ganancia”, subrayó.
Para lograr este equilibrio, Berti sugirió la creación de políticas públicas que consideren los impactos de la IA. La elaboración de una política de datos a escala regional es fundamental, especialmente dado que muchos servidores y bases de datos se encuentran en territorios extranjeros, lo que puede significar una pérdida de control y soberanía sobre la información.
