Investigación comparó el desempeño de modelos de lenguaje como ChatGPT en Chile y Estados Unidos, detectando que los algoritmos representan con mayor precisión a la población estadounidense y presentan mayores errores al analizar grupos sociales chilenos específicos.
Los modelos de inteligencia artificial utilizados para simular comportamientos sociales y anticipar tendencias podrían estar reproduciendo desigualdades presentes en los datos con los que fueron entrenados. Así lo concluye un nuevo estudio que detectó importantes brechas de representación y precisión al evaluar cómo estas tecnologías interpretan la realidad chilena.
La investigación, desarrollada por los académicos e investigadores Andrés Abeliuk, Vanessa Gaete y Naim Bro, este último integrante de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), analizó la capacidad de distintos modelos de lenguaje para replicar respuestas de opinión pública comparando datos de Chile y Estados Unidos.
Para ello, los investigadores utilizaron encuestas representativas, entre ellas mediciones de la Encuesta CEP, con el objetivo de evaluar si los modelos podían simular de manera adecuada las respuestas de distintos grupos sociales.
La IA representa mejor a Estados Unidos que a Chile
Uno de los principales hallazgos fue que los modelos de inteligencia artificial muestran una mayor capacidad para predecir las respuestas de ciudadanos estadounidenses que las de la población chilena.
Según el estudio, esta diferencia estaría relacionada con un sesgo estructural en los datos utilizados para entrenar estos sistemas, donde predominan contenidos provenientes del llamado norte global, especialmente de Estados Unidos.
Esto significa que, aunque los modelos pueden entregar respuestas coherentes y útiles, su comprensión de realidades sociales distintas puede presentar limitaciones cuando se aplican fuera de los contextos donde fueron mayormente entrenados.
Mujeres y adultos mayores aparecen entre los grupos menos representados
El estudio identificó que en Chile los mayores errores predictivos se concentran en determinados segmentos de la población.
Los modelos mostraron menor precisión al intentar representar las opiniones de:
- Mujeres.
- Adultos mayores.
- Personas con menor nivel educacional.
- Personas religiosas.
Los investigadores advierten que estos resultados evidencian que los sesgos de la inteligencia artificial no funcionan de la misma manera en todos los países, sino que dependen de factores culturales, sociales e históricos propios de cada sociedad.
“Nuestra investigación muestra que los modelos de inteligencia artificial representan mucho mejor la opinión pública estadounidense que la chilena. Cuando les pedimos simular las respuestas de personas en Chile, su precisión disminuye y esa caída no afecta por igual a todos los grupos”, explicó Naim Bro.
Riesgos para decisiones basadas en inteligencia artificial
Los autores señalaron que el problema adquiere relevancia debido al creciente uso de herramientas de IA para complementar investigaciones, análisis de mercado, estudios sociales e incluso procesos de toma de decisiones públicas.
Según plantearon, si estos sesgos no son identificados previamente, existe el riesgo de construir diagnósticos incompletos o tomar decisiones basadas en una representación distorsionada de ciertos grupos de la sociedad.
“El uso de modelos de inteligencia artificial para simular opinión pública requiere evaluaciones rigurosas de su desempeño en cada contexto local”, concluye la investigación.
Expertos llaman a evaluar la IA antes de aplicarla en Chile
El estudio plantea que la inteligencia artificial no debe ser considerada una herramienta completamente neutral, sino un sistema que refleja los patrones, limitaciones y desequilibrios presentes en los datos utilizados durante su desarrollo.
Por ello, los investigadores recomiendan realizar evaluaciones específicas antes de utilizar modelos predictivos en ámbitos como políticas públicas, estudios electorales, investigaciones sociales o análisis ciudadanos.
Leave a Reply