Los periodistas deben detectar y mitigar los sesgos de la IA
El Instituto Reuters ha publicado recientemente un interesante artículo firmado por Ramaa Sharma, reconocida periodista británica, en el que entrevista a 18 expertos del mundo del periodismo, la tecnología y el ámbito académico para analizar cómo las redacciones están incorporando la IA generativa. Sus respuestas revelaron opiniones dispares: algunos ven un potencial transformador, mientras que otros advierten de los riesgos, como el hecho de que los modelos de IA reflejan inevitablemente los prejuicios de los datos con los que se han entrenado.
Los sesgos de los modelos de IA pueden aflorar en cualquier etapa, desde la recopilación de datos hasta su implementación, con consecuencias en el mundo real, como diagnósticos erróneos o exclusión de servicios esenciales.
Los investigadores identifican tres grandes categorías de sesgos. El sesgo estadístico surge de las lagunas o distorsiones en los conjuntos de datos, como los datos sanitarios sesgados hacia los hombres que no reflejan las necesidades de las mujeres. El sesgo cognitivo refleja los errores de juicio humanos, por ejemplo, cuando los recomendadores de noticias se hacen eco de las inclinaciones políticas de los editores. El sesgo social incorpora desigualdades históricas, como los datos de contratación que privilegian a los hombres en puestos de liderazgo. Aunque mitigar estos defectos requiere tiempo y recursos, los medios de comunicación están empezando a actuar.
Sin embargo, los retos persisten. Los modelos lingüísticos tienden a sobrerrepresentar la «media», dejando de lado los matices culturales y la originalidad, mientras que el envenenamiento de los conjuntos de datos plantea nuevos riesgos de manipulación.
Algunas organizaciones están experimentando con medidas proactivas: el Financial Times utiliza medidas de seguridad en el diseño para ampliar la exposición de los lectores, y la herramienta Authentically de la Universidad de Florida ayuda a detectar sesgos en el lenguaje de las redacciones.
La conclusión es que, aunque puede que sea imposible eliminar por completo los sesgos, reconocer sus raíces y abordarlos con equipos interdisciplinarios es esencial para que el periodismo aproveche la IA de forma responsable.
