Unesco advierte: La IA debe ser inclusiva para evitar sesgos racistas y machistas
La mexicana Gabriela Ramos, directora general adjunta para Ciencias Sociales y Humanas de la Unesco, advirtió sobre los peligros de que la Inteligencia Artificial (IA) sea programada únicamente por hombres blancos. Según Ramos, esto podría perpetuar sesgos racistas y machistas en la construcción del futuro digital.
En el marco del IV Foro Global contra el Racismo y la Discriminación, celebrado en Barcelona, Ramos destacó en una entrevista con EFE la necesidad de fomentar un desarrollo inclusivo de la IA. “La mayoría de los programadores en las grandes tecnológicas son hombres y son blancos. Sin una perspectiva diversa, se reproducen patrones de exclusión”, enfatizó.
Machine Learning sin sesgos: una oportunidad clave
Ramos explicó que el machine learning, base del entrenamiento de la IA, brinda la posibilidad de construir sistemas tecnológicos sin sesgos si se implementan patrones éticos. En este sentido, recordó que garantizar una IA ética es uno de los mandatos principales de la Unesco.
Gobernanza y control sobre las plataformas digitales
La directora instó a las administraciones públicas a implementar marcos regulatorios sólidos que permitan controlar el desarrollo de la IA. “No podemos caer en la trampa de creer que las tecnologías son incontrolables. Ejemplos como la ley de Australia, que prohíbe redes sociales a menores de 16 años, demuestran que las políticas efectivas son posibles”, afirmó.
Ramos subrayó que las plataformas deben asumir responsabilidad legal por sus productos. “Si algo tiene consecuencias en el mundo analógico, también debe tenerlas en el mundo digital”, aseveró.
Abusos laborales en la moderación de contenidos
Otro de los temas más preocupantes para Gabriela Ramos son los abusos en la moderación de contenidos. En los últimos años, grandes plataformas han contratado a trabajadores africanos para filtrar imágenes violentas, exponiéndolos a material perturbador por sueldos bajos y sin apoyo psicológico.
“Es escandaloso que existan estos ‘trabajadores fantasma’ en África, expuestos durante horas a imágenes terribles. Necesitan reconocimiento de sus derechos laborales y apoyo para su salud mental”, denunció Ramos.
Regulación de la IA para evitar abusos
Ramos abogó por utilizar los avances tecnológicos de la IA para autorregularse y evitar abusos, colaborando no solo con gobiernos, sino también con la sociedad civil y el sector privado.
Alianza global contra el racismo y discriminación
Durante el foro celebrado en Barcelona, la Unesco y los organizadores impulsaron una Alianza Global con el compromiso de fomentar la educación y la formación en todos los sectores para desmantelar los prejuicios y vestigios de racismo.
Una de las iniciativas más destacadas será la implementación de ‘Clases Magistrales contra el Racismo y la Discriminación’, que brindarán herramientas pedagógicas para la concienciación y el desarrollo de competencias inclusivas.
Leave a Reply