Melina Orquidea
Expertos de Naciones Unidas advirtieron que los sistemas de inteligencia artificial pueden reproducir y profundizar desigualdades raciales en ámbitos como la seguridad, la educación, la salud y los servicios públicos. Durante un debate celebrado en Nueva York, también denunciaron que los algoritmos de las plataformas digitales amplifican los discursos de odio. La Unión Europea reclamó controles, transparencia y mecanismos de protección de los derechos humanos.
La inteligencia artificial (IA) se convirtió en un nuevo escenario de reproducción del racismo estructural. Expertos de la Organización de las Naciones Unidas (ONU) advirtieron el lunes 2 de noviembre, durante el 81.º período de sesiones de su Asamblea General, que los sistemas tecnológicos pueden incorporar prejuicios raciales existentes y trasladarlos a decisiones que afectan directamente la vida de millones de personas.
La advertencia fue formulada ante la Tercera Comisión, encargada de asuntos sociales, humanitarios y culturales, durante un debate sobre racismo, xenofobia y otras formas de intolerancia. Los especialistas señalaron que la discriminación histórica puede quedar incorporada en los datos utilizados para desarrollar herramientas digitales y multiplicarse cuando estas intervienen en decisiones institucionales.
Cuando una máquina reproduce los prejuicios de una sociedad
La relatora especial de Naciones Unidas sobre las formas contemporáneas de racismo, discriminación racial, xenofobia e intolerancia, Ashwini K. P., presentó un informe sobre las consecuencias de la inteligencia artificial y las tecnologías digitales para la igualdad racial.
La especialista explicó que los algoritmos se desarrollan dentro de sociedades atravesadas por desigualdades históricas relacionadas con la esclavitud, el colonialismo, la segregación y el racismo institucional.
Cuando los sistemas son entrenados con información que refleja esos antecedentes, pueden reproducir patrones discriminatorios incluso sin que sus desarrolladores introduzcan expresamente instrucciones racistas.
El problema adquiere especial gravedad cuando la tecnología participa en procesos de selección, clasificación o evaluación de personas.
Por ejemplo, un sistema utilizado para analizar solicitudes laborales podría favorecer perfiles asociados históricamente con grupos que tuvieron mayores oportunidades de empleo. Una herramienta de evaluación crediticia podría perjudicar a poblaciones residentes en barrios que sufrieron décadas de exclusión financiera.
Son mecanismos posibles de discriminación algorítmica que requieren análisis de sus datos, funcionamiento y resultados para determinar si efectivamente producen desigualdades.
La Tercera Comisión de la Asamblea General de Naciones Unidas examina cuestiones sociales, humanitarias y de derechos humanos, incluida la discriminación racial. Imagen ilustrativa de una sesión de la ONU.
Policías, hospitales y escuelas: dónde puede afectar el racismo algorítmico
El informe presentado ante Naciones Unidas identificó riesgos especialmente relevantes cuando la inteligencia artificial se utiliza en funciones públicas.
En materia de seguridad, los sistemas de vigilancia, reconocimiento facial y evaluación predictiva pueden reproducir desigualdades cuando utilizan registros policiales construidos sobre prácticas históricas de control desproporcionado de comunidades racializadas.
En educación, las herramientas automatizadas de evaluación o selección pueden perjudicar a estudiantes cuando emplean indicadores asociados con condiciones sociales desiguales.
En salud, los algoritmos que establecen prioridades de atención pueden generar resultados discriminatorios si los datos utilizados para entrenarlos representan de manera insuficiente a determinados grupos poblacionales.
La relatora advirtió que la falta de transparencia y de supervisión humana aumenta estos riesgos, particularmente cuando las personas afectadas desconocen cómo se tomó una decisión y carecen de mecanismos para impugnarla.
La cuestión central es que una resolución automatizada puede adquirir apariencia de objetividad pese a estar construida sobre información desigual.
Las plataformas digitales amplifican los discursos de odio
La preocupación de Naciones Unidas también alcanza a las redes sociales y a los sistemas que determinan qué contenidos reciben mayor visibilidad.
Las plataformas digitales utilizan algoritmos de recomendación para seleccionar publicaciones de acuerdo con distintos indicadores de interacción. Los especialistas advirtieron que esos mecanismos pueden amplificar discursos racistas y xenófobos cuando priorizan contenidos capaces de generar reacciones intensas.
De esta manera, los mensajes discriminatorios pueden alcanzar audiencias mucho mayores que las obtenidas mediante formas tradicionales de difusión.
La relatora señaló que los modelos comerciales basados en la interacción de los usuarios pueden incentivar la circulación de contenido perjudicial cuando carecen de controles adecuados de derechos humanos.
El fenómeno tiene consecuencias particularmente importantes para comunidades afrodescendientes, indígenas, migrantes y otras poblaciones que enfrentan campañas de hostigamiento, estigmatización y desinformación.
La Unión Europea exige controles, pero rechaza nuevas normas internacionales
Durante el debate, la Unión Europea (UE) expresó preocupación por el crecimiento de la discriminación vinculada con las tecnologías digitales.
En representación de sus Estados miembros, sostuvo que la inteligencia artificial y las plataformas pueden favorecer la difusión de narrativas excluyentes, información engañosa y prejuicios raciales.
El bloque reclamó sistemas transparentes, mecanismos de supervisión y medidas destinadas a prevenir la discriminación desde las etapas iniciales de desarrollo tecnológico.
Sin embargo, también manifestó su oposición a crear nuevos instrumentos jurídicos internacionales para abordar estas cuestiones. Su posición consiste en fortalecer la aplicación de las obligaciones existentes, particularmente las derivadas de la Convención Internacional sobre la Eliminación de Todas las Formas de Discriminación Racial.
La diferencia es relevante: mientras los expertos advierten sobre nuevas manifestaciones tecnológicas del racismo, los Estados todavía discuten si deben establecer obligaciones adicionales o aplicar las normas internacionales vigentes.
Veinticinco años después de Durban, el racismo encuentra nuevas herramientas
El debate coincidió con el 25.º aniversario de la Declaración y el Programa de Acción de Durban, adoptados en Sudáfrica en 2001 durante la Conferencia Mundial contra el Racismo.
Aquel acuerdo internacional reconoció la persistencia de la discriminación racial y estableció compromisos para enfrentar sus manifestaciones institucionales, económicas y sociales.
Un cuarto de siglo después, la expansión de la inteligencia artificial introduce nuevas dimensiones en esa discusión.
Las desigualdades pueden reproducirse mediante herramientas que intervienen en la distribución de oportunidades, recursos y servicios. Su alcance depende del diseño de los sistemas, la calidad de los datos y las condiciones en que las instituciones los utilizan.
La discusión también cobra importancia durante el Segundo Decenio Internacional de los Afrodescendientes, establecido por Naciones Unidas para el período 2025-2034, cuyo programa promueve medidas contra la discriminación y el reconocimiento de los derechos de estas poblaciones.
América Latina ante el desafío del racismo tecnológico
La advertencia de la ONU tiene consecuencias para países latinoamericanos que incorporan progresivamente herramientas automatizadas a actividades públicas y privadas.
En sociedades con desigualdades históricas asociadas al color de piel, el origen étnico, la nacionalidad y la posición socioeconómica, la utilización de datos sin controles adecuados puede trasladar esas diferencias al funcionamiento de sistemas tecnológicos.
En Argentina, la discusión adquiere relevancia para las comunidades afrodescendientes, indígenas y migrantes, especialmente en ámbitos como la identificación de personas, la selección laboral, la seguridad y el acceso a servicios.
El desarrollo de políticas públicas sobre inteligencia artificial plantea la necesidad de auditorías independientes, protección de datos personales, participación de comunidades afectadas y mecanismos efectivos para denunciar decisiones discriminatorias.
La supervisión también alcanza a las empresas que diseñan y comercializan estos sistemas, cuya responsabilidad debe examinarse conforme a las normas aplicables y a los efectos de sus productos.
La tecnología no elimina por sí sola las desigualdades sociales. Cuando sus datos y criterios reproducen prácticas discriminatorias, puede extenderlas a una escala mucho mayor.
El desafío de garantizar una inteligencia artificial libre de discriminación
Las intervenciones del 2 de noviembre incorporaron el racismo algorítmico a una discusión internacional sobre las obligaciones de los Estados y las responsabilidades de las empresas tecnológicas.
La Tercera Comisión examinó los informes y las posiciones presentadas, sin que esa sesión supusiera la aprobación de una nueva resolución vinculante específica sobre discriminación racial e inteligencia artificial.
Las advertencias de los expertos plantean una cuestión concreta: los derechos humanos deben estar protegidos también cuando una decisión es adoptada o facilitada por un sistema automatizado.
Para ello resultan fundamentales la transparencia sobre los criterios utilizados, la revisión humana de decisiones relevantes y la posibilidad de corregir resultados discriminatorios.
El racismo también puede quedar incorporado en una base de datos, un algoritmo o un sistema de vigilancia. Combatirlo exige reconocer que detrás de cada decisión tecnológica existen elecciones humanas sobre qué información utilizar, cómo interpretarla y a quiénes puede perjudicar.
La advertencia de Naciones Unidas sitúa esa responsabilidad en el centro del debate internacional: la innovación tecnológica debe avanzar junto con garantías efectivas de igualdad y protección de los derechos humanos.
