LAURA ALCANTARA
El papa León XIV advirtió que la inteligencia artificial «no puede considerarse moralmente neutra» y reclamó responsabilidades claras desde el diseño hasta su utilización. Sus declaraciones se producen en un momento en que más de 70 países ya impulsan regulaciones sobre IA y organismos como la UNESCO y la Unión Europea alertan sobre los riesgos de algoritmos que reproducen desigualdades y discriminación.
La inteligencia artificial dejó de ser únicamente un desafío tecnológico para convertirse en uno de los principales debates éticos y políticos del siglo XXI. En ese escenario, el papa León XIV decidió intervenir con una definición que trasciende el ámbito religioso: «No podemos considerar la inteligencia artificial como moralmente neutra».
La afirmación, publicada el 25 de junio en una serie de mensajes en la red social X, introduce una discusión que hasta hace pocos años permanecía casi exclusivamente en universidades, organismos internacionales y centros de investigación especializados. Para el Pontífice, el problema no reside únicamente en el uso que las personas hacen de la inteligencia artificial, sino en la propia arquitectura con la que estos sistemas son concebidos.
«Todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones», escribió León XIV. Con esa frase sintetizó una idea ampliamente desarrollada por especialistas en ética digital: los algoritmos no son neutrales porque reflejan las decisiones, valores, intereses y sesgos de quienes los diseñan.
El Papa fue un paso más allá al sostener que el análisis ético no debe limitarse a preguntarse si un sistema de inteligencia artificial se utiliza para un fin bueno o malo. También debe examinar «qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían».
Su planteo coincide con advertencias formuladas durante los últimos años por organismos internacionales. La UNESCO, en su Recomendación sobre la Ética de la Inteligencia Artificial aprobada en 2021 por los 193 Estados miembros, sostiene que los sistemas automatizados pueden amplificar desigualdades preexistentes si no incorporan principios de derechos humanos, transparencia, inclusión y rendición de cuentas desde su diseño.
En la misma dirección avanza la Unión Europea, que aprobó el AI Act, la primera legislación integral del mundo destinada a regular la inteligencia artificial según niveles de riesgo. La norma parte de un principio similar al expresado por León XIV: las tecnologías no son neutrales y, por lo tanto, quienes las desarrollan y comercializan deben asumir responsabilidades proporcionales al impacto que generan sobre las personas.
Precisamente sobre ese punto insistió el Pontífice. «Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas», afirmó. Según explicó, esa obligación alcanza a quienes diseñan los sistemas, a quienes los programan, a quienes los implementan y también a quienes delegan decisiones concretas en ellos.
La preocupación no es menor. Hoy la inteligencia artificial ya interviene en procesos de selección laboral, concesión de créditos, diagnósticos médicos, vigilancia urbana, recomendaciones educativas y administración pública. En muchos casos, las decisiones automatizadas afectan directamente derechos fundamentales sin que los ciudadanos conozcan cómo fueron tomadas.
Diversas investigaciones han demostrado que algunos algoritmos utilizados para contratación de personal, reconocimiento facial o evaluación crediticia reproducen sesgos de género, raza y condición socioeconómica presentes en los datos con los que fueron entrenados. Por esa razón, organismos como la OCDE y el Consejo de Europa sostienen que la transparencia y la posibilidad de auditar estos sistemas constituyen condiciones indispensables para proteger los derechos humanos.
El mensaje papal también introduce un cuestionamiento a la concentración del poder tecnológico. En la actualidad, el desarrollo de los modelos de inteligencia artificial más avanzados se encuentra en manos de un reducido grupo de corporaciones que controlan infraestructura de cómputo, grandes volúmenes de datos y capacidad de entrenamiento de modelos. Esto significa que decisiones adoptadas por un número limitado de empresas pueden influir sobre millones de personas en todo el mundo.
La Iglesia Católica ya había comenzado a intervenir en este debate durante el pontificado de Francisco mediante el llamado de Roma para una Ética de la IA (Rome Call for AI Ethics), impulsado junto con empresas tecnológicas, universidades y organismos internacionales. León XIV retoma esa línea, pero desplaza el eje desde el uso responsable hacia la responsabilidad estructural de quienes crean estas tecnologías.
Su intervención ocurre, además, en un contexto donde la inteligencia artificial comienza a abandonar los centros de datos para incorporarse a vehículos autónomos, robots humanoides, sistemas industriales y dispositivos domésticos. La llamada «IA embebida» multiplica el alcance de las decisiones automatizadas y amplía el impacto de los dilemas éticos asociados a su desarrollo.
La pregunta que plantea el Papa, entonces, excede el campo religioso. Obliga a repensar quién diseña los algoritmos que organizan la vida cotidiana, bajo qué criterios se entrenan y qué intereses representan.
Porque si cada sistema de inteligencia artificial incorpora una determinada visión del ser humano y de la sociedad, el verdadero debate ya no consiste únicamente en cuánto puede hacer la tecnología, sino en quién define los valores que terminarán gobernando esa inteligencia.
Melina Schweizer
