Campo Base
Episodio 3x06
con Judith Membrives
Responsable de Inteligencia Artificial y Derechos Humanos de Lafede - Justicia Global
En el día a día de una entidad social, la presión por la eficiencia es una constante asfixiante. Los plazos de las subvenciones, las cargas de trabajo al límite y la precariedad de recursos empujan a muchas organizaciones a mirar la tecnología como un balón de oxígeno. Es aquí donde la Inteligencia Artificial generativa aparece como la promesa de ser capaces de hacer más con menos.
En este episodio de Campo Base, nos detenemos para hacernos la gran pregunta. ¿A qué precio estamos comprando esa eficiencia? ¿Es la IA una herramienta que se puede alinear con nuestra forma de entender el mundo o estamos metiendo en casa un «caballo de Troya» que amplifica las desigualdades que combatimos?.
Para desgranar esta tensión, contamos con Judith Membrives, activista e investigadore en el ámbito de los derechos digitales y la justicia algorítmica. Como responsable de tecnología y derechos humanos en Lafede – justicia global y cofundadore de Algorights, Judith plantea cuestiones que el tercer sector necesita hacerse. Esta conversación es una invitación a mirar bajo el capó de la IA y decidir, con criterio propio, qué tipo de organizaciones queremos ser.
La cara oculta de la cadena de suministro de la IA
Para que una ONG pueda resumir un proyecto con IA, se ha puesto en marcha una cadena de distribución global con un impacto humano y ambiental devastador. Judith nos recuerda que la IA tiene una base material que incluye la extracción de minerales raros y un consumo masivo de agua y energía para el funcionamiento de los centros de datos.
Pero el coste no es solo ambiental. Detrás de los algoritmos existe un trabajo invisibilizado de miles de personas en el Sur Global. Judith revela una realidad que a menudo desconocemos, la de personas encargadas de limpiar las bases de datos para que la IA aprenda, operando en condiciones de extrema precariedad. Cuando una entidad social que trabaja por la justicia global utiliza estas herramientas sin cuestionarlas, de repente nos surge una paradoja ética a la que deberemos enfrentarnos.
El espejismo de la objetividad y el sesgo hacia la máquina
Como seres humanos, hemos desarrollado la tendencia a creer que, si una solución viene de un sistema algorítmico, es sistemáticamente más objetiva. Judith nos advierte de que este es el primer paso para dejar de pensar.
Existen estudios que demuestran cómo el uso prolongado de Inteligencia Artificial puede generar una dependencia que merme nuestras capacidades cognitivas y creativas. En el tercer sector, donde el juicio crítico y la empatía son fundamentales, delegar el razonamiento en un modelo de lenguaje que genera respuestas verosímiles de forma estadística tiene consecuencias devastadoras y no podemos arriesgarnos a ello.
Sin una formación adecuada y visión crítica que permita a las personas desafiar a la máquina, el sesgo de autoridad tecnológica acaba sustituyendo al criterio profesional.
El espejismo de la objetividad y el sesgo hacia la máquina
¿Significa esto que debemos renunciar a la IA? No necesariamente, pero Judith propone un cambio de mentalidad y de enfoque. En lugar de ser usuarias pasivas de paquetes de software cerrados de grandes corporaciones, Judith nos anima a recuperar la «ética hacker» y buscarle las costuras a la máquina, explorando modelos propios o de código abierto, adaptados a la realidad de cada entidad.
El tercer sector tiene la oportunidad de liderar la creación de una IA diferente, pensada desde la escasez de recursos y la emergencia climática, y no desde la optimización del beneficio. Judith nos habla de que debemos hacer nuestros propios pactos de incoherencia dentro de las organizaciones para decidir colectivamente qué usos de la tecnología son aceptables y cuáles traspasan las líneas rojas de nuestros propios valores.
Fotografía de la imagen: Iván Gimenez Costa para CRÍTIC