Campo Base
Episodio 3x04
con Cristina Aranda
confundadora de MujeresTech
La inteligencia artificial se nos presenta a menudo como un ente neutral, pero no lo es. Es un producto diseñado por humanos con visiones, datos y, sobre todo, sesgos específicos.
Para desgranar esta realidad, nos acompaña en este episodio Cristina Aranda, doctora en Lingüística y una de las voces más influyentes en España sobre diversidad y ética digital. Cristina no solo entiende el código, sino que entiende cómo el lenguaje y la falta de representación en los equipos de desarrollo están creando herramientas que, lejos de ayudar, podrían estar profundizando las brechas de exclusión que las entidades del tercer sector intentan cerrar.
Si alguna vez has sentido que las soluciones tecnológicas empaquetadas no encajan con la realidad de las personas vulnerables a las que atiendes, esta conversación te dará las claves para entender por qué. Es hora de abrir la caja negra de la IA y empezar a preguntar no solo qué puede hacer por nosotros y nosotras, sino a quién está dejando fuera.
Equipos homogéneos, exclusión automatizada
¿Por qué la IA suele fallar más con ciertos colectivos? La respuesta corta es la homogeneidad. Cristina señala que la gran mayoría de la tecnología que consumimos hoy ha sido diseñada por un perfil muy específico. Esta falta de diversidad cognitiva es un fallo de diseño que se traduce en algoritmos que no reconocen realidades fuera de esa norma.
Para el Tercer Sector esto es crítico. Si una entidad utiliza sistemas de IA para filtrar ayudas o clasificar personas beneficiarias, y esos sistemas han sido entrenados con datos sesgados, la discriminación se automatiza y se vuelve invisible. La propuesta de Cristina para «hackear» estos equipos de desarrollo y forzar una mirada diversa es uno de los puntos más provocadores de la charla, especialmente cuando explica cómo una mirada diversa debe ser básica en la innovación social.
Buscando la innovación social
Por suerte no todo es una señal de alarma. La IA tiene un potencial transformador para el bien común si se utiliza como un medio y no como un fin en sí mismo. Cristina destaca proyectos donde la tecnología se pone al servicio de la accesibilidad cognitiva, la detección temprana de enfermedades en países sin recursos o el reparto equitativo de suministros en crisis humanitarias.
La diferencia entre el éxito y el fracaso de estos proyectos no está en la potencia del algoritmo, sino en la estrategia previa. Hay una lección fundamental que Cristina comparte sobre por qué muchas ONG confunden el enfoque priorizando el uso de herramientas de IA que no necesitan, y tiene que ver con un error de base en la formación del personal que es sorprendentemente fácil de corregir si se cambia el enfoque.