Explicamos cómo usar la IA de manera ética cuando está en juego la vida de las personas.
La importancia de la ética en la IA y sus consecuencias sociales
En el ámbito social tenemos el deber de mirar con lupa cómo se usan las herramientas tecnológicas. La IA, usada sin ética, puede amplificar problemas sociales a gran escala. Como bien apunta Idoia Salazar, presidenta de OdiseIA, “el peligro no es la IA en sí misma, sino cómo los humanos la usamos”. Y eso es clave: no es una tecnología casi mítica, sino una herramienta que refleja nuestra sociedad (y a veces, nuestros prejuicios).
Un riesgo grave son los sesgos algorítmicos. Si los datos con los que se entrena la IA ya están contaminados —con sesgos de género, etnia o clase social—, los sistemas solo los reproducen y, peor aún, los amplifican. Esto ocurre, por ejemplo, en sistemas de selección de personal, concesión de créditos o decisiones judiciales. En un contexto social, significa que quienes ya estaban en desventaja, lo pasarán aún peor. Y así, “lo que estaba al borde acaba siendo marginado, sin darnos cuenta”.
Además, sin supervisión, una IA mal diseñada puede vulnerar la privacidad, revelar datos personales o tomar decisiones sin claridad ni responsabilidad. ¿Quién responde si una persona es excluida de un servicio por culpa de un algoritmo defectuoso? Si no hay regulación clara, nos quedamos con las manos atadas… y hay otra cuestión, ¿la legislación podrá legislar al mismo ritmo que avanza la IA?
Sin olvidar: el impacto medioambiental como vimos en el último episodio del podcast. El entrenamiento de grandes modelos consume energía y recursos, con huella ecológica directa. La irresponsabilidad ética en IA no solo afecta a las personas, sino también al planeta.
Pautas para una IA ética en intervención social
Como profesionales del ámbito sociales, tenemos una brújula ética y social —y no está de más usarla para guiar el desarrollo y aplicación de la IA. Aquí unas pautas para hacerlo bien —y además, explicadas con un poco de chispa—:
- Priorizar el enfoque humano
La tecnología al servicio de la persona. No al revés. Antes de usar una IA, plantéate: ¿qué problema social soluciono? ¿A quién beneficia? ¿Puede perjudicar a alguien? Recuerda nuestro enfoque de la atención centrada en las personas. - Detectar y corregir sesgos
Revisiones constantes de los datos: ¿quién está representado? ¿quién no? Imprescindible contar con equipos diversos y no fiarnos de que el algoritmo “lo hace todo bien”. Si no hacemos estos filtros, nos arriesgamos a reproducir discriminaciones, vaya por donde vaya. - Transparencia y responsabilidad
La gente tiene derecho a saber cómo se toman las decisiones automatizadas. Por ello hace falta explicar en lenguaje claro qué hace la IA, quién la supervisa y qué hacer si algo sale mal. Y sí, esto incluye mecanismos para que haya quién rinda cuentas. Explicar cómo funciona la IA, es democratizarla. - Supervisión humana decente
Jamás dejar la toma de decisiones importantes solo en manos de una máquina. Siempre tiene que haber una persona que revise, avale o corrija esa decisión. Así evitamos malas pasadas o errores difíciles de revertir. - Formación y sensibilización
Ni todos vamos de expertos en datos ni basta con poner la IA delante sin más. Hay que formar a equipos sociales y a las personas usuarias en qué es la IA, cómo funciona y cuál es su impacto. - Regulación dinámica y colaborativa
Como señala Salazar, se necesita una regulación lo suficientemente flexible para no frenar la innovación, pero robusta para proteger derechos. Eso implica participación institucional, del tercer sector y la comunidad, mano a mano. - Sostenibilidad como criterio
Elegir modelos de IA más eficientes, ahorrar energía y pensar en el impacto ecológico. No se trata solo de justicia social, sino de cuidar nuestro entorno y recursos. ¿A que no habíamos visto la IA desde esa mirada?
Usar la IA de manera ética en el ámbito social no es un lujo, es una obligación profesional. Si no ponemos límites, supervisión y conciencia, corremos el riesgo de reproducir desigualdades y dañar a quienes trabajamos para proteger. Pero si la usamos bien —con cabeza, corazón y gente implicada— puede ser una herramienta poderosa para mejorar vidas.
Caso práctico: IA en la asignación de ayudas sociales
Imagina que una administración pública decide usar un sistema de IA para priorizar a quién se le concede una ayuda económica para familias en situación de vulnerabilidad. El objetivo es optimizar recursos y reducir tiempos de espera. Hasta ahí, todo bien.
El sistema se entrena con datos de los últimos diez años: ingresos, código postal, situación familiar, acceso a servicios, etc. Pero aquí viene el lío: los datos históricos ya están cargados de desigualdades estructurales. Por ejemplo, hay barrios que históricamente reciben menos ayudas porque tienen menos acceso a recursos, no porque no las necesiten. O mujeres migrantes que aparecen como “menos solventes” porque trabajan en la economía informal, aunque sostienen a familias enteras.
Resultado: el algoritmo “aprende” que ciertas zonas o perfiles tienen más riesgo de fraude o menor probabilidad de “éxito” con la ayuda. Y empieza a rechazar solicitudes automáticamente sin revisión humana. A muchas familias, ni siquiera se les avisa del motivo.
¿Consecuencia? Gente con verdadera necesidad queda excluida. El algoritmo refuerza los mismos patrones de desigualdad que se suponía que debía ayudar a corregir.
¿Cómo se hubiera hecho con una mirada ética?
- Auditoría del sistema antes de implementarlo, detectando posibles sesgos en los datos históricos.
- Incluir en el equipo de diseño a profesionales del trabajo social, que conocen la realidad social y pueden aportar una mirada crítica y humana.
- Asegurar que cada caso rechazado por la IA es revisado por una persona antes de tomar una decisión final.
- Establecer mecanismos para que las personas puedan recurrir o pedir explicaciones, en lenguaje claro y accesible.
- Publicar informes periódicos sobre cómo decide el algoritmo y qué impacto tiene en las personas y colectivos.