IA, accesibilidad, sesgos y techno-ableism (tecnocapacitismo)

Hoy os recomiendo el artículo "TechnoAbleism in India’s AI Moment: Why Accessibility Is Not Enough" de Nilesh Singit en el marco del India AI Impact Summit 2026.

Nilesh aborda el "techno-ableism", el tecnocapacitismo, la tendencia de los sistemas tecnológicos a parecer empoderadores, dice, cuando en realidad refuerzan discretamente suposiciones que favorecen a las personas sin discapacidad, pues consideran la discapacidad como una desviación en lugar de como diversidad:

"Una persona con discapacidad puede acceder a la interfaz, iniciar sesión en el sistema o navegar por la plataforma, y aun así enfrentarse a la exclusión a través de algoritmos de contratación, sistemas de reconocimiento o herramientas de decisión automatizadas que nunca fueron diseñados para cuerpos y mentes diversos. La experiencia no es la exclusión de la tecnología, sino la exclusión dentro de la tecnología misma."

Explica por qué la accesibilidad de los sistemas de inteligencia artificial no garantiza por sí sola la inclusión cuando los propios sistemas de inteligencia artificial están condicionados por sesgos estructurales.

"La accesibilidad determina si una persona con discapacidad puede usar un sistema. El sesgo determina si el sistema fue diseñado teniendo en cuenta a esa persona, si nos reconoce como participantes iguales una vez que entramos."

Nilesh aborda sesgos en:

• En el desarrollo de software (Vibe Coding): cuando las herramientas IA priorizan el diseño o el acceso por ratón, y no la estructura semántica, la navegación por teclado o la compatibilidad con lectores de pantalla, a menos que se solicite explícitamente.
• En los sistemas de toma de decisiones, como en la contratación: cuando los sistemas que analizan el habla, las expresiones o los patrones de comportamiento interpretan los estilos de comunicación propios de una discapacidad como indicadores de baja confianza o bajo rendimiento.
• En la exclusión de datos: la discapacidad suele estar ausente en los conjuntos de datos de entrenamiento, en los entornos de prueba y en los propios equipos de diseño, lo que hace que el comportamiento "no discapacitado" sea la base de referencia del sistema.
• En los sistemas de reconocimiento de voz y sistemas de visión: cuando tienen dificultades para entender patrones de habla "atípicos", o no pueden reconocer correctamente los dispositivos de asistencia.
• En la clasificación de comportamiento: cuando está entrenada para reconocer patrones de interacción que los desarrolladores consideran "normales", de modo que, cuando la diversidad humana cae fuera de esos patrones, el sistema interpreta la diferencia como un "error".

Os recomiendo leer íntegro su artículo.

Artículos relacionados

• Ley de Inteligencia Artificial de la Unión Europea. Alusiones a la accesibilidad y la discapacidad.

Nota: imagen del artículo generada con Gemini.