Derechos de las personas con discapacidad e Inteligencia Artificial

El Real Patronato sobre Discapacidad publica un informe que contrapone la visión optimista del potencial que contienen los desarrollo tecnológicos y digitales de la Inteligencia Artificial con una visión cautelosa que atiende a los riesgos de exclusión que estos desarrollos y soluciones pueden comportar, en particular para garantizar los derechos de las personas con discapacidad.

Este informe aborda la revolución digital de las últimas décadas y las consecuencias de esta vinculadas a la aparición de tecnologías disruptivas que han permitido el surgimiento de la Inteligencia Artificial (o la posibilidad de simular la inteligencia humana mediante las nuevas tecnologías) y la creciente interacción y dependencia entre los seres humanos y las máquinas, particularmente en los campos de la neurociencia, la genética y la robótica.

De la mano de la Inteligencia Artificial se ha logrado el desarrollo de sistemas informáticos capaces de emular y realizar actividades propias de los seres humanos relacionadas con la percepción, el razonamiento, el aprendizaje y la resolución de problemas. Sin embargo, la implementación de sistemas de Inteligencia Artificial puede implicar consecuencias "en la igualdad social, en la democracia y hasta en la propia naturaleza de nuestra especie".

Pese a las dificultades para dar con una definición única de Inteligencia Artificial, los elementos constitutivos básicos de esta son los algoritmos (de visión artificial, biométricos, de posicionamiento y procesadores de lenguaje natural) y los datos (microdatos y macrodatos), que alimentan constantemente los sistemas de Inteligencia Artificial (generativos, predictivos para la toma de decisiones y de recomendación). Los algoritmos, como secuencia de instrucciones precisas que producen siempre un mismo resultado, se han visto favorecidos por la capacidad informática de procesado de gran cantidad de datos, el desarrollo del aprendizaje automático (machine learning) y la captura de información sobre el mundo en forma de datos (proceso de dataficación).

Sesgos y vigilancia masiva: los riesgos de la Inteligencia Artificial

El informe señala que la creación inicial de algoritmos respondía al objetivo de neutralidad y al interés de evitar sesgos "demasiado humanos y una lógica defectuosa". Sin embargo, muchos de los algoritmos empleados en la actualidad han incorporado los prejuicios y conceptos erróneos de quiénes han sido responsables o participado en su diseño, lo que conduce a importantes desafíos al reproducirse sesgos sustanciales en materia de desigualdad. El documento subraya que los mecanismos de la Inteligencia Artificial puede que sean inteligentes, pero no necesariamente teniendo en cuenta los mejores intereses para las personas. Numerosos estudios, informes y trabajos académicos identifican los impactos negativos de la Inteligencia Artificial y revelan las discriminaciones en perjuicio de grupos sociales en situación de vulnerabilidad por causa de género, raza, situación migratoria o discapacidad.

De hecho, la Inteligencia Artificial comporta importantes retos en materia de derechos humanos, dado que por vez primera en la historia se cuenta con una entidad no-humana, no representada por humanos (lo que sería una persona jurídica), que tiene la posibilidad de tomar decisiones con efectos jurídicos. Es lo que algunas/os autoras/es identifican como un ente algo-humano que, sin embargo, asume una pseudo subjetividad jurídica muy similar a la de un ser humano.

La inteligencia artificial a la luz de los derechos de las personas con discapacidad

El documento profundiza en las consecuencias particulares que la Inteligencia Artificial presenta para las personas con discapacidad. Históricamente la relación entre el desarrollo tecnológico y la discapacidad ha estado marcada por prácticas eugenésicas, de ocultamiento, marginación, institucionalización y experimentación médica, aun cuando en algunos casos la tecnología ha permitido a algunas personas dentro del colectivo de la discapacidad el acceso a mejores y mayores derechos. Por tanto, el debate sobre los usos de los sistemas de Inteligencia Artificial y su condición de nuevo factor de exclusión o segregación no puede aislarse de la trayectoria histórica previa, ni tampoco del debate sobre las consecuencias de la tecnología en los derechos de las personas con discapacidad.

La concepción de la discapacidad se plantea así, al menos, desde tres dimensiones:

La condición de discapacidad se relaciona, por tanto, con la deficiencia, mientras que la situación y la posición con barreras sociales. En consecuencia, la condición de discapacidad no puede ser requisito o motivo de exclusión en el goce y ejercicio de los derechos, puesto que constituiría un ejercicio de discriminación.

El debate surge en la distinción entre condición y situación de discapacidad, o lo que es lo mismo, entre deficiencia y barrera, y conlleva una reflexión ética en relación con los riesgos y oportunidades que ofrecen las tecnologías basadas en la Inteligencia Artificial: estos sistemas ofrecen herramientas para eliminar barreras de todo tipo y, por ejemplo, con las neurotecnologías convergentes, ofrecen aplicaciones prácticas como el restablecimiento de la visión en personas ciegas; el restablecimiento de la movilidad en personas con lesiones medulares graves; la potenciación y restablecimiento de las habilidades cognitivas; o las posibilidad de mitigar neurodiversidades como el autismo o la esquizofrenia.

Riesgos de discriminación por motivo de discapacidad de los sistemas de Inteligencia Artificial

El uso de sistemas de Inteligencia Artificial pone de manifiesto múltiples vulneraciones de derechos, que se pueden agrupar en dos ámbitos fundamentales: el de la igualdad y el de la privacidad. Este informe denuncia, sin embargo, que en los discursos sobre diversidad e inclusión en general, la discapacidad ha quedado al margen del debate sobre el sesgo de la Inteligencia Artificial y de sus mecanismos de reproducción y amplificación de las lógicas de discriminación que históricamente han afectado a las personas con discapacidad.

Algunos/as investigadores/as insisten en la necesidad de que, al diseñar un sistema de Inteligencia Artificial, las/los profesionales de la programación e innovación sean conscientes de que cada conjunto de datos utilizado para entrenar sistemas de aprendizaje automático contiene una visión del mundo.

En definitiva, se plantea así la importancia del análisis de la exclusión de las personas con discapacidad en el momento de implementar tecnologías basadas en Inteligencia Artificial desde diferentes perspectivas: la accesibilidad a las mismas, la toma de requisitos y su consideración en las fuentes y bases de datos.

Recomendaciones para evitar la exclusión de la discapacidad en la tecnología basada en la Inteligencia Artificial

Estas se dirigen por una parte a las instituciones públicas, para que garanticen el respeto a las personas con discapacidad cuando se adquieren sistemas o herramientas de Inteligencia Artificial, ampliándose también a la toma de datos empleados para desarrollar los sistemas de Inteligencia Artificial. De este modo, en el funcionamiento del sistema de Inteligencia Artificial para una tarea específica, se recomienda, también, incorporar en la recogida de datos variables que caractericen correctamente a las personas con discapacidad, y de este modo intentar disminuir los sesgos del modelo.

Además, se apunta a que la incorporación de las personas en el proceso de recogida de datos puede ofrecer información clave sobre las variables a tener en cuenta en el desarrollo de los modelos, el tipo de información menos accesible por sus deficiencias y revelar nuevos casos de uso.

La parte final del documento, en base a una encuesta realizada a personas con discapacidad sobre el conocimiento y el uso de tecnologías soportadas en Inteligencia Artificial, se recoge información sobre aquellas consideradas facilitadoras del día a día de las personas con discapacidad, entre las que destacan: los asistentes de voz (contribuyendo a la autonomía de la persona, facilitando el contacto sociofamiliar, la búsqueda de información o el acceso a formación y a nuevas tecnologías); los traductores inteligentes (para traducción de textos, acceso a información, viajes, etc.); sistemas de transcripción; utilidades para el reconocimiento de documentos; soluciones de domótica; relojes y pulseras inteligentes: redes sociales; plataformas digitales de contenidos audiovisuales; plataformas para el fomento de la empleabilidad; o los apoyos a la conducción y los sistemas de geolocalización, entre otros.

Por último, entre las dificultades para el acceso y uso de los sistemas de Inteligencia Artificial, con la información obtenida en la encuesta, el informe señala que la accesibilidad se ve condicionada por: el coste de las tecnologías; por la ausencia de accesibilidad universal por parte de todo tipo de discapacidades; las dificultades de comprensión del lenguaje empleado en los manuales de instrucciones y menús de estas tecnologías; la necesidad de formación accesible para paliar las carencias de conocimiento de estos medios tecnológicos; el apoyo para la realización de trámites administrativos donde las tecnologías, a veces, se convierten en un obstáculo difícil de sortear; o las necesidades relacionadas con la discapacidad visual o auditiva, que no son consideradas por las tecnologías soportadas en Inteligencia Artificial, por citar algunas de las más destacadas.

Si desea ampliar esta información, puede acceder a los contenidos de la publicación "Impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad", publicado en 2023 por el Real Patronato sobre Discapacidad/ Ministerio de Derechos Sociales y Agenda 2030.