¿De qué manera la IA discrimina grupos de población? ¿Cuáles son las implicaciones para las categorías de raza, género y sexualidad? Estos han sido algunos de los interrogantes que se han planteado en el seminario “Discriminaciones algorítimicas” coorganizado por el CCCB y el proyecto europeo Algorithmic Societies sobre los impactos sociales de la IA, y que se ha celebrado en el marco de los debates “Sociedades algorítmicas: Ética y política en la era de la inteligencia artificial”, que han tenido lugar los días 21 y 22 de noviembre.
Este seminario internacional, moderado por Jordi Pérez Colomé, periodista de El País especializado en tecnología, ha contado con la participación de expertos internacionales en la materia, como Thao Phan (Universidad Monash), Scott Wark (Universidad de Kent), Rocco Bellanova (Universidad Libre de Bruselas) y Carlos Castillo (ICREA-Universidad Pompeu Fabra), además de la participación de Adrián Arnaiz y Piera Riccio, dos investigadores predoctorales de la Fundación Unidad ELLIS Alicante, la única fundación en España dedicada a la investigación de excelencia en IA centrada en las personas.
Tanto Adrián como Piera, son uno de los 5 investigadores becados por Fundación Banco Sabadell para la realización de su doctorado, en concreto, Adrián estudia la justicia de la IA, la causalidad y la teoría de grafos para mejorar la ética, la responsabilidad y la transparencia en la toma de decisiones algorítmicas; y Piera, se centra en cómo la IA puede influir en cómo son interpretados los cuerpos de las mujeres y en la censura de estos algoritmos en las redes sociales.
Durante el debate, se ha reflexionado sobre la discriminación existente en los algoritmos, desde las técnicas de clusterización hasta los sistemas de vigilancia racializada pasando por la discriminación en las aplicaciones de búsqueda de trabajo, que generan y perpetúan nuevas formas de división social. Sin duda, es necesaria una reflexión sobre los valores que están configurando las aplicaciones de la IA. ¿Cuál es el origen de los sesgos que impregnan los algoritmos? ¿A qué intereses responden?
Para continuar con el debate y la reflexión, y profundizar en la materia, el CCCB con el el Barcelona Supercomputing Center – Centro Nacional de Supercomputación (BSC-CNS) ha producido la exposición IA: Inteligencia artificial, que cuenta con nuestra colaboración, y que plantea una muestra interactiva acerca de la historia, el funcionamiento, las posibilidades creativas y los retos éticos y legislativos de la inteligencia artificial hoy. Interrogantes necesarios en un contexto en el que esta tecnología está creciendo rápidamente y que se ha introducido de forma directa en nuestras vidas. ¿Cómo acercarnos a la IA de forma racional? ¿Cómo se plantea el futuro de esta tecnología? ¡Todo esto y más hasta el mes de marzo en el CCCB!
