Del 8 al 29 de septiembre pasado se celebraron en Caixa Fórum Macaya, coorganizado con El Observatorio Social, cuatro sesiones sobre “El sesgo de los Algoritmos”.
Cada una de las sesiones estuvo dedicada a una temática y concretamente fueron:
- El género de los Algoritmos
- La Ética de los Algoritmos
- El Algoritmo sin empatía
- Algoritmos que condicionan votos
El nivel y conocimientos de las personas que desarrollaron los temas fue extraordinario como podéis comprobar a continuación:
- Karina Gibert
- Idoia Salazar
- Karma Peiró
- Lucía Velasco
- Xavier Roig
- Alberto Chinchilla
Podéis encontrar sus amplios currículums en todos los buscadores en la red.
El contenido de las cuatro sesiones daría, sin duda, para escribir un libro, pero la física manda y el espacio y el tiempo son limitados, por ello voy a intentar en base a mis apuntes y a modo de resumen, citar las ideas fuerza que surgieron, según mi opinión
- Los algoritmos no deben regular nada, son las personas quienes deben hacerlo. Los algoritmos son impalpables. La decisión conlleva responsabilidad y la Inteligencia Artificial (IA) no puede asumirla.
- La Ética no es un concepto universal.
- Los sesgos en los datos son inevitables porque son del pasado y no tienen en cuenta las modificaciones y situación actual.
- La máquina no debe sustituir al humano, debe ayudarlo, complementarlo. El ser humano debe estar en el centro, disponiendo siempre de un “botón de desconexión” que permita tomar el control de la situación.
- El algoritmo y las recomendaciones de contenido que realizan en redes sociales, limitan la información que llega a las personas, creando filtros burbuja que ofrecen una visión restringida de la realidad.
- Debemos de ser conscientes de que cada uno de nosotros somos responsables de nuestra huella digital
- Hemos de tomar conciencia de que estamos en un mundo en el que los algoritmos “oyen y estudian las conversaciones en las redes”, alimentando un populismo por parte de nuestros líderes y dirigentes que priorizan el contentar a la gente y lo que manifiestan en redes y medios digitales, más allá de apostar por propuestas necesarias pero impopulares.
A modo de conclusión, me permito reproducir un listado de seis recomendaciones para el tratamiento de la IA, presentado por Lucía Velasco Jones:
- Desmitificar la inteligencia artificial
- Debate social sin limitaciones ni prejuicios
- Educación, alfabetización y comprensión
- Regular de forma inteligente, rápida y ágil
- Diversidad en el diseño de algoritmos e igualdad en la industria
- Sistemas de control algorítmico: auditoría + ensayos + transparencia
Por último, una recomendación de Karina Gibert:
“Animar, alentar a las mujeres a elegir estudios y carreras técnicas para ampliar la visión y aplicación de la IA”
Jesús Yustos (ingeniero jubilado voluntario en Fundación Esplai).
Imagen de Freepik