Inteligencia artificial al servicio de la Memoria, la Verdad y la Justicia

En Enredando las mañanas entrevistamos a Ivana y a Lena, integrantes de Data Género (Observatorio de datos con perspectiva de género) sobre el rol que los datos y la inteligencia artificial pueden tener para los derechos humanos.

“Nosotrxs creemos que los datos, es decir, la información en general que se tiene de las distintas personas, es un recurso que hoy en día es muy valioso y está siendo muy usado por empresas y el Estado y creemos que estos datos deben ser tratados con una perspectiva de género y de derechos humanos”.

Es importante reconocer que “hay mucho usos complicados que se pueden llegar a hacer en relación a los datos, empresas muy grandes toman datos de las personas sin pedir permiso. Y también hay algo de la concepción dentro de DATA GENERO que tiene que ver con poder usar estas herramientas para aplicarlas a cosas que funcionen para el beneficio de todes, porque las empresas justamente con los datos, con la inteligencia artificial, construyen para su propio beneficio.” En Data Género proponen entender a las herramientas en su complejidad, no como algo “malo” intrínsecamente, sino “entender que se puede tomar y usar para cosas positivas y para ayudar”.

Se habla mucho de los sesgos, ¿que son? “Dentro de la estadística tradicional se piensan como errores al momento de trabajar con la información.” Sin embargo, dentro de DATA GENERO trabajan con el concepto de sesgos “en lo que tiene que ver con ´personas en situaciones de vulnerabilidad´, es decir, en general los datos son tomados de esta población de describía antes, este sujeto “universal”: el varón blanco, heterosexual, adulto, sic género, que vive en el norte global o en las capitales de los distintos países, y hay mucha información que cuando solo se le pregunta a ese sujeto, hay muchas personas que quedan por fuera”. “Entonce esos estudios están sesgadas porque no estamos escuchando las voces de todas las personas, a veces no porque no vayamos a buscar a esas personas sino porque las preguntas no están pensadas para acercarnos a esas personas”.

Para escuchar la nota completa: