Cómo es AymurAI, la inteligencia artificial que recolecta datos de violencia de género en Argentina

AymurAI, una herramienta basada en inteligencia artificial (IA) que anonimiza y recopila datos de violencia de género ya disponible para el sistema judicial de Argentina, es una muestra de “cómo estos sistemas pueden ponerse al servicio de nuestras luchas" si se impulsan proyectos que “atiendan la perspectiva de género y las necesidades locales”, aseguraron sus creadoras.

La aplicación fue desarrollada por el Observatorio de Datos "DataGénero", de Argentina, junto a especialistas de México y Suecia, en el marco de una convocatoria realizada por la red global A Plus Alliance for Inclusive Algorithms (Alianza para Algoritmos Inclusivos).

La idea surgió a partir de la experiencia que viene desarrollando el Juzgado Penal, Contravencional y Faltas N° 10 de la Ciudad de Buenos Aires, a cargo de Pablo Casas, que desde 2016 publica sus resoluciones organizadas por temáticas, entre ellas casos de violencia de género, en un principio de forma manual y luego a través de inteligencia artificial.

"Teníamos la necesidad de acercar la justicia a la ciudadanía por la desconfianza que hay en el sistema judicial y la falta de transparencia en el tratamiento de los casos de violencia de género contra las mujeres y LGBTIQ+", explicó Yasmín Quiroga, abogada del juzgado e integrante de DataGénero.

A esto se suma la carencia de datos unificados sobre violencia de género en el país, cuya “única base de datos abiertos oficiales” es la de la Oficina de Violencia Doméstica de la Corte Suprema de Justicia y los informes del Registro Único de Casos de Violencia de Género, que tiene datos hasta el 2018.

En tanto, los datos de femicidios son contabilizados por organizaciones que llevan un registro de los casos publicados en medios digitales e impresos.

En ese marco decidieron crear el sistema AymurAI, que permite anonimizar las sentencias de casos de violencia de género y agilizar la recopilación de las mismas, lo que no quiere decir “automatizar procesos judiciales que requieran intervención y decisión humana”.

El procedimiento es sencillo y no requiere de software ni capacitación especial: se cargan las sentencias digitalizadas y el programa detecta cuáles son las entidades más importantes, como el tipo de violencia, el lugar, el género, el vínculo con el agresor y qué se resolvió, en tanto reemplaza los datos sensibles por etiquetas.

Se trata de una herramienta semiautomática, es decir, que su resultado siempre será validada por una persona.

"Es importante entender que la IA nunca debería resolver sola de manera autónoma, siempre tiene que haber una persona que la utilice y valide lo que la IA da como resultado", indicó Quiroga, junto a la directora del observatorio, Ivana Feldfeber.

"Este proyecto busca sentar un precedente para el diseño, la implementación y el despliegue feministas de tecnologías de inteligencia artificial del Sur Global", aseguraron sus creadoras, que anhelaron "sea utilizado por cada vez más juzgados".

Se trata de "abrir los datos de las sentencias como un primer paso hacia una reforma judicial feminista", necesaria para atacar "un problema tan apremiante como la violencia de género", concluyeron.