democraciaAbierta

Un mundo formado por un millón de Adas

Nuestra propuesta es razonable y se puede pilotar: abran su sala de reuniones y sienten a las mujeres y niñas a la mesa de la Covid-19, donde se deciden las próximas intervenciones tecnológicas, incluyendo intervenciones de Inteligencia Artificial (IA), para resolver las crisis actuales.

Renata Avila
13 October 2020
Un robot humanoide inteligente fue exhibido en el Centro Internacional de Exposiciones de Suzhou. Ciudad de Suzhou, provincia de Jiangsu, China, 14 de agosto de 2020.
|
Photo by Dongxu Fang / Costfoto/Sipa USA

Hoy, en medio de múltiples crisis sociales y económicas mundiales, y de una pandemia, rendimos homenaje a Ada Lovelace - visionaria de la tecnología y malvada victoriana - con el fin de celebrar y estimular a más y más diferentes mujeres que diseñan las tecnologías de nuestro futuro.

Es imperativo que ampliemos sistemáticamente las oportunidades para que las mujeres resuelvan problemas sociales a gran escala, ampliando quiénes están incluidos en la definición del problema y el diseño de la solución de las tecnologías de vanguardia, especialmente la Inteligencia Artificial.

Se necesita un nuevo pensamiento estratégico dentro de la tecnología tradicional y las estructuras gubernamentales. Esta es nuestra política diaria y la lucha por la defensa en la Alianza para los Algoritmos de Inclusión.

Está ampliamente reconocido que la IA tiene un:

  1. Son hombres en su mayoría los que crean, diseñan, implementan y despliegan los sistemas. En lugar de aumentar, el número de mujeres ha ido disminuyendo, en los últimos años.
  2. La falta de diversidad en los datos y en los propios algoritmos que proporcionan recomendaciones de noticias/ películas /videos /etc, y ayuda en la toma de decisiones de líneas de crédito / préstamos / contratación de empleo / asignación de gobierno / tratamiento médico /etc., lo que lleva a una revolución de la credibilidad.
  3. Falta diversidad en el tipo de organizaciones que crean los sistemas de IA de vanguardia de hoy en día: la producción científica de la IA está dirigida por un puñado de empresas estadounidenses o chinas, no por universidades, centros de investigación, organizaciones sin fines de lucro u organizaciones de base.

Todo esto se suma a que los roles de género se están eliminando muy lentamente del mundo físico, que está siendo modificado con viejas concepciones estereotipadas y asociaciones de género, raza y clase en nuevos modelos de IA y de toma de decisiones automatizada.

Según el Foro Económico Mundial, sólo alrededor del 22% de todos los desarrolladores de IA son mujeres; la mayoría de ellas se encuentran en los 10 países más ricos. (Estas cifras no incluyen a las mujeres limpiadoras de datos, moderadoras de contenido y trabajadoras de gigas del sur global que no son reconocidas, son pasadas por alto y mal pagadas). Todos ellos luchan por llegar (y ser) responsables de la toma de decisiones e inversores. Igualmente preocupante y aún más inaceptable es la falta de políticas y normas para acelerar la igualdad en los propios algoritmos, y de políticas para impedir los futuros desiguales que acechan en los datos y modelos antiguos que, si no se desmantelan, se endurecerán y evolucionarán hacia un Patriarcado 2.0 aún más eficaz.

Muchas de las inversiones e infraestructuras del futuro tendrán soluciones tecnológicas en su núcleo, por lo que es imperativo incorporar acciones afirmativas en todas las etapas de los procesos.

En los próximos meses, los dirigentes mundiales tomarán medidas importantes para hacer frente a las crisis convergentes: desde la asignación de millones de dólares en fondos de socorro económico hasta la inversión en nuevos sistemas de salud. Regiones enteras ya han emprendido el camino hacia una transición verde. Muchas de las inversiones e infraestructuras del futuro tendrán como núcleo soluciones tecnológicas, por lo que es imperativo incorporar medidas de acción afirmativa en todas las etapas de los procesos.

En la <A+> Alianza para Algoritmos Inclusivos, proponemos un enfoque holístico para resolver el problema de la exclusión tecnológica desde sus raíces:

Pedimos que se tomen medidas dinámicas para incluir una variedad interseccional y un número igual de mujeres y niñas en la creación, diseño y codificación de la tecnología que queremos. Más allá de fomentar una mayor inversión y mejores estrategias para que las mujeres y las niñas adquieran habilidades: queremos que las mujeres diversas se involucren proactivamente en todos los procesos de IA, dando forma a la tecnología que afecta a cada parte de nuestras vidas. Proponemos la participación enérgica de mujeres y niñas, desde los asentamientos hasta las ciudades, desde los entornos rurales hasta las escuelas primarias y secundarias y las universidades, informando mejor las decisiones de diseño y aplicación de los funcionarios del gobierno y las empresas, los ingenieros y los equipos de gestión a millas de distancia de las sociedades a las que intentan servir y de los problemas que tratan de resolver.

En la <A+> Alianza para los Algoritmos Inclusivos, creemos que no sólo hay lugar, sino que se necesita urgentemente la experiencia y las aportaciones de los expertos de las mujeres y las niñas en primera línea, la participación y la cocreación, en todas y cada una de las etapas del desarrollo y el despliegue de la IA.

Pedimos una acción afirmativa para los algoritmos que corrigen el sesgo desde el momento de su concepción. Y algoritmos que resuelvan los problemas necesarios sobre el terreno con la definición del problema y el diseño de la solución de origen en primera línea. Abogamos por la adopción de directrices que establezcan la equidad, la responsabilidad y la transparencia en la toma de decisiones algorítmicas (ADM) tanto en el sector público como en el privado, abriendo y desviando el algoritmo Black Box.

No se necesita un título en matemáticas para haber vivido y comprendido los arreglos sistémicos que deben ser escalados en la sociedad, para incluir más y servir mejor. Combinando los conocimientos sobre el terreno desde la línea de frente feminista con equipos más diversos e inclusivos compuestos por informáticos, expertos en aprendizaje automático, informáticos y matemáticos, puede crearse una alianza para abordar y corregir activamente las desigualdades sistémicas de género y raza. Esta, en nuestra opinión, es una vía mejor que tomar los viejos sistemas y los viejos supuestos, optimizándolos para la eficiencia y digitalizándolos con viejos sesgos a escala; y sólo entonces -quizás- corregir los sesgos después de que se haya causado el daño.

Dado el ritmo al que se están desplegando la IA y otros sistemas automatizados de toma de decisiones, necesitamos sembrar el futuro que queremos con inclusión, multidisciplinariedad y diversidad de género, raza y clase. Estamos listas para pilotar ese futuro, aprovechando la urgente actualidad de la labor de respuesta firme a la Covid-19, en el contexto de la necesidad igualmente urgente de crear sistemas nuevos más democráticos para que todos podamos prosperar.

Nuestra propuesta es razonable y se puede pilotar: abran su sala de reuniones y sienten a las mujeres y niñas a la mesa de la Covid-19, donde se deciden las próximas intervenciones tecnológicas, incluyendo intervenciones de IA, para resolver las crisis actuales. Prueben un modelo participativo. Vean la diferencia que hace en los resultados que crean el futuro colectivo que merecemos. Vean y aprovechen el potencial de las mujeres y las niñas. Repitan el proceso una y otra vez. Una vez que se abra un espacio para el pensamiento innovador, el mundo verá surgir un millón de Adas. Pero sólo si se crea ahora un ecosistema para que sus ideas florezcan.

****

Este artículo está firmado por Renada Ávila y por las otras miembros del consejo asesor de la Alianza <A+>, Caitlin Kraft-Buchman, Nuria Oliver, Elisa Celis, Nanjira Sambuli

*<A+> es una coalición multidisciplinaria, diversa, global y feminista de expertas, académicas y activistas que trabajan para crear y aplicar Algoritmos de Acción Afirmativa (<A+>) que no sólo detecten, sino que corrijan los sesgos de género en la Inteligencia Artificial y la Toma de Decisiones Automatizada. Presentado oficialmente en el Foro para la Gobernanza de Internet de 2019, <A+> fue nombrada una de las Ideas para el Cambio Mundial de la Inteligencia Artificial y los Datos de 2020 de Fast Company en junio de 2020, y es una de los líderes de la Coalición de Acción para la Igualdad de la Generación de las Mujeres de las Naciones Unidas para la Tecnología y la Innovación.

Unete a nuestro boletín ¿Qué pasa con la democracia, la participación y derechos humanos en Latinoamérica? Entérate a través de nuestro boletín semanal. Suscríbeme al boletín.

Comentarios

Animamos a todo el mundo a que haga comentarios, Por favor, consulte las intrucciones de openDemocracy para comentarios
Audio available Bookmark Check Language Close Comments Download Facebook Link Email Newsletter Newsletter Play Print Share Twitter Youtube Search Instagram WhatsApp yourData