democraciaAbierta

Um mundo com um milhão de Ada Lovelaces: mulheres e as tecnologias do nosso futuro

Nossa proposta é razoável: incluir mulheres e meninas nas reuniões sobre as próximas intervenções tecnológicas para resolver as crises atuais.

Renata Avila
19 October 2020
Um robô humanóide inteligente exibido no centro internacional de exposições de Suzhou, Província de Jiangsu, China, 14 de agosto de 2020
|
Photo by Dongxu Fang / Costfoto/Sipa USA

Hoje, em meio a várias crises sociais e econômicas globais e uma pandemia, homenageamos Ada Lovelace – uma visionária vitoriana da tecnologia – para celebrar e estimular o número de mulheres no desenvolvimento das tecnologias do nosso futuro.

É imperativo expandir sistematicamente as oportunidades para que as mulheres resolvam problemas sociais de grande escala, expandindo quem está incluído na definição do problema e no desenho da solução de tecnologias de ponta, especialmente na Inteligência Artificial.

Um pensamento estratégico novo é necessário dentro das estruturas tradicionais de tecnologia e governo. Esta é a política diária e luta da Aliança <A +> para Algoritmos Inclusivos.

É amplamente reconhecido que a IA sofre de:

  1. Falta de diversidade na disciplina, em que a maioria das pessoas que criam, projetam e implementam os sistemas são homens. Em vez de aumentar, o número de mulheres vem diminuindo nos últimos anos.
  2. Falta de diversidade nos dados e nos próprios algoritmos que fornecem recomendações de notícias/filmes/videos/etc, e ajuda na tomada de decisão de linhas de crédito/empréstimo/contratação de trabalho/alocação governamental/tratamento médico/etc levando a uma revolução de credibilidade.
  3. Falta de diversidade no tipo de organizações que criam os sistemas de IA de ponta de hoje: a produção científica de IA é liderada por um punhado de empresas americanas ou chinesas, não por universidades, centros de pesquisa, organizações sem fins lucrativos ou de base.

Tudo isso somado ao fato de que os papéis de gênero estão sendo eliminados com muita lentidão. Como consequência, os novos modelos de IA e decisões automatizadas vêm sendo permeados de antigas concepções estereotipadas e associações de gênero, raça e classe.

De acordo com o Fórum Econômico Mundial, apenas cerca de 22% de todos os desenvolvedores de IA são mulheres, cuja maioria está nos dez países mais ricos. (Estes números não incluem mulheres limpadoras de dados, moderadoras de conteúdo e gig workers do hemisfério sul, que são ignoradas e mal pagas.) Todas elas lutam para alcançar (e ser) tomadoras de decisão e investidoras. Igualmente preocupante e ainda mais inaceitável é a falta de políticas e padrões para acelerar a igualdade nos algoritmos e políticas para impedir o futuro desigual que espreita dentro de dados e modelos antigos que, se não forem desmantelados, se tornarão mais duros e evoluirão para um Patriarcado 2.0 mais eficaz.

Many of the investments and infrastructures of the future will have tech solutions at their core, so embedding affirmative actions at all stages of the processes is imperative

Nos próximos meses, os líderes mundiais darão passos importantes para enfrentar as crises convergentes: desde a alocação de milhões em fundos de ajuda econômica até o investimento em novos sistemas de saúde. Regiões inteiras já estão abrindo caminho para uma transição verde. Muitos dos investimentos e infraestruturas do futuro terão soluções de tecnologia em seu núcleo. Portanto, é fundamental incorporar ações afirmativas em todas as fases dos processos.

Na Aliança <A +> para Algoritmos Inclusivos, propomos uma abordagem holística para resolver o problema da exclusão tecnológica a partir de suas raízes:

Pedimos que sejam tomadas medidas dinâmicas para incluir uma variedade intersetorial e igual número de mulheres e meninas na criação, design e codificação da tecnologia que desejamos. Além de incentivar mais investimentos e melhores estratégias para que mulheres e meninas adquiram habilidades: queremos mulheres diversas envolvidas proativamente em todos os processos de IA, moldando a tecnologia que afeta cada parte de nossas vidas.

Defendemos a participação enérgica de mulheres e meninas, de assentamentos a cidades, de zonas rurais a escolas primárias e secundárias e universidades, que possam informar melhor as decisões de projeto e implementação de autoridades governamentais e comerciais, engenheiros e equipes de gerenciamento, geralmente localizadas a quilômetros de distância das sociedades que estão tentando servir e dos problemas que estão tentando resolver.

Na Aliança <A +> para Algoritmos Inclusivos, acreditamos que não só há espaço, mas há uma necessidade urgente da experiência e contribuição, da participação e da co-criação de mulheres e meninas na linha de frente, em cada etapa do desenvolvimento e da implantação da IA.

Pedimos uma ação afirmativa para os algoritmos que corrijam o viés desde o momento de sua concepção. E algoritmos que resolvam os problemas de forma localizada, com definição do problema e projeto de solução com origem na linha de frente. Defendemos a adoção de diretrizes que estabeleçam justiça, responsabilidade e transparência para a tomada de decisões algorítmicas (ADM), tanto no setor público quanto no privado, abrindo e eliminando o viés da caixa preta dos algoritmos.

Não é necessário um diploma de matemática para ter vivido e compreendido as correções sistêmicas que precisam ser implementadas na sociedade, para incluir mais e para servir melhor. Combinando o conhecimento local da linha de frente feminista com equipes mais diversas e inclusivas compostas por cientistas da computação, especialistas em aprendizagem de máquinas, cientistas de dados e matemáticos, pode-se criar uma aliança para enfrentar e corrigir ativamente as desigualdades sistêmicas de gênero e raça. Este, em nossa opinião, é um caminho melhor do que tomar velhos sistemas e velhas suposições, otimizando-os e digitalizando-os com velhos preconceitos em escala, para logo – talvez – corrigir os preconceitos depois que o dano tiver sido causado.

Dado o ritmo no qual a IA e outros sistemas automatizados de tomada de decisão estão sendo implantados, precisamos semear o futuro que queremos com inclusão, multidisciplinaridade e diversidade de gênero, raça e classe. Estamos prontas para pilotar esse futuro, aproveitando a urgência do agora no trabalho de resposta à Covid-19 para criar sistemas mais democráticos e novos para que todos possamos prosperar.

Nossa proposta é razoável e possível de implementar: abra a sala de reunião e sente mulheres e meninas à mesa em que estão sendo decididas as próximas intervenções tecnológicas, incluindo intervenções de IA, para resolver as crises atuais. Teste um modelo participativo. Veja a diferença nos resultados que criam o futuro coletivo que merecemos. Veja e aproveite o potencial das mulheres e das meninas. Repita o processo uma e outra vez. Uma vez aberto um espaço para o pensamento inovador, o mundo verá surgir um milhão de Adas. Mas somente se criarmos já um ecossistema para que suas ideias floresçam.

****

Este artigo é assinado por Renata Avila como membro do conselho consultivo da Aliança <A+>, junto com Caitlin Kraft-Buchman, Nuria Oliver, Elisa Celis e Nanjira Sambuli.

*<A+> é uma coalizão multidisciplinar, diversa, global e feminista de especialistas, acadêmicas e ativistas que trabalham para criar e aplicar Algoritmos de Ação Afirmativa (<A+>) que não apenas detectam, mas corrigem o viés de gênero na Inteligência Artificial e decisão automatizada. Lançada formalmente no Fórum de Governança da Internet de 2019, <A +> foi nomeada pela Fast Company uma das ideais que mudam o mundo de 2020 em IA e Dados, em junho de 2020, e é líder da Coalizão de Ação de Geração de Igualdade da ONU para tecnologia e inovação.

Unete a nuestro boletín ¿Qué pasa con la democracia, la participación y derechos humanos en Latinoamérica? Entérate a través de nuestro boletín semanal. Suscríbeme al boletín.

Comentários

Aceitamos comentários, por favor consulte ás orientações para comentários de openDemocracy
Audio available Bookmark Check Language Close Comments Download Facebook Link Email Newsletter Newsletter Play Print Share Twitter Youtube Search Instagram WhatsApp yourData