Gabriela de Queiroz: 'Sem diversidade, os algoritmos vão reforçar preconceitos'

Palestrante do Agenda Bahia no próximo dia 9 fala sobre inclusão tecnológica de minorias; leia entrevista

Gabriela de Queiroz saiu do Brasil rumo a São Francisco em 2012. A cidade norte-americana já era um dos grandes centros tecnológicos do mundo. Se os conteúdos disponíveis eram os mais diversos possíveis na área de tecnologia, o público era bastante parecido: homens brancos. A partir da ideia de facilitar o acesso à linguagem de programação e o domínio da inteligência artificial que nasceram iniciativas como o R-Ladies e AI Inclusive, que já auxiliaram na inclusão de milhares de pessoas. Ela é uma das palestrantes do Webinar Dados da gente, promovido pelo Fórum Agenda Bahia no próximo dia 9. 

O Fórum Agenda Bahia 2020 é uma realização do CORREIO, com patrocínio do Hapvida, parceria do Sebrae, apoio da Braskem, Claro, Sistema FIEB, SINDIMIBA, BATTRE e Consulado Geral dos Estados Unidos no Rio de Janeiro e apoio institucional da Rede Bahia e GFM 90,1.

Como surgiu a ideia de criar uma comunidade de formação em programação programação focada em minorias de gênero?

Quando eu cheguei em São Francisco, eu comecei a entrar em vários grupos relacionados à tecnologia, que era uma área que eu não conhecia nada, muito pouco. Apesar de trabalhar com estatística, meu conhecimento em tecnologia era muito pequeno. Me cadastrei em grupos sobre vários tipos de ferramentas. Eu não tinha muitos recursos e comecei a ir nesses eventos, que aconteciam praticamente todos os dias. E reparei que quase todos eles ofereciam comida, o que era um atrativo à parte, porque eu ia lá, aprendia de graça e ainda garantia o meu jantar. Não tinha melhor combinação que essa. Num desses eventos, eu percebi que eu estava aprendendo muito, e ainda tinha comida. Até que eu percebi que para o ciclo continuar, estava na hora de eu dar minha contribuição para a comunidade. Eu pensei em várias maneiras e, por que não criar um grupo focado em algo que eu sabia? Eu já estava utilizando uma ferramenta chamada R, que é uma linguagem de programação, mas um grupo geral não traria muito valor. Eu reparei que a maioria das pessoas que iam nesses cursos eram homem brancos, então não tinha diversidade nenhuma e eu me sentia como um peixe fora d'água, mulher e estrangeira. Eu me sentia muito intimidada. 

É um grupo muito fechado?

Sim e eu diria que hoje já está muito melhor do que era antes, há oito anos. Eu não me sentia confortável ali e então eu pensei em criar um grupo em que as pessoas se sentissem confortáveis, à vontade, que tivesse a preocupação com a diversidade e onde todos pudessem fazer perguntas sem julgamentos. Foi daí que veio a ideia do R-Ladies (rladies.org). 

Qual é a situação atual do R-Ladies?

O primeiro evento foi em outubro de 2012 e hoje em dia, o grupo já está em várias cidades do mundo. Nos organizamos por capítulos e eles são organizados em cidades. A gente tem uma organização global e esses capítulos. Estamos em mais de 190 cidades, em 56 países, com quase 80 mil membros. 

Vocês desenvolvem o trabalho com a linguagem de programação R. Qual é a importância dela?

O R é uma linguagem criada há 27 anos, mas a comunidade e quem está por trás da linguagem não era diversa. Hoje, se você perguntar a quem está aprendendo esta linguagem o que mais as atrai hoje é a comunidade. Teve até uma pesquisa do R Studio, que é uma empresa muito grande que trabalha com a linguagem, perguntando às pessoas o que levou elas para o R ou o que mais gostam na linguagem e a resposta mais comum foi que a comunidade atraiu elas. As pessoas dizem que a linguagem é bastante amigável e que a comunidade dá muito espaço para crescer e aprender. 

Como se deu a escolha dessa linguagem? 

Isso aconteceu por eu já utilizar anteriormente. Era algo que eu já sabia e que eu resolvi devolver para a comunidade porque eu dominava ela e sentia confortável em ensinar. 

Você trabalha muito com a questão do código aberto. Qual é a importância disso?

Democratização. São ferramentas que não têm barreiras de uso. Se você tem um programa que precise pagar para usar, isso já exclui uma grande parcela da população. Poder trabalhar com softwares que têm códigos abertos, que são de graça, está trazendo todo mundo, permite que qualquer um possa codificar e criar coisas em cima desse software. É democratizar tecnologia e a área de análise de dados, neste caso. Mas isso vale para tudo. Se você tem um computador, você pode instalar um Linux, por exemplo que é gratuito, você não precisa pagar. 

A gente tem a ideia da inteligência artificial como algo muito distante das nossas vidas e que vai chegar no futuro. Em que estágio estamos no desenvolvimento dela?

É engraçado porque a percepção que temos da inteligência artificial é de algo futurista, de robôs que se comunicam entre si e num mundo como o do desenho dos Jetsons. Mas na verdade a inteligência artificial está em todo o lugar, este vídeo que estamos usando para nos comunicarmos, provavelmente tem inteligência artificial para melhorar nosso áudio, nossa imagem. Nosso celular tem inteligência artificial rodando. Aplicativos como Alexa e Google Home, que nós temos em nossas casas, têm inteligência artificial. 

Em que estágio você avalia o Brasil em relação ao desenvolvimento da ciência de dados?

O Brasil está alguns anos atrasado em relação aos Estados Unidos, por exemplo. Mas hoje em dia, a gente já começa a ver que já está se tornando uma área bastante valorizada, com as empresas investindo na contratação de cientistas de dados. E a parte da formação também tem evoluído, com escolas criando programas de graduação em ciências de dados, pós-graduação, especializações na área. Você vê que está começando a explodir nesta área.

Pensando em que pensa em atuar nesta área. O que seria imprescindível?

Você tem a parte técnica necessária e a parte que não é tão técnica, que a gente chama de habilidades essenciais. A parte técnica passa por algum conhecimento em estatística e algum conhecimento em programação. Sobre as habilidades essenciais, eu considero saber se comunicar, conseguir traduzir os números para uma explicação. É tão importante quanto a parte técnica. Curiosidade, é preciso saber porque está fazendo algo e qual a motivação. Outra coisa que eu falo é sobre ter flexibilidade para trabalhar em empresas diferentes. 

A ficção alerta a gente para os riscos da inteligência artificial, mas o seu trabalho é um exemplo claro de que a tecnologia pode ser usada para o bem. Como a gente potencializa isso?

Isso foi algo que me motivou a criar um outro grupo, uma outra organização, chamada AI Inclusive (ai-inclusive.org), para tornar a inteligência artificial mais inclusiva. Então, a história dessa organização, só para puxar um gancho, é que eu estava vendo muitas discussões nos Estados Unidos e China, por exemplo, em que os algoritmos estão sendo criados e utilizados em várias áreas, inclusive para determinar prisões. 

Existe uma preocupação muito grande em relação à possibilidade de os algoritmos serem usados para reforçar preconceitos e o racismo. 

Exatamente, é muito preocupante estes vieses. Os algoritmos carregam isso para a frente, eles nada mais fazem do que replicar o que você está fazendo. Eu estava vendo muito a discussão sobre o reconhecimento facial, mostrando como eles estavam prejudicando a vida das pessoas e como esses algoritmos estavam contribuindo para isso, principalmente nos casos de minorias, sejam de gênero, de populações sub-representadas. Eu percebi que não podia ficar parada e tinha que trazer esse conhecimento para a população que está sofrendo mais com isso e muitas vezes nem sabe. Foi daí que pensamos no AI Inclusive, para capacitar essas pessoas e bolar estratégias para empoderar elas e fazer a mudança. Voltando, a grande maioria das pessoas que estão construindo esses algoritmos são homens brancos. Se a gente não tem um time diverso, de gênero, etnia e mesmo formações culturais diferentes, os algaritmos vão continuar reproduzindo preconceitos.

Que bom existirem pessoas que se preocupam com essas questões, mas não falta uma atuação dos governos?

Com certeza e existe uma série de discussões sobre o assunto, mas como é algo novo demora de se criarem as regulamentações. Existe uma defasagem no envolvimento dos governos. Mas o importante é que estamos vendo cada vez mais regulamentações acontecendo. Olha a questão da proteção de dados, sobre privacidade. Há muito tempo que se fala sobre a necessidade da proteção dos dados, mas só agora isso aconteceu. Então, existe mesmo uma defasagem.