Segurança x invasão de privacidade: as questões sobre o reconhecimento facial

Inteligência Artificial para reconhecimento facial tem vantagens, mas também apresenta perigos de ordem ética

O tema da Agenda Bahia 2020  traz uma mensagem importante: é preciso saber o que empresas e governos fazem com o enorme rastro de informações  que deixamos por aí ao usar o celular, ligar o GPS do carro, ouvir uma música no computador ou até mesmo quando simplesmente andar na rua completamente desconectados.

É isso mesmo. Andar na rua deixa um rastro e há dados seus sendo coletados.  Seu rosto, por exemplo, é fotografado e filmado por ferramentas de reconhecimento facial que estão em funcionamento aqui na Bahia desde 2018. 

Toda essa hipervigilância pode -e deve- deixar uma pulga atrás da orelha: o que é feito com todas essas imagens e esses dados gerados? Para onde vão? Quem tem acesso? Existe algum código de conduta e ética para tudo isso? Quais as implicações desse BBB cotidiano em nossas vidas pessoais?

Advogada especialista em direito e segurança digital Ana Paula de Moraes explica que a recente Lei Geral de Proteção de Dados (LGPD) traz em seu artigo XI que é preciso uma rigidez em relação a essas informações porque, uma vez divulgada de maneira ou para pessoas indevidas, pode gerar danos irreversíveis. No entanto, a mesma lei, em seu artigo IV indica que questões ligadas à segurança pública, segurança nacional e defesa de estado não estão submetidos aos seus regramentos, o que  gera um vácuo.

De acordo com a especialista, a ética em dados é um novo ramo, criado para estudar e avaliar problemas morais relacionados a dados. A disciplina se concentra em problemas éticos impostos pela coleta e análise de grandes conjuntos de informações através de grandes banco de dados, que possibilita a identificação e análise de comportamentos e pode ser implementado no policiamento preditivo. Essa prática de segurança pública já está presente em diversos países e pode ser resumida como a utilização da análise de dados para a indicação de prováveis atos criminosos.

A tecnologia, apesar de ser útil, traz à tona o debate sobre o direito à privacidade. Não há informações sobre quem acessa às imagens, quanto tempo ficam armazenadas ou qual seu destino final.

A Câmara dos Deputados criou um grupo de trabalho com diversos juristas liderados pelo ministro Nefi Cordeiro, do Superior Tribunal de Justiça (STJ), para propor um anteprojeto de lei que regulamente itens como a proteção de informações que serão usadas nas investigações criminais e na repressão de infrações penais. Apresentado em 5 de novembro, o anteprojeto  recomenda  que o Conselho Nacional de Justiça (CNJ) seja a autoridade responsável pelo controle de dados de investigações criminais. Isso porque, de acordo com Nefi Cordeiro, o Brasil não consegue obter dados da Europa porque ainda não tem instalada uma autoridade autônoma e independente que cuida dos dados de segurança pública. 

O anteprojeto também regulamenta os meios com que investigações criminais acessarão dados de novas tecnologias, como geolocalização, uso de "cavalos de troia" em celulares de suspeitos e reconhecimento facial.

Questões O último painel da Agenda Bahia 2020 trouxe o tema Confiança e Inovação: Por Que a Inteligência Artificial Precisa de um Código de Ética, que foi apresentado por Susan Etlinger, especialista em estratégia digital classificada pela Lighthouse3  como uma das 100 Mulheres Mais Brilhantes em Ética em IA.

Ela afirmou que sistemas de reconhecimento facial são exemplos de que a  Inteligência artificial (IA) podem atrapalhar a vida de pessoas negras, seja por não terem tido suas funcionalidades testadas pesso as de pele escura ou pela possibilidade de confundir inocentes e criminosos. "Por todo o mundo, vemos que tecnologias de IA são muito fracas em termos de identificar pessoas de cor, principalmente mulheres negras", disse Susan.

Um levantamento da Rede de Observatórios de Segurança apontou que  90% das pessoas presas, em 2019, por reconhecimento facial na Bahia eram pretas. E houve erros, como lembra Pablo Nunes, coordenador de pesquisa da Rede de Observatórios da Segurança. Ele conta, que no Carnaval de 2019, Marcos Vinicius de Jesus Neri, 19 anos, foi preso enquanto brincava em um bloco. A IA o confundiu com  Sandro Barreto de Souza, acusado de  assassinato. 

Para a pesquisadora da Iniciativa Negra e Rede de Observatórios da Segurança, Luciene Santana, é preciso maior investimento em transparência na utilização de IAs  na segurança pública. "O algoritmo é isento? Ele segue os mesmos preceitos da polícia, que dá mais atenção a algumas pessoas e menos a outras? É preciso que o Estado apresente essas informações  para mostrar que há uma ética na utilização desses  dados", diz Luciene.O sistema de reconhecimento facial baiano completou dois anos de implementação no último dia 18, sexta-feira. A Secretaria da Segurança Pública do Estado da Bahia (SSP/BA) informou que o controle e armazenamento das imagens são feitas exclusivamente pela Secretaria e ela a única com acesso aos dados gerados pelo sistema. Todo o projeto, chamado de Vídeo Polícia, que inclui os sistemas de Reconhecimento Facial e de Placas Veiculares, custou R$ 18 milhões.

O software comprado de uma empresa chinesa e o banco de dados com os rostos é da SSP. A pasta ainda informou que não existe falso positivo, pois o sistema não identifica. O equipamento aponta semelhança. As polícias Civil e Técnica, através das checagens de documentos e das digitais, promovem a identificação humana.

Caso o sistema aponte semelhança acima de 90%, a pessoa indicada é abordada. Caso ela apresente documento com outro nome, os policiais consultam o banco de dados da SSP, através de smartphone. No próprio local o abordado é liberado, caso o documento apresentado seja o verdadeiro. No entanto, se a pessoa abordada estiver sem documento ou apresentar documento com o mesmo nome do foragido da Justiça, ela é encaminhada para uma unidade da Polícia Civil e passará pelo processo de identificação humana.

*A resposta da SSP-BA foi enviada horas após o fechamento da matéria

O Fórum Agenda Bahia 2020 é uma realização do CORREIO, com patrocínio do Hapvida, parceria do Sebrae, apoio da Braskem, Claro, Sistema FIEB, SMARTIE, SINDIMIBA e  BATTRE,  apoio institucional da Rede Bahia e GFM 90,1.