Imagine que você está em uma sala escura, onde há somente uma tela com uma câmera. Nesta tela está escrito: “Para você sair da sala é necessário que o nosso sistema te reconheça”. Então, prontamente você coloca o seu rosto na tela, e aqui, caro(a) leitor(a), são as duas opções que podem aparecer:

• Caso você seja uma pessoa branca, você está livre e poderá sair.
• Caso você seja uma pessoa negra, aparece a seguinte mensagem “ERROR_001” objeto não identificado.

Sim, caso você seja uma pessoa negra possivelmente você nunca sairá dessa sala.

A diretora Shalini Kantayya fala em seu documentário “CODED BIAS” como os algoritmos atuais fazem a exclusão de pessoas não brancas na sociedade. Imagine você fazer tudo que é tão prático para facilitar a vida, graças a tecnologia, sendo que ela não é feita para você usar. 

Aplicativos como UBER, IFOOD e RAPPI não fornecem seus serviços em determinadas áreas de região periférica no Brasil. Um aplicativo da Amazon de reconhecimento facial, simplesmente não reconhecia pessoas negras em seus sistemas, pois seus banco de dados era somente de pessoas brancas. 

Vivemos em uma sociedade em que tudo é tecnologia. Para você sair, você pede um carro via aplicativo de transporte, para almoçar, você utiliza outro aplicativo, para ler um livro você provavelmente utiliza tecnologia. Acho que você entendeu o meu ponto, não é?

Estar em uma sociedade com base tecnológica, sendo que, esta tecnologia não inclui você, pode lhe transmitir a ideia de que você não é feito para a sociedade, e isso é muito perigoso. As tecnologias não estão isentas de vieses inconscientes, pois as pessoas que as criam são pessoas enviesadas e isso é preocupante. 

Há algum tempo foi detectado em uma rede social um algoritmo que dava prioridade a pessoas brancas em suas imagens minimizadas e quando você clicava percebia que havia pessoas de outras cores/etnias dentro da foto. Um grupo começou a denunciar este algoritmo racista e a empresa tomou medidas para removê-lo.

Este exemplo evidencia como as tecnologias agem e de fato expressam os vieses que estão enraizados na nossa sociedade. É preciso identificar essas situações e tomar atitudes para que a  mudança ocorra. 

Aqui vão duas dicas para diminuir esses vieses na Tecnologia:

1 - Ter equipes diversas de desenvolvimento de tecnologias, pois se um grupo homogêneo  for responsável é provável que ele traga seus vieses junto;   

2 - Educar, educar e educar times sobre diversidade para que esses vieses não sejam corriqueiros e possam ser diminuídos no exercício do trabalho.