Escolha uma Página

* Christian Geronasso

 

De acordo com dados do último Censo, realizado em 2010, 99.6 milhões de brasileiros são classificados na cor/raça: preta, amarela, parda ou indígena (Tabela IBGE a seguir). Minoritariamente, representando 48% da população, estão os 91 milhões de brasileiros considerados brancos. E este percentual reduz com o passar dos anos, de acordo com a Pesquisa Nacional por Amostra de Domicílios Contínua (Pnad Contínua), realizada em 2016, o contingente de cor branca representava 44,2 %. Enquanto o percentual de habitantes mulheres permaneceu igual entre 2010 e 2016, representando 51% da população total.

Sem dúvidas, Homens Brancos são a minoria. Agora pare por um minuto e analise o seu local de trabalho. Volte ao passado, lembre-se das empresas onde já trabalhou. Esta minoria se apresenta como maioria dominante no mercado de trabalho. Ainda em casos onde a diversidade existe, raramente atinge os cargos de gestão das empresas.

População residente, por cor ou raça, segundo a situação do domicílio, o sexo e a idade – Brasil, 2010.

Fonte: IBGE.

Mas estamos caminhando para um Brasil melhor, com menos desigualdade por Cor ou Raça. Em novembro de 2019 foi divulgado pelo Instituto Brasileiro de Geografia e Estatística (IBGE) o relatório “Desigualdades sociais por cor ou raça no Brasil”, informando que em 2018, a população preta ou parda passou a representar 50,3% dos estudantes na rede pública do ensino superior. Com mais educação mais acesso aos cargos gerenciais de alta renda, que hoje são predominantemente ocupados por brancos (85.9%).

Mas o fato de melhorarmos não altera o passado. Dados históricos são o combustível para algoritmos “inteligentes” identificarem padrões, que serão utilizados para tomar decisões futuras. Suponha que você está responsável por decidir de qual o melhor candidato para assumir a posição de executivo na empresa X. Para tomar a melhor decisão você recorre a fórmulas estatísticas, aplicadas aos últimos 10 anos de dados sobre executivos de sucesso no Brasil. Em 2010, apenas 5,3% dos cargos executivos eram ocupados por Negros (imagem abaixo Pesquisa 2010), atingindo 11,9 % em 2018 (imagem abaixo Pesquisa 2018). Fatalmente os dados passarão a excluir os grupos menos representativos, e neste caso não serão os Homens Brancos. Em empresas que estimulam a diversidade e o pensamento inclusivo este tipo de decisão será tomada com ponderações que obrigatoriamente analisarão outros critérios. O problema reside quando a Inteligência Artificial automatiza a tomada de decisão, explorando dados históricos que, se analisados de forma fria, resultam em conclusões como “Negros e Amarelos têm menos chance de sucesso em um cargo executivo”, por formarem a porção menos representativa dos dados.

Perfil Social, Racial e de Gênero das 500 Maiores Empresas do Brasil e Suas Ações Afirmativas ( 2010).

Desigualdades sociais por cor ou raça no Brasil (2018).Fonte: IBGE

Estes algoritmos inteligentes são resultado da prática de Aprendizado de Máquina (Machine Learning) que floresceu na década de 90 com a revolução dos computadores pessoais, utilizando principalmente fórmulas estatísticas de previsão. Machine Learning é uma técnica para treinar modelos e replicar padrões de sucesso, através da análise de grandes volumes de dados. Estes modelos são consumidos em decisões futuras.

Apesar do conceito de Inteligência Artificial, e suas derivações, existir desde 1956, a tecnologia disponível não permitia sua utilização em larga escala. Atualmente o limite tecnológico não existe, a limitação está na capacidade dos desenvolvedores de encontrar novas formas de aplicação.

Diariamente diversas decisões do seu cotidiano são tomadas por algoritmos inteligentes, desde o caminho que você segue em seu aplicativo favorito para ir ao trabalho, a liberação do empréstimo pessoal com base no modelo de melhores pagadores até qual o próximo vídeo com maior probabilidade de você continuar assistindo ao YouTube.

Muito longe de um Apartheid que foi a homologação governamental, legislativa, da discriminação, na África do Sul em 1948, os modelos preditivos de machine learning que tomam decisões separatistas existem por desinformação dos desenvolvedores e empresas. Veja alguns exemplos da falta de diversidade no treinamento destes algoritmos:

FaceApp, o Algoritmo discriminatório de embelezamento

Em 2017 o aplicativo FaceApp fazia sucesso entre os usuários das redes sociais. A partir de uma imagem com um rosto era possível aplicar vários filtros que previam como a pessoa seria aos 70 e tantos anos, como ela seria se fosse do sexo oposto e ainda era possível aplicar um filtro “embelezador”. A polêmica surgiu quando negros utilizavam o filtro da beleza e percebiam sua pele mais clara (exemplo imagem abaixo). Para treinar o algoritmo foram utilizadas milhares de imagens contendo apenas pessoas brancas, o que levava o algoritmo a forçar o clareamento da pele das pessoas.

Imagem ilustrativa de aplicação do Faceapp

Identificação de doenças através de algoritmos

A cada dia que passa mais instituições utilizam algoritmos para auxiliar no diagnóstico e tratamento de doenças. Angela Benton, CEO da Streamlytics, alerta que apesar de  40% da população norte americana ser negra, apenas 20 a 10 porcento dos participantes nos testes clínicos são de outras raças. Em 2015 apenas 1.9 porcento dos estudos sobre doenças respiratórias incluíam algum tipo de minoria. Angela foi diagnosticada com câncer de mama aos 34 anos, e relata que foi extremamente difícil obter a aprovação para realizar a mamografia, mesmo sendo comprovado que mulheres negras são diagnosticadas com câncer de mama mais jovens que mulheres brancas. Resultado de uma amostra de dados enviesada.

Apple Card, o cartão de crédito tendencioso

Em agosto de 2019 a empresa de tecnologia Apple passou a oferecer a seus clientes o Apple Card. Um cartão de crédito desenhado para consumidores atingirem uma vida financeira mais saudável. Em novembro de 2019, David casado com Jamie Heinemeier Hansson, compartilhou em sua conta do Twitter que apesar de sua esposa possuir um melhor score de crédito, de possuírem partes iguais em suas propriedades e de declararem seus impostos de forma conjunta, David possuía 20 vezes mais crédito para empréstimo que sua esposa. Nem mesmo Steve Wozniak, co-fundador da Apple escapou. Wozniak e sua esposa compartilham tudo, desde sua conta bancária até seus ativos, mas o crédito em seu Apple Card era 10 vezes superior ao da sua esposa (imagem a seguir).

Algoritmos da Amazon preferem homens em processo seletivo

De acordo com matéria publicada em outubro de 2019, pela Reuters, a empresa Amazon entre 2014 e 2015 utilizou algoritmos de inteligência artificial para automatizar a seleção dos melhores currículos para as vagas disponíveis. Este é um custo operacional considerável para o departamento de Recursos Humanos. O site Catho oferece o serviço de análise de currículos ao valor de R$ 69,00, este é um serviço que analisa e sugere modificações para aumentar as chances do candidato de ser escolhido. Suponhamos que um recrutador consuma 30 % deste valor para analisar e classificar um currículo, portanto R$ 20,00 por currículo. Para apenas uma vaga, com 500 interessados, o custo seria de R$ 10.000,00 apenas para filtragem destes currículos. Reduzir este custo através de automatizações é uma grande oportunidade. Ao identificar esta oportunidade a Amazon treinou algoritmos com os 10 anos anteriores de contratações bem-sucedidas. O algoritmo aprendeu que homens deveriam ser a preferência e passaram a excluir currículos que continham, por exemplo, “Mulher” ou “Clube de Xadrez Feminino”.

Algoritmos que decidem nosso futuro e nos ajudam a tomar as, supostas, melhores decisões são codificados por especialistas da computação, pessoas. Que retratam em seus códigos o padrão que foram expostos ao longo de suas vidas. A grande maioria não irá criticar se um modelo decide mais por homens branco sobre outras raças ou sexo. Cabe as empresas estipularem metas mais claras de diversidade, evitando que novos casos de segregação aconteçam. Existem milhares de  casos como os exemplos acima, algoritmos que neste momento estão definindo qual o melhor desconto para você, quais amigos você deveria adicionar em suas redes sociais, quais vídeos ou músicas você deveria apreciar…. E a grande maioria está atuando como catalizador separatista. Comunicação e conscientização são a primeira frente de defesa para evitar a proliferação destes modelos tendenciosos. Empresas mais maduras como a alemã SAP definem conselhos com metas claras para que a inteligência artificial promova um mundo mais igualitário. Cabe a cada um de nós assumir um papel para evitar a continuidade desta economia da discriminação.

 

Referências:

Tabela 3175 – População residente, por cor ou raça, segundo a situação do domicílio, o sexo e a idade
https://sidra.ibge.gov.br/Tabela/3175#resultado

População brasileira é formada basicamente de pardos e brancos, mostra IBGE
http://agenciabrasil.ebc.com.br/economia/noticia/2017-11/populacao-brasileira-e-formada-basicamente-de-pardos-e-brancos-mostra-ibge

Brancos são maioria em empregos de elite e negros ocupam vagas sem qualificação
https://g1.globo.com/economia/noticia/brancos-sao-maioria-em-empregos-de-elite-e-negros-ocupam-vagas-sem-qualificacao.ghtml

Desigualdades sociais por cor ou raça no Brasil
https://s3.static.brasilescola.uol.com.br/vestibular/arquivos/ibge-estudo-desigualdades-sociais-cor.pdf

Mapa do Mercado de Trabalho no Brasil
https://biblioteca.ibge.gov.br/visualizacao/livros/liv779.pdf

Perfil Social, Racial e de Gênero das 500 Maiores Empresas do Brasil e Suas Ações Afirmativas – Pesquisa 2010
https://www3.ethos.org.br/wp-content/uploads/2012/12/4Perfil-Social-Racial-e-de-G%C3%AAnero-das-500-Maiores-Empresas-do-Brasil-e-suas-A%C3%A7%C3%B5es-Afirmativas-Pesquisa-2010.pdf

FaceApp apologizes for building a racist AI
https://techcrunch.com/2017/04/25/faceapp-apologises-for-building-a-racist-ai/

An AI-Run World Needs to Better Reflect People of Color
https://www.wired.com/story/an-ai-run-world-needs-to-better-reflect-people-of-color/

Sexist and biased? How credit firms make decisions
https://www.bbc.com/news/business-50432634

Amazon scraps secret AI recruiting tool that showed bias against women
https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G

Comprar Análise de currículo
https://www.catho.com.br/servicoscatho/carreira/analise-de-curriculo/comprar.php

SAP’s guiding principles for artificial intelligence (AI)
https://www.sap.com/products/intelligent-technologies/artificial-intelligence/ai-ethics.html

 

* Consultor com mais de 10 anos de experiência, especializado na identificação e construção de valor em diversos segmentos empresariais. Atua como consultor especialista em negócios e inovação em uma das maiores empresas de tecnologia do mundo. (http://bit.ly/LinkedIn-Christian).