Sacanagens escondidas nos algoritmos de contratação

Por Rodrigo Giaffredo | 01 novembro 2017

* Veja mais no canal “Inovação Possível” do YouTube

Olha só, mesmo que você odeie matemática com todas as suas forças, fique sabendo que você usa algoritmos o tempo todo, ainda que não formulados.

Pra se ter um algoritmo, são necessários apenas 2 ingredientes: dados, e uma definição de sucesso.

Ou seja, imagina por exemplo que você vai preparar uma receita pra sua família, e seu objetivo é que a refeição da vez seja saudável, essa é sua definição de sucesso.

Daí você pensa na galera, e lembra que um dos seus parentes gosta muito de brócolis, outro de carne branca, mas tem aquela galerinha que é apaixonada por leite condensado.

Os primeiros estão alinhados com sua definição de sucesso, e portanto tem mais chances de se darem bem na hora do rango. Já os últimos…

Sério gente, os algoritmos estão pra todo lado hoje em dia, mas tem uma característica deles em particular que deveria deixar geral com o bit ligado, e é o fato de que cada vez mais os algoritmos tem sido usados pra separar vencedores de perdedores.

No ambiente profissional, isso pode significar que eles estão literalmente decidindo que será colocado nas melhores posições de trabalho, e quem não será sequer entrevistado ou considerado.

Daí vem a pergunta que não quer calar: e se os algoritmos estiverem errados? Percebe que a fé cega em big data é um perigo monstruoso?

E nem as boas intenções durante a sua escrita são capazes de anular os efeitos catastróficos que os algoritmos podem gerar.

Vou te dar outro exemplo, pra gente exercitar essa linha de pensamento.

Imagina uma empresa em que historicamente mulheres não estão em posições de liderança, porque a organização é essencialmente machista, ainda que de forma disfarçada.

Quando o “algoritmo dos talentos” fosse escrito, poderíamos escolher como definição de sucesso para a seleção de um diretor algo como ter sido promovido pelo menos uma vez a cada quatro anos, ter pelo menos 20 anos de empresa, e ter avaliações top nos últimos 5 anos seguidos.

Parece um blend justo, né?

Tá, agora aplica o tal algoritmo para promover novos funcionários… sendo a empresa machista, podemos supor que toda a amostra de dados históricos que atendam a definição de sucesso será composta por homens, portanto, todas as mulheres serão automaticamente excluídas da base de dados de potenciais talentos a serem avaliados – isso mesmo, não terão sequer a chance de competir de igual pra igual!

Isso pra citar somente os riscos inerentes à empresas machistas… lembra que eles são os mesmos, ou até maiores, em caso de racismo, aversão à minorias, diversidade, classes sociais, background acadêmico, só pra citar alguns.

A conclusão rápida a que chegamos é que algoritmos não tornam as coisas justas, eles apenas automatizam o status-quo.

E levando em conta que todos temos vieses, o problema está em nós.

Algoritmos devem ser revalidados e interrogados de tempos em tempos, pra que possamos corrigi-los – e os dados também, devem sempre ser requalificados e ressignificados, pra garantir ao menos que os vieses perigosos, implícitos em culturas organizacionais tóxicas – e em última instância nas sociedades tóxicas – não perpetuem tudo aquilo que não queremos mais ver no mundo.

Por mais duro que essa conclusão bata nos puristas, os algoritmos não são a panacéia.

Eles jamais serão capazes de desfazer as mazelas originadas por culturas deturpadas.

E isso não é uma discussão matemática.

Isso é uma discussão ética.

Pronto, falei.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Time limit is exhausted. Please reload CAPTCHA.

White Paper relacionado


Marketing

Entregando uma experiência mais inteligente de shopping com Predictive Analytics

A experiência de compras do seu consumidor pode ser mais inteligente e amigável, assim como a sua própria gestão nos ambientes de vendas online. O segredo para isso é usar dados de Predictive Analytics de forma eficaz. Veja como neste White Paper.

Entregando uma experiência mais inteligente de shopping com Predictive Analytics (218 downloads)

Artigos Relacionados