Home Notícias Artigos Sacanagens escondidas nos algoritmos de contratação

Sacanagens escondidas nos algoritmos de contratação

373
0

* Veja mais no canal “Inovação Possível” do YouTube

Olha só, mesmo que você odeie matemática com todas as suas forças, fique sabendo que você usa algoritmos o tempo todo, ainda que não formulados.

Pra se ter um algoritmo, são necessários apenas 2 ingredientes: dados, e uma definição de sucesso.

Ou seja, imagina por exemplo que você vai preparar uma receita pra sua família, e seu objetivo é que a refeição da vez seja saudável, essa é sua definição de sucesso.

Daí você pensa na galera, e lembra que um dos seus parentes gosta muito de brócolis, outro de carne branca, mas tem aquela galerinha que é apaixonada por leite condensado.

Os primeiros estão alinhados com sua definição de sucesso, e portanto tem mais chances de se darem bem na hora do rango. Já os últimos…

Sério gente, os algoritmos estão pra todo lado hoje em dia, mas tem uma característica deles em particular que deveria deixar geral com o bit ligado, e é o fato de que cada vez mais os algoritmos tem sido usados pra separar vencedores de perdedores.

No ambiente profissional, isso pode significar que eles estão literalmente decidindo que será colocado nas melhores posições de trabalho, e quem não será sequer entrevistado ou considerado.

Daí vem a pergunta que não quer calar: e se os algoritmos estiverem errados? Percebe que a fé cega em big data é um perigo monstruoso?

E nem as boas intenções durante a sua escrita são capazes de anular os efeitos catastróficos que os algoritmos podem gerar.

Vou te dar outro exemplo, pra gente exercitar essa linha de pensamento.

Imagina uma empresa em que historicamente mulheres não estão em posições de liderança, porque a organização é essencialmente machista, ainda que de forma disfarçada.

Quando o “algoritmo dos talentos” fosse escrito, poderíamos escolher como definição de sucesso para a seleção de um diretor algo como ter sido promovido pelo menos uma vez a cada quatro anos, ter pelo menos 20 anos de empresa, e ter avaliações top nos últimos 5 anos seguidos.

Parece um blend justo, né?

Tá, agora aplica o tal algoritmo para promover novos funcionários… sendo a empresa machista, podemos supor que toda a amostra de dados históricos que atendam a definição de sucesso será composta por homens, portanto, todas as mulheres serão automaticamente excluídas da base de dados de potenciais talentos a serem avaliados – isso mesmo, não terão sequer a chance de competir de igual pra igual!

Isso pra citar somente os riscos inerentes à empresas machistas… lembra que eles são os mesmos, ou até maiores, em caso de racismo, aversão à minorias, diversidade, classes sociais, background acadêmico, só pra citar alguns.

A conclusão rápida a que chegamos é que algoritmos não tornam as coisas justas, eles apenas automatizam o status-quo.

E levando em conta que todos temos vieses, o problema está em nós.

Algoritmos devem ser revalidados e interrogados de tempos em tempos, pra que possamos corrigi-los – e os dados também, devem sempre ser requalificados e ressignificados, pra garantir ao menos que os vieses perigosos, implícitos em culturas organizacionais tóxicas – e em última instância nas sociedades tóxicas – não perpetuem tudo aquilo que não queremos mais ver no mundo.

Por mais duro que essa conclusão bata nos puristas, os algoritmos não são a panacéia.

Eles jamais serão capazes de desfazer as mazelas originadas por culturas deturpadas.

E isso não é uma discussão matemática.

Isso é uma discussão ética.

Pronto, falei.

Previous articleComo a Internet das Coisas vai conectar big data e apps
Next articleComputação Cognitiva: nova melhor amiga do marqueteiro
Rodrigo Giaffredo, empresário, palestrante, escritor, executivo, professor, colunista. Sócio da Super-Humanos Consultoria, autor da obra “Reflexões Ácidas, um livro de autoajuda meio indigesto”, líder de Transformação Ágil na IBM América Latina, influenciador da adoção de design thinking, storytelling e métodos ágeis em grandes corporações. Dá aula no MBA executivo da Fundação Dom Cabral - Nova Lima, na pós-graduação em Negócios Digitais da ESPM-SP, e na escola de negócios HSM Management. Apaixonado por inteligência relacional, foi eleito LinkedIn Top Voice Brasil em 2018. Assina colunas no IT Forum 365, no LinkedIn Pulse e no Innovation Insider. Administrador de empresas pós-graduado em Finanças e Mercado Financeiro Brasileiro pela FGV-SP, se especializou em moral contemporânea na Yale University. Para ele, empatia e experimentação são qualidades-chave de organizações ágeis. Usa corte de cabelo moicano, é pai e marido apaixonado, e dono da Frida, uma dachshund velhinha que até hoje faz festa quando ele chega em casa, montado numa Harley Davidson bem barulhenta.

LEAVE A REPLY

Please enter your comment!
Please enter your name here