Algoritmos: conquista da ciência ou retrocesso social?


PONTO UM:

Algoritmo – palavra-chave no mundo da ciência da computação – pode ser definido como “uma sequência finita de ações executáveis que visam obter uma solução para um determinado tipo de problema”. Nada mais neutro, indolor, incolor, insonso, incapaz de produzir dano. Só que não!

Os algoritmos, na carona do mundo internauta, invadiram inúmeras searas da vida humana, de forma silenciosa e devastadora, ganhando vida própria e adotando ações que podem produzir reflexos desastrosos na sociedade. Como toda ferramenta, em princípio, o algoritmo deveria ser neutro, cumprindo ao homem dar-lhe a função pretendida, por isso mesmo podendo servir ao bem ou mal.

Exemplo, talvez até superado, mas ainda assim útil, o machado. Ele pode servir para provocar dor ou morte numa pessoa. Mas pode também ser importante instrumento na construção de uma casa para abrigar pessoas contra o frio e a chuva. O mal não está no machado, está no ser que o maneja. Mas os algoritmos são bem mais autossuficientes, por vezes ganhando vida própria, ainda que esta vida tenha sido incutida, lá na origem, principalmente quando da alimentação dos dados, por uma mente humana. O que pode acontecer consciente ou inconscientemente. Mas nem por isso deixar de ser menos danoso.

PONTO DOIS:

Caso paradigmático é o do Sistema COMPAS (Perfil de Gerenciamento Corretivo de Infratores para Sanções Alternativas), que vem sendo utilizado nos Estados Unidos. Essa ferramenta tem como objetivo analisar e até prevenir a reincidência criminal de pessoas condenadas, prestando-se a auxiliar os juízes para definir eventuais programas de execução penal, como conceder ou indeferir benefícios, reduzir ou aumentar a pena.

A partir de dados colhidos junto aos presidiários, estabelece-se uma pontuação, daí se extraindo um ranqueamento inclusive quanto à eventual reincidência em que pode incidir o investigado.  Estudos levados a efeito demonstraram o espectro racista, partindo dos dados compilados, que o programa apresentava, recaindo sobre os réus negros o maior índice de pontuação de risco de periculosidade. Foi possível constatar que o algoritmo estava contaminado por um viés preconceituoso, concluindo que a pessoa negra seria perigosa.

Os dados em si não estavam incorretos, mas o fato é que o sistema passou a adotar um padrão generalizado catalogando o grupo racial a partir de réus negros. Ora, sistemas tais podem e são utilizados nos mais diversos setores.

A Amazon, por exemplo, chegou a utilizar um sistema de seleção de candidatos, valendo-se de dados cadastrados. O resultado? A ferramenta discriminou e descartou candidatas mulheres, porquanto a base de dados utilizada era do período dos últimos 10 anos, quando ainda havia poucas mulheres no mercado da tecnologia e da inteligência artificial.  

A ideia dos algoritmos e sua utilização em busca de soluções rápidas e seguras não é um mal em si, mas a forma como utilizada e aplicada pode ser, criando um círculo vicioso e rejeitando qualquer hipótese de avanços sociais e humanitários. Ora, se a ciência não se presta à construção de um mundo melhor e mais humanizado, de nada serve!¹

_______________________________________________________________________________________________________________________

(1) Este tema vem sendo objeto de pesquisa pela Profa. Dra. Regina Linden Ruaro, no PPGD da PUCRS.