Algoritmos que associam aparência e criminalidade têm um passado sombrio

“Frenologia” tem um tom antiquado. Parece pertencer a um livro de história, arquivado nalgum lugar entre sangramentos e velocípedes. Gostaríamos de pensar que julgar o valor das pessoas com base no tamanho e forma dos seus crânios é uma prática que ficou para trás. No entanto, a frenologia está mais uma vez a mostrar a sua cabeça protuberante.

Em anos recentes, algoritmos de aprendizagem por máquina (“machine learning”) prometeram a governos e empresas privadas o poder de recolher todos os tipos de informações a partir da aparência das pessoas. Várias startups afirmam serem capazes de usar a inteligência artificial (IA) para ajudar os empregadores a detectar os traços de personalidade dos candidatos a empregos com base nas suas expressões faciais. Na China, o governo foi pioneiro no uso de videocâmaras de vigilância que identificam e rastreiam minorias étnicas. Entretanto, surgiram relatos de escolas que instalaram sistemas de câmaras que automaticamente punem as crianças por não prestarem atenção, com base nos movimentos faciais e micro-expressões, como a contração das sobrancelhas.

Talvez mais notoriamente, há alguns anos, os investigadores de IA Xiaolin Wu e Xi Zhang afirmaram ter treinado um algoritmo para identificar criminosos com base no formato dos seus rostos, com uma precisão de 89,5%. Eles não chegaram a endossar algumas das ideias sobre fisionomia e carácter que circularam no século XIX, nomeadamente a partir do trabalho do criminologista italiano Cesare Lombroso: que os criminosos são animais subdesenvolvidos, subumanos, reconhecíveis pelas suas testas inclinadas e narizes de falcão. No entanto, a tentativa aparente com alta tecnologia do estudo para identificar características faciais associadas à criminalidade baseia-se directamente no “método de composição fotográfica” desenvolvido pelo homem dos mil ofícios victoriano Francis Galton – que envolvia sobrepor os rostos de várias pessoas numa determinada categoria para encontrar as características indicativas de qualidades como saúde, doença, beleza e criminalidade.

Comentadores criticaram essas tecnologias de reconhecimento facial como “frenologia literal”; eles também a associaram à eugenia, a pseudociência de melhorar a raça humana encorajando as pessoas consideradas mais aptas a reproduzirem-se. (O próprio Galton cunhou o termo “eugenia”, descrevendo-o em 1883 como “todas as influências que tendem, mesmo que num grau remoto, a dar às raças ou linhagens de sangue mais adequadas uma melhor hipótese de prevalecer rapidamente sobre as menos adequadas”.)

Nalguns casos, o objectivo explícito dessas tecnologias é negar oportunidades àqueles considerados inadequados; noutros, pode não ser o objectivo, mas é um resultado previsível. No entanto, quando descartamos algoritmos rotulando-os como frenologia, qual é exatamente o problema que estamos a tentar apontar? Estamos a dizer que esses métodos são cientificamente falhados e que realmente não funcionam – ou estamos dizendo que é moralmente errado usá-los de qualquer maneira?

Há uma longa e emaranhada história sobre a forma como a “frenologia” tem sido usada como um insulto fulminante. As críticas filosófica e científica desta tarefa sempre estiveram entrelaçadas, embora o seu emaranhado tenha mudado com o tempo. No século XIX, os detractores da frenologia objectaram pelo facto de que a frenologia tentava localizar com precisão a localização de diferentes funções mentais em diferentes partes do cérebro – um movimento que foi visto como herético, uma vez que questionava as ideias cristãs sobre a unidade da alma. Curiosamente, no entanto, tentar descobrir o carácter e o intelecto de uma pessoa com base no tamanho e no formato da sua cabeça não foi entendido como um problema moral sério. Hoje, em contraste, a ideia de localizar funções mentais é bastante incontroversa. Os cientistas podem deixar de pensar que a destrutividade está localizada acima da orelha direita, mas a noção de que as funções cognitivas podem ser localizadas em circuitos cerebrais particulares é uma suposição padrão na neurociência convencional.

A frenologia também teve a sua quota de crítica empírica no século XIX. Os debates enfureceram sobre quais funções residiam onde e se as medições do crânio eram uma maneira fiável de determinar o que acontece no cérebro. A crítica empírica mais influente da frenologia antiga, porém, veio dos estudos do médico francês Jean Pierre Flourens, baseados em danos aos cérebros de coelhos e pombos – a partir dos quais ele concluiu que as funções mentais são distribuídas, em vez de localizadas. (Estes resultados foram posteriormente desacreditados.) O facto de que a frenologia foi rejeitada por razões que a maioria dos observadores contemporâneos não aceitaria torna ainda mais difícil descobrir o que se está a almejar quando se usa “frenologia” como uma calúnia actualmente.

Tanto a frenologia “velha” como a “nova” foram criticadas pelos seus métodos desleixados. No recente estudo da IA sobre criminalidade, os dados foram obtidos de duas fontes muito diferentes: fotos de condenados e fotos de sites de trabalho de não-condenados. Esse facto por si só pode explicar a capacidade do algoritmo em detectar uma diferença entre os grupos. Num novo prefácio ao artigo, os investigadores também admitiram que considerar as condenações judiciais como sinónimo de criminalidade foi um “lapso sério”. No entanto, equiparar condenações com criminalidade parece ser registado pelos autores principalmente como uma falha empírica: usar fotos de criminosos condenados, mas não daqueles que escaparam, introduz um enviesamento estatístico. Eles disseram que estavam “profundamente perplexos” com a indignação pública em reacção a um artigo que se destinava para “discussões académicas puras”.

Notavelmente, os investigadores não comentaram o facto de que a própria condenação depende das impressões que a polícia, juízes e júris formam do suspeito – tornando a aparência “criminosa” de uma pessoa uma variável confusa. Eles também falham em mencionar como o policiamento intenso de comunidades específicas e a desigualdade de acesso à representação legal distorcem o conjunto de dados. Na sua resposta às críticas, os autores não recuam na suposição de que “ser um criminoso requer uma série de características pessoais anormais (isoladas)”. Na verdade, o seu enquadramento sugere que a criminalidade é uma característica inata, e não uma resposta às condições sociais como a pobreza ou o abuso. Parte do que torna o seu conjunto de dados questionável em termos empíricos é que quem é rotulado de “criminoso” dificilmente é neutro em termos de valores.

Uma das objecções morais mais fortes ao uso do reconhecimento facial para detectar a criminalidade é que ele estigmatiza as pessoas que já são policiadas em excesso. Os autores dizem que a sua ferramenta não deve ser usada na aplicação da lei, mas citam apenas argumentos estatísticos sobre porque não deve ser usada. Eles observam que a taxa de falsos positivos (50%) seria muito elevada, mas não ligam ao que isso significa em termos humanos. Esses falsos positivos seriam indivíduos cujos rostos se assemelham a pessoas que foram condenadas no passado. Dados os preconceitos raciais e outros que existem no sistema de justiça criminal, tais algoritmos acabariam a calcular por excesso a criminalidade entre as comunidades marginalizadas.

A questão mais questionável parece ser se reinventar a fisionomia é um jogo justo para os fins de “discussão académica pura”. Alguém poderia objectar em bases empíricas: eugenistas do passado, como Galton e Lombroso, no final das contas não conseguiram encontrar características faciais que predispusessem uma pessoa à criminalidade. Isto porque não existem tais ligações para serem encontradas. Da mesma forma, psicólogos que estudam a hereditariedade da inteligência, como Cyril Burt e Philippe Rushton, tiveram que mexer rapidamente nos seus dados para fabricar correlações entre o tamanho do crânio, raça e QI. Se houvesse algo a descobrir, provavelmente as muitas pessoas que tentaram ao longo dos anos não teriam falhado.

O problema de reinventar a fisionomia não é apenas o já ter sido tentado sem sucesso antes. Os investigadores que persistem em encontrar a fusão a frio após o consenso científico ter avançado também enfrentam críticas por perseguirem unicórnios – mas a desaprovação da fusão a frio está longe de ser um opróbrio. Na pior das hipóteses, são vistos como estando a perder tempo. A diferença é que os danos potenciais da pesquisa na fusão a frio são muito mais limitados. Em contraste, alguns argumentam que o reconhecimento facial deve ser regulado tão rigidamente quanto o plutónio, porque tem poucas utilizações que não são prejudiciais. Quando o projecto sem saída que se deseja ressuscitar foi inventado com o propósito de sustentar as estruturas coloniais e de classe – e quando a única coisa que é capaz de medir é o racismo inerente a essas estruturas – é difícil justificar tentá-lo mais uma vez, apenas pela curiosidade.

No entanto, chamar a investigação em reconhecimento facial de “frenologia” sem explicar o que está em jogo provavelmente não é a estratégia mais eficaz para comunicar a força da reclamação. Para que os cientistas levem a sério as suas responsabilidades morais, eles precisam de estar cientes dos danos que podem resultar das suas pesquisas. Soletrar com mais clareza o que há de errado com o trabalho denominado “frenologia” terá mais impacto do que simplesmente atirar o nome como um insulto.

* Texto de Catherine Stinson, publicado pela Aeon. Reproduzido sob licença (CC BY-ND 4.0). Fotos: Lombroso’s 1000 faces.

Deixe uma Resposta

Preencha os seus detalhes abaixo ou clique num ícone para iniciar sessão:

Logótipo da WordPress.com

Está a comentar usando a sua conta WordPress.com Terminar Sessão /  Alterar )

Google photo

Está a comentar usando a sua conta Google Terminar Sessão /  Alterar )

Imagem do Twitter

Está a comentar usando a sua conta Twitter Terminar Sessão /  Alterar )

Facebook photo

Está a comentar usando a sua conta Facebook Terminar Sessão /  Alterar )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.