Quando se diz que “um algoritmo é tendencioso”, geralmente quer-se dizer que “pessoas tendenciosas criaram um algoritmo”. Isso explica porque tanta previsão de aprendizagem por máquina (“machine learning” ou ML) se transforma em frenologia.

Os investigadores com delírios frenológicos pedem às máquinas que encontrem correlações estatísticas de personalidades ou de emoções, e as máquinas dão-lhes isso. É um elevado risco, uma apofenia colaborativa máquina-homem, detectar padrões onde eles não existem.

Lamentavelmente, esse lixo de ciência é publicada em revistas respeitadas. Em 2017, a Nature publicou um estudo de Michal Kosinski, de Stanford, alegando que a ML poderia detectar as correlações faciais da homossexualidade, criando um alegado reconhecedor de homossexuais por inteligência artificial (IA).

Sem surpresa, o estudo de Kosinski falhou espectacularmente em ser replicado. Mas, como tantas vezes costuma acontecer, a descoberta do “blockbuster” atingiu toda a imprensa, o trabalho cuidadoso de replicação que a coloca em dúvida é ignorado.

Kosinski não desistiu da frenologia por IA. O último artigo do seu laboratório (publicado pela Nature… de novo!) afirma que ele pode detectar a filiação política a partir de fotografias de media social.

“Spoiler”: ele não pode.

O que o seu sistema provavelmente detecta são certas convenções em poses e expressões que são usadas em diferentes subculturas políticas. Como o rosto de Karen, basicamente.

Infelizmente, esta afirmação está a ser noticiada de forma crédula na imprensa de tecnologia como verdadeira, mesmo quando o próprio autor nota que este sistema de ML quase não supera o acaso [aleatório].

O racismo científico está connosco há séculos. Ele está a ter um renascimento actualmente, impulsionado em parte pelos neofrenólogos do mundo da ML. Eles são os descendentes modernos dos eugenistas portadores do compasso de calibre de outrora.

Para entender a ciência genómica que refuta todo esse absurdo, pode-se ler o livro brilhante, curto, espirituoso e amplamente informativo “How to Argue With a Racist“, de Adam Rutherford. Ficará contente por o ter feito.

* Texto original de Cory Doctorow, publicado na Pluralistic e usado sob licença (CC BY 4.0). Foto modificada de People’s Cyclopedia of Universal Knowledge (1883)/Wikipedia