O Senado holandês partilha as preocupações que [a organização de direitos digitais Bits of Freedom, BoF] tem sobre a Lei de Inteligência Artificial (“Artificial Intelligence Act”) e escreveu uma carta à Comissão Europeia (CE) sobre a necessidade de proteger melhor as pessoas dos usos prejudiciais da IA, como através da vigilância biométrica. A Comissão deu uma resposta que não é propriamente tranquilizadora.
As lacunas na lei
No final do ano passado, o Senado expressou a sua preocupação com a proposta de lei da IA. Numa carta, questionou a Comissão sobre as formuladas aplicações proibidas, incluindo a pontuação social (“social scoring”), abuso de vulnerabilidades de grupos de pessoas e uso de identificação biométrica remota. O Senado também expressou preocupação com a abordagem baseada no risco e na falta de protecção legal. O Senado expressou as mesmas preocupações que a BoF. Infelizmente, há uma menor satisfação com as respostas da CE.
Fazer metade do trabalho
Enquanto mais e mais instituições e organizações defendem a proibição completa da vigilância biométrica em espaços acessíveis ao público, a CE mantém a sua posição de que a proibição deve ser limitada à identificação biométrica remota em tempo real pela polícia. Estes são usos de sistemas de IA que podem reconhecer pessoas instantaneamente ou pelo menos “sem demora considerável”. Isto ainda permite todos os tipos de aplicações muito nocivas, incluindo aplicações em que a identificação ocorre posteriormente, que podem ser usadas com a mesma facilidade para seguir pessoas no espaço público. Há ainda uma série de riscos associados aos sistemas de identificação pós-biométrica que não estão presentes nas aplicações em tempo real. Por exemplo, as imagens podem ser adulteradas. Ou grandes quantidades de imagens podem ser examinadas posteriormente para ver se alguém aparece nelas e onde alguém esteve e com quem, potencialmente ao longo de vários meses ou anos. Isso acarreta um grande risco para os denunciantes ou para a protecção das fontes dos jornalistas.
Respostas contraditórias
Por um lado, a CE parece querer tranquilizar o Senado holandês ao indicar que já existe uma proibição do uso de dados biométricos na lei europeia da privacidade. No entanto, as regras actuais são menos restritivas para fins de aplicação da lei. Alguns países da União Europeia têm legislação para especificar a abordagem mais permissiva para a aplicação da lei, outros não. É por isso que a CE considera agora necessário assegurar um “campo de jogo equitativo”, estabelecendo as mesmas regras para a aplicação da lei em toda a UE. É claro que há algo a ser dito sobre isto.
O que é preocupante, no entanto, é que a CE lista todos os tipos de “vantagens” da identificação biométrica que são profundamente questionáveis, para dizer o mínimo. Por exemplo, diz que reconhecer emoções pode ser útil para pessoas cegas e neurodivergentes. Pode alertar as pessoas quando adormecem ao volante. E pode verificar a idade das crianças que jogam para protegê-las de conteúdo nocivo.
A ideia é muito nobre, mas ainda parece que estes tipos de aplicações estão cheias de erros. Os rostos das pessoas de cor são pouco ou nada reconhecidos por tais sistemas e há uma falta de base científica confiável para poder derivar emoções das características externas de um rosto. Além disso, baseiam-se na suposição de que todas as pessoas expressam emoções da mesma maneira, e que as expressões faciais significam sempre a mesma coisa, embora não seja o caso. Como pessoas de diferentes culturas e ambientes, expressamos as nossas emoções de maneira diferente, o que sem dúvida faz parte da riqueza de ser humano. E o uso da identificação biométrica é realmente o que queremos usar para proteger os nossos filhos?
Não é tranquilizador que, ao listar o que vê como vantagens, a CE ignore completamente os riscos sérios e bem estabelecidos para os direitos humanos associados a essas aplicações.
Nos próximos tempos, a UE discutirá a proposta legislativa no Parlamento e no Conselho. A BoF continua comprometida em alcançar uma lei que proteja efetivamente os direitos fundamentais e evite os usos que são tão arriscados que nenhuma salvaguarda pode mitigar os seus danos.
Artigo original de Lotte Houwing e Nadia Benaissa, republicado de Bits of Freedom (CC). Imagens de AlgorithmWatch e Reclaim Your Face.
TICtank 