Sistemas automatizados de tomada de decisão e luta contra o COVID-19

Enquanto a pandemia do COVID-19 atinge todo o mundo, muitos estão a perguntar-se como usar os sistemas automatizados de tomada de decisão (ADMS, de “automated decision-making systems”) para conter o surto.

Diferentes soluções estão a ser propostas e implementadas em diferentes países, desde controlo social autoritário (China) até soluções descentralizadas e voltadas para a privacidade (“Safe Path” do MIT).

O que se segue é um conjunto de possíveis princípios e considerações para fundamentar uma discussão informada, democrática e útil sobre o uso dos ADMS na actual pandemia.

1. O COVID-19 não é um problema tecnológico. Análises às respostas actuais ao surto mostram que as intervenções bem-sucedidas basearam-se sempre em políticas de saúde pública mais amplas. Singapura, Coreia do Sul e Taiwan, frequentemente citadas como modelos para controlar a epidemia, tinham planos, a maioria deles concebidos após o surto de SARS em 2003. A preparação para uma epidemia vai além das soluções técnicas: significa ter recursos, competências, planos, legitimidade política e vontade de os implementar rapidamente quando necessário.

2. Não existe uma solução única para o surto do COVID-19. O sucesso na luta contra o vírus requer testes, registo de contactos e confinamento. No entanto, não há dois contextos idênticos. Um país em que o vírus circula sem ser detectado por meses (por exemplo, a Itália) é diferente de um país que identificou portadores do vírus desde o início (por exemplo, a Coreia do Sul). As diferenças sociais, políticas e culturais também são importantes quando se trata de fazer cumprir as políticas de saúde pública. Isso significa que a mesma solução tecnológica pode produzir resultados muito diferentes em contextos tão diferentes.

3. Consequentemente, não há necessidade de apressar a vigilância digital em massa para combater a doença do COVID-19. Não é apenas uma questão de privacidade – embora a privacidade continue a ser um direito fundamental e precise de ser respeitada. Antes de considerar as implicações da protecção de dados das aplicações de rastreio de contactos digitais, por exemplo, devemos perguntar: eles funcionam? Os resultados da literatura e de epidemias passadas estão actualmente misturados e dependem muito do contexto. Os direitos devem ser equilibrados com os benefícios esperados (salvar vidas). Mas não há necessidade de sacrificar as nossas liberdades fundamentais se isso não servir para nada.

4. Os confinamentos não podem durar indefinidamente. Temos que pensar em como voltar gradualmente ao “normal”. A maioria dos cenários envolve algum tipo de vigilância digital, que parece ser necessária quando aspectos específicos do COVID-19 são tidos em consideração: a existência de pacientes assintomáticos que podem ser infectantes, o período de 14 dias de incubação, o facto de não existir ainda cura ou vacina para a doença. As organizações da sociedade civil devem estar prontas para contribuir para a discussão sobre as soluções de monitorização em consideração, a fim de auxiliar na elaboração de abordagens adequadas.

5. A protecção contra o COVID-19 e a protecção da privacidade não são mutuamente exclusivas. Soluções como a desenvolvida pelo MIT (“Safe Paths“) e a iniciativa Pan-European Privacy Preserving Proximity Tracing associam o rastreamento dos contactos digitais a uma abordagem aberta, descentralizada e com mais preservação de direitos. Essa também é a maneira pela qual países como Singapura estão a lidar com o problema (por exemplo, usando a aplicação “TraceTogether“), que é diferente da abordagem adoptada pela Coreia do Sul e por Israel.

6. Qualquer solução deve ser implementada de forma compatível com a democracia. A democracia não impede a pandemia: é a única esperança que temos de enfrentá-la racionalmente e respeitar os direitos de todos. A transparência deve ser primordial em 1) nas soluções tecnológicas que estão a ser desenvolvidas, 2) nas equipas de especialistas ou de instituições ad-hoc criadas para nelas se trabalhar, 3) na prova de porque deve realmente ser implementada; 4) em quem irá construir e desenvolvê-las, especialmente se estiverem envolvidas entidades privadas. Apenas a transparência garantirá que a sociedade civil e os parlamentares possam responsabilizar os decisores.

7. A informação fornecida com o desenvolvimento dos ADMS para combater o vírus vai criar novas categorias sociais em risco de discriminação. Os governos devem impedir a estigmatização de indivíduos colocados em categorias erradas e preservar os direitos dos indivíduos que não obtiverem pontuações suficientemente altas nas escalas a serem usadas, principalmente no que se refere à triagem na área da saúde.

8. Mesmo quando se mostrarem realmente úteis, as soluções de vigilância digital devem ser firmemente fundamentadas nos princípios da protecção de dados. Conforme foi recentemente esclarecido pelo European Data Protection Board (Conselho Europeu de Protecção de Dados) numa declaração, a necessidade, a proporcionalidade, a limitação de objectivos e um Estado de direito em geral devem ser respeitados, mesmo face a uma emergência de saúde pública. Os cidadãos devem poder recorrer de qualquer decisão tomada por um sistema automatizado referente ao COVID-19 (especialmente aplicações que determinam se alguém entrou em contacto com uma pessoa infectada e deve passar por quarentena). Os governos e os contratados devem cumprir as disposições do Regulamento Geral para a Protecção de Dados (RGPD).

9. As soluções ADMS pré-existentes não devem ser re-orientadas e adoptadas para as respostas COVID-19, pois os sistemas automatizados que dependem de dados para exercícios no passado não podem, por design, lidar com uma mudança repentina nas condições em que são implementados. O policiamento predictivo, a assistência automatizada aos juízes, a pontuação para obtenção de crédito e as pontuações de outros ADMS podem produzir resultados muito aquém da faixa normal (por exemplo, em relação às taxas de erro). Tais sistemas devem ser urgentemente auditados ou suspensos.

10. Uma pandemia é global por definição. É necessário que tenha um conjunto de respostas globais, diversas e coordenadas. Uma rede global de organizações da sociedade civil trabalhando em conjunto deve monitorizar as respostas à pandemia. Emergências anteriores ensinaram-nos que as emergências dão aos líderes políticos sem escrúpulos a desculpa perfeita para legitimar as infra-estruturas de vigilância em massa que desnecessariamente – e indefinidamente – infringem os direitos de todos. A resistência a isso só foi (parcialmente) bem-sucedida quando foi global, coordenada e fortemente formulada, com clareza e evidência do nosso lado.

11. Por fim, deve-se garantir que o debate sobre a vigilância com o COVID-19 não ocorre no vazio. Alguns ADMS, principalmente o do reconhecimento facial, já se mostraram problemáticos. O estado actual de emergência não pode ser usado para justificar a sua implementação: pelo contrário, todas as questões destacadas em tempos “normais” – falta de precisão, enviesamento sistemático nas suas recomendações, preocupações mais amplas sobre possíveis abusos dos dados biométricos, etc. – tornam-se ainda mais importantes em momentos excepcionais, quando a saúde e a segurança de todos estão em risco. Não devemos apenas garantir que esse debate crucial não é liderado por tecnólogos ou tecnologias, mas também assegurar que as tecnologias envolvidas demonstram beneficiar a sociedade. A suspensão das comunicações interpessoais fornece uma oportunidade de agilizar ainda mais o bem-estar e outros serviços fundamentais online, onde o ADMS geralmente substitui os assistentes sociais. Isto pode ter consequências catastróficas para os cidadãos que não têm acesso ou não têm meios para entender criticamente as ferramentas digitais. Devemos garantir que isso não acontece.

* Texto de Fabio Chiusi, em cooperação com Nicolas Kayser-Bril. Publicado originalmente em AlgorithmWatch, sob licença CC BY 4.0.

Deixe uma Resposta

Preencha os seus detalhes abaixo ou clique num ícone para iniciar sessão:

Logótipo da WordPress.com

Está a comentar usando a sua conta WordPress.com Terminar Sessão /  Alterar )

Google photo

Está a comentar usando a sua conta Google Terminar Sessão /  Alterar )

Imagem do Twitter

Está a comentar usando a sua conta Twitter Terminar Sessão /  Alterar )

Facebook photo

Está a comentar usando a sua conta Facebook Terminar Sessão /  Alterar )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.