Os benefícios e os riscos da inteligência artificial (IA) estão divididos de forma diferenciada. Os efeitos do seu uso ocorrem “sem um entendimento público ou deliberação, liderados por empresas tecnológicas e governos que ainda estão para perceber as vastas implicações das suas tecnologias quando são disseminadas em complexos sistemas sociais”, alerta o AI Now Institute, da universidade de Nova Iorque.

Países como os Emirados Árabes Unidos acreditam que o desenvolvimento da IA “vai gerar novas receitas e providenciar novas oportunidades para a economia nacional“. Outros consideram que, no desenvolvimento da IA pelas principais empresas que lideram o processo, a posse dos “dados pessoais é uma pesada responsabilidade que deve ter obrigações éticas“.

Nesse sentido, o AI Now Institute salienta no seu segundo relatório sobre o estado da IA, o rápido desenvolvimento deste domínio na última década, derivado de “três desenvolvimentos concorrentes: melhores algoritmos, melhorias no poder computacional em rede e a capacidade da indústria tecnológica em obter e armazenar enormes quantidades de dados”.

Neste âmbito, propõe 10 recomendações:
1. as autoridades públicas não devem usar sistemas algorítmicos que não controlam;
2. as empresas devem, antes de lançar em público um sistema de IA, efectuar testes rigorosos para garantir a sua fiabilidade;
3. após esse lançamento, o seu uso deve ser monitorizado;
4. mais investigação é necessária no uso de sistemas de IA no local de trabalho;
5. desenvolvimento de normas para o uso da IA na formação;
6. alargar estratégias de mitigação para o potencial uso pré-influenciado (“biased”) da IA;
7. normas fortes para a auditoria e análise do lançamento de sistemas de IA “in​ ​the​ ​wild”;
8. revelação da participação de mulheres e minorias, para garantir a diversidade de género no sector;
9. alargar a contratação de investigadores de outras áreas, garantindo o seu poder de decisão;
10. códigos éticos devem ser acompanhados por mecanismos fortes de supervisão.