O que preocupa alguns dos oradores do recento evento virtual AGI Debate?

Noam Chomsky questiona se a IA “nos dirá alguma vez algo sobre o que mais lhe interessa: o que faz da mente humana o que ela é”?

Gary Marcus duvida se as abordagens contemporâneas à IA vão solucionar “quatro aspectos-chave do pensamento que deveríamos esperar de qualquer máquina inteligente: raciocínio, abstracção, compositividade e factualidade”. Também David Ferrucci mostrou-se preocupado com o facto de os sistemas actuais serem “em última análise insatisfeitos”, e Ben Goertzel, co-criador do termo Inteligência Artificial Geral (IAG), com haver “demasiado imperalismo intelectual centrado numa única abordagem actualmente popular e não colaboração intelectual suficiente”.

Artur d’Avila Garcez “argumentou ser urgente trazer abordagens simbólicas para este ‘mix’, e enfatizou a necessidade de uma estrutura semântica mais rica”.

Jürgen Schmidhuber aconselhou um maior foco na meta-aprendizagem, à semelhança de Jeff Clune, que “exprimiu preocupações sobre a forma como os maus actores podem usar a IAG, e argumentou que abordar esse potencial uso indevido estava entre ‘as questões mais importantes que a humanidade enfrenta'”.

Anja Kaspersen questionou “se a dinâmica de poder da comunidade da IA estava a conduzir à melhor investigação e às melhores políticas, ou simplesmente ao aprofundamento de caminhos que já provaram ser perigosos” – incluindo a potencial “avalancha de desinformação”, como referiu Kai-Fu Lee -, enquanto Francesca Rossi “argumentou que se deve trazer os humanos para este ‘loop’, dadas as realidades da tecnologia actual”.

Nesse sentido, Angela Sheffield preocupou-se com “a forma como os decisores políticos devem regular a IA, particularmente quando a IA real que temos actualmente não é, de forma alguma, uma verdadeira inteligência geral”.