Documento apresentando as capacidades, os riscos da IA de fronteira e apontao para a necessidade de apoiar pesquisas no tema
O que acontece no final do filme? Máquinas e sistemas inteligentes superam a capacidade dos seres humanos e passam a controlá-los? Essas dúvidas, já abordadas várias vezes pela ficção científica, podem estar mais perto da realidade do que a gente imagina. E essa é parte de uma conversa com o representante brasileiro em um comitê consultivo internacional formado pelo governo do Reino Unido para desenvolver um relatório sobre as capacidades e riscos da Inteligência Artificial (IA).
O professor André Ponce de Leon Ferreira de Carvalho é um dos especialistas que fazem parte desse comitê, convidado pelo Ministério da Ciência, Tecnologia e Inovação (MCTI). O atual diretor do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, pesquisador principal do Cepid-Cemeai e coordenador do Centro de Pesquisa Aplicada em Inteligência Artificial Recriando Ambientes (CPA Iara) está trabalhando com cientistas de outras 29 nações convidadas para a Cúpula de Segurança de IA do Reino Unido, da Organização das Nações Unidas (ONU) e da União Europeia (UE).
Carvalho explica que, em novembro de 2023, o Reino Unido organizou a primeira cimeira global sobre a segurança da inteligência artificial no Bletchley Park, onde, na Segunda Guerra Mundial, uma equipe liderada por Alan Turing, um dos pioneiros da IA, decifrou o código da máquina alemã Enigma.
Ainda segundo ele, no evento foram discutidos os riscos dos sistemas mais recentes e poderosos de IA, a IA de fronteira (frontier AI) e os participantes receberam um relatório intitulado AI Safety Summit- Capabilities and risks from frontier AI, apresentando as capacidades, os riscos da IA de fronteira e apontando para a necessidade de apoiar pesquisas no tema.
O relatório foi revisado por um comitê de especialistas, coordenado pelo professor Yoshua Bengio, da Universidade de Montreal, no Canadá. Juntamente com os professores Geoffrey Hinton e Yann LeCun, Yoshua recebeu, em 2018, o Prêmio Turing, equivalente ao prêmio Nobel para a área de Computação. Os três são chamados de “Padrinhos da IA”.
Carvalho destaca um trecho apontado pelo relatório: “Estamos no meio de uma revolução tecnológica que trará grandes alterações à forma como vivemos, trabalhamos e nos relacionamos. A IA pode transformar quase todos os aspectos da nossa economia e sociedade”.
Leia na íntegra: Jornal da Ciência