Especialistas mundiais criam documento sobre capacidades e riscos da IA

Diretor do Instituto de Ciências Matemáticas e de Computação da USP colabora com o trabalho desenvolvido no Reino Unido para orientar governos

Agência FAPESP – O professor André Carlos Ponce de Leon Ferreira de Carvalho, diretor do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP), em São Carlos, foi convidado para participar de um comitê consultivo internacional formado pelo governo do Reino Unido para desenvolver um relatório sobre as capacidades e riscos da inteligência artificial (IA).

Carvalho coordena o Centro de Pesquisa Aplicada em Inteligência Artificial Recriando Ambientes (CPA-IARA), que tem apoio da FAPESP e do Ministério da Ciência, Tecnologia e Inovação (MCTI). Também é pesquisador principal do Centro de Ciências Matemáticas Aplicadas à Indústria (CeMEAI), um Centro de Pesquisa, Inovação e Difusão (CEPID) da FAPESP sediado no ICMC-USP.

Segundo ele, em novembro de 2023, o Reino Unido organizou a primeira cimeira global sobre a segurança da inteligência artificial no Bletchley Park, onde, na Segunda Guerra Mundial, uma equipe liderada por Alan Turing, um dos pioneiros da IA, decifrou o código da máquina alemã Enigma.

“Da cimeira, participaram representantes de governos nacionais e da União Europeia, de empresas, da academia e da sociedade civil, incluindo o primeiro-ministro do Reino Unido, Rishi Sunak, a vice-presidente dos Estados Unidos, Kamala Harris, e a presidente da Comissão Europeia, Ursula Von Der Leyen”, contou Carvalho à Assessoria de Imprensa do ICMC-USP.

No evento foram discutidos os riscos dos sistemas mais recentes e poderosos de IA, a inteligência artificial de fronteira (frontier AI) e os participantes receberam um relatório intitulado “AI Safety Summit- Capabilities and risks from frontier AI”, apresentando as capacidades, os riscos da IA de fronteira e apontando para a necessidade de apoiar pesquisas no tema.

O relatório foi revisado por um comitê de especialistas, coordenado pelo professor Yoshua Bengio, da Universidade de Montreal (Canadá). Juntamente com os professores Geoffrey Hinton e Yann LeCun, Bengio recebeu em 2018 o Prêmio Turing, equivalente ao prêmio Nobel para a área de computação. Os três são chamados de “Padrinhos da IA”.

Carvalho destacou um trecho apontado pelo relatório: “Estamos no meio de uma revolução tecnológica que trará grandes alterações à forma como vivemos, trabalhamos e nos relacionamos. A IA pode transformar quase todos os aspectos da nossa economia e sociedade”.

“Para aproveitar as oportunidades, devemos compreender e enfrentar os riscos. A IA apresenta riscos de formas que não respeitam as fronteiras nacionais. É importante que governos, universidades, empresas e sociedade civil trabalhem juntos para enfrentar esses desafios, que são complexos e difíceis de prever, para mitigar os perigos potenciais e garantir os benefícios da IA para toda a sociedade”, aponta outro trecho.

Segundo o diretor do ICMC, não se discute mais a força dessa tecnologia transformadora, com técnicas cada vez mais sofisticadas e complexas. Para ele, esse cenário futurista parecido com roteiro de filme de ficção científica já chegou.

O que não é possível prever ainda são as consequências do mau uso da tecnologia e do surgimento de uma IA mais inteligente do que os seres humanos. “Por isso, a urgência em discutir e elaborar documentos como esse, feitos por especialistas em IA. Também ficou acordado que seguiremos redigindo documentos com informações que possam dar subsídios para que os governos se preparem, entregando a eles o conhecimento necessário, de acordo com o estado da arte, sobre o que pode acontecer com essa área, particularmente de seus riscos”, enfatizou.

O relatório completo pode ser lido no seguinte link: https://assets.publishing.service.gov.uk/media/65395abae6c968000daa9b25/frontier-ai-capabilities-risks-report.pdf.