Publicado por: Marcelo José de Sá Diretor-Presidente e Editor-Geral do Site do Jornal Espaço
Painel organizado pelas Nações Unidas destacou a dificuldade de regular uma tecnologia que cresce e muda de forma rápida
Inteligência artificial pode trazer riscos catastróficos com avanço descontrolado • Foto: Rawpick/Freepick
Os avanços na inteligência artificial estão superando o conhecimento científico e as políticas governamentais, o que significa que não há garantias de que a tecnologia não causará danos catastróficos, alertou nesta quarta-feira (1º) um painel independente das Nações Unidas.
Um relatório preliminar do Painel Científico Internacional Independente da ONU sobre Inteligência Artificial afirmou que os formuladores de políticas enfrentam um dilema crescente: eles precisam de evidências robustas para regulamentar a IA de forma eficaz, mas essas evidências têm dificuldade em acompanhar a rápida evolução da tecnologia.
“As capacidades da IA estão superando tanto o conhecimento científico quanto a capacidade dos governos de se adaptarem”, disse Yoshua Bengio, co-presidente do painel, composto por 40 especialistas de diversas regiões.
“Com evidências crescentes de comportamento enganoso da IA, a ciência atualmente não pode garantir que, à medida que as capacidades continuam a aumentar, a IA não causará danos catastróficos, seja por si só ou devido a usuários maliciosos”, acrescentou.
Descrito como a primeira avaliação global independente dos riscos e oportunidades da IA, o relatório visa fornecer avaliações atualizadas da ciência para ajudar a orientar a tomada de decisões, à medida que os governos lidam com sistemas em rápida evolução.
A curto prazo, prevê-se uma mudança em direção a sistemas de IA autônomos capazes de executar tarefas do mundo real, embora o crescimento possa ser limitado pela escassez de energia e de dados de alta qualidade. Com o tempo, a previsão é de uma IA com capacidade de autoaperfeiçoamento, mais profundamente integrada à economia e convergindo com tecnologias como a computação quântica e a biotecnologia.
Segundo o relatório, a inteligência artificial já demonstra raciocínio de nível especializado em matemática e ciências, está acelerando o desenvolvimento de medicamentos e vacinas e sua complexidade de tarefas está dobrando a cada quatro a sete meses, permitindo potencialmente que os sistemas concluam trabalhos que levariam dias ou semanas para os humanos.
Embora isso possa trazer benefícios econômicos significativos, ainda não está claro se os ganhos de produtividade resultantes do uso da IA se traduzirão em crescimento mais amplo ou afetarão os empregos.
O painel também destacou uma série de preocupações com a segurança, como o risco de perder o controle sobre os sistemas de IA à medida que se tornam cada vez mais autônomos e enganosos.
A inteligência artificial já está sendo usada para gerar desinformação e outros conteúdos nocivos, podendo ser explorada para fraudes, ataques cibernéticos e ameaças biológicas.
A governança permanece fragmentada, com muitos países sem capacidade para avaliar ou moldar sistemas avançados de IA, o que os torna dependentes de tecnologias que não conseguem compreender ou controlar totalmente. As ferramentas de segurança existentes muitas vezes dependem de dados limitados de testes divulgados pelas empresas, afirma o relatório.
O secretário-geral da ONU, António Guterres, instou os governos a agirem rapidamente.
“O mundo não pode governar o que não consegue compreender”, disse Guterres em comunicado. “O potencial é grande, mas os riscos são reais, e o custo da espera está aumentando.”
Líderes políticos e tecnológicos globais, juntamente com a agência de tecnologia digital das Nações Unidas, anunciaram na quarta-feira a criação de uma nova comissão para tratar do desenvolvimento da IA em meio a crescentes preocupações com seus riscos potenciais.
A Comissão Global de IA para o Bem será copresidida pelo presidente de Ruanda, Paul Kagame, e pelo CEO da Salesforce CRM.N, Marc Benioff, de acordo com um documento estratégico disponível no site da comissão. A secretária-geral da UIT, Doreen Bogdan-Martin, será a vice-presidente permanente. Espera-se também a participação de outras agências da ONU.
Sugestões de pautas ou denúncias é só enviar no e-mail: redacao@jornalespaco.com.br
Contatos de Reportagens e Marketing:
Números de celulares Whats Apps e seus e-mails respectivos
Celular WhatsApp (Claro): 62 9 9324-5038
Celular Whats App (Tim): 62 9 8161-2938
jornalespacov@yahoo.com
Instagram: @Jornal Espaço
