Um novo relatório independente sobre inteligência artificial, elaborado por um painel de especialistas ligado à ONU, chama atenção para um descompasso: enquanto os sistemas de IA evoluem em ritmo acelerado, a compreensão científica sobre seus efeitos e a capacidade dos governos de regulá-los ainda caminham a passos mais lentos. O documento, que reúne contribuições de 40 cientistas e especialistas de diferentes países, será apresentado durante o Diálogo Global da ONU sobre Governança de IA, evento marcado para os dias 6 e 7 de julho em Genebra.

O trabalho não nega os avanços trazidos pela IA generativa e conversacional nos últimos anos, mas reforça que a velocidade de adoção da tecnologia superou a capacidade de resposta regulatória em praticamente todo o mundo, inclusive em economias desenvolvidas.

Riscos da IA identificados pelo painel científico da ONU

Entre os pontos centrais do relatório está a constatação de que ainda existem poucos mecanismos eficazes para monitorar e controlar sistemas de IA com alto grau de autonomia. Essa lacuna técnica dificulta a criação de políticas públicas capazes de acompanhar a evolução dos modelos em tempo real.

O documento lista uma série de riscos da IA que já afetam ou podem afetar de forma mais intensa a sociedade nos próximos anos:

• impactos em sistemas sociais, econômicos e ambientais;
• uso indevido da tecnologia como ferramenta para fins destrutivos;
• dificuldade crescente de supervisionar sistemas altamente autônomos;
• possíveis danos à saúde mental de usuários que interagem intensamente com sistemas conversacionais;
• aumento da circulação de material de abuso sexual infantil gerado por IA e de violência sexual facilitada por deepfakes.

Um dos coordenadores do painel destacou que, mesmo com todo o avanço técnico, ainda não há garantias científicas de que a IA não provoque danos graves, seja por falhas do próprio sistema, seja por uso mal-intencionado feito por pessoas. Essa fala resume o tom geral do relatório: reconhecer os benefícios da tecnologia sem minimizar os riscos que acompanham sua expansão.

Contexto e cenário do mercado global de inteligência artificial

O relatório chega em um momento de forte expansão do uso de IA em escala mundial. Segundo o documento, mais de um bilhão de pessoas já utilizam semanalmente algum tipo de ferramenta de IA conversacional, um volume que evidencia o quanto essas tecnologias já fazem parte da rotina digital de bilhões de usuários.

Apesar disso, a adoção segue desigual entre países. O painel aponta que os Estados Unidos concentram 75% do poder computacional entre os 500 maiores supercomputadores voltados à IA no mundo, enquanto a China responde por 15% desse total. Essa concentração de infraestrutura tem consequências diretas na chamada corrida tecnológica global, já que países em desenvolvimento enfrentam dificuldades para acessar capacidade computacional de ponta, o que os deixa em desvantagem tanto na adoção quanto na regulação da tecnologia.

Outro ponto de destaque é a questão linguística. Embora existam mais de 7 mil idiomas falados no mundo, apenas uma fração deles está representada de forma robusta no treinamento dos modelos de linguagem atuais. O relatório menciona que falhas em traduções automáticas já impactam áreas sensíveis, como diagnósticos médicos e decisões de tratamento em saúde, um risco pouco discutido publicamente, mas com efeitos práticos relevantes.

O documento também chama atenção para o papel da IA na produção de conteúdo persuasivo em larga escala, o que pode contribuir para o enfraquecimento gradual da confiança pública, da integridade da informação e da coesão social, com reflexos diretos sobre processos democráticos.

Impactos para empresas, profissionais e usuários de IA

Para empresas de tecnologia, o relatório reforça uma tendência que já vinha se desenhando: a pressão por mecanismos mais robustos de segurança, transparência e explicabilidade em modelos de IA deve aumentar nos próximos anos. Companhias que desenvolvem ou utilizam sistemas de IA em larga escala tendem a enfrentar exigências crescentes de conformidade, especialmente em setores sensíveis como saúde, educação e comunicação.

Para profissionais do setor de tecnologia, o cenário aponta para uma demanda maior por especialistas em governança, segurança e ética de IA, áreas que ainda carecem de mão de obra qualificada em escala global. O próprio relatório reconhece que a maioria dos países, incluindo economias avançadas, ainda não tem capacidade técnica suficiente para avaliar de forma independente os modelos mais avançados de IA.

Já para usuários finais, os alertas sobre saúde mental e uso indevido de deepfakes reforçam a necessidade de mais educação digital e senso crítico no uso de ferramentas de IA generativa, especialmente em aplicações voltadas ao público infantil e adolescente, área citada de forma explícita como preocupação central do documento.

Empresas de mídia, educação e serviços públicos também devem sentir os efeitos indiretos das recomendações do relatório, à medida que governos e organismos internacionais avancem em discussões sobre regulação de conteúdo gerado por IA e combate à desinformação.

Tendências e próximos passos na governança global de IA

O relatório deve alimentar diretamente as discussões do Diálogo Global da ONU sobre Governança de IA, previsto para ocorrer em Genebra nos dias 6 e 7 de julho. A expectativa é que o documento sirva de base técnica para debates entre governos, empresas e sociedade civil sobre como equilibrar inovação e segurança.

Entre as tendências apontadas, destacam-se:

• Avanço de discussões sobre regulação de conteúdo sintético e deepfakes;
• Maior cooperação internacional para monitoramento de modelos de IA de fronteira;
• Ampliação de estudos sobre os efeitos da IA na saúde mental e no comportamento humano;
• Desenvolvimento de capacidade técnica local em países que hoje dependem de tecnologia estrangeira;
• Necessidade de diversidade linguística no treinamento de modelos, para reduzir erros em contextos sensíveis como saúde.

O documento reforça, por fim, que o principal desafio não é interromper o avanço da inteligência artificial, mas garantir que a governança da tecnologia consiga acompanhar sua evolução, um alinhamento que, segundo os autores, ainda está longe de ser alcançado em escala global.

Créditos

Fonte de referência: Olhar Digital

Matéria produzida pela Redação Brasil Tech News com base em informações publicadas originalmente pelo veículo citado.

Assinatura: Redação Brasil Tech News