Pesquisadores do Instituto Fraunhofer de Optrônica, Tecnologias de Sistemas e Exploração de Imagens (Fraunhofer IOSB), na Alemanha, desenvolveram uma ferramenta capaz não só de identificar imagens geradas por inteligência artificial, mas também de explicar, de forma visual e textual, quais elementos da imagem levaram a essa conclusão. Batizada de RealorRender, a solução atinge taxas de acerto entre 85% e 91%, conforme dados divulgados pelo instituto em comunicado oficial no início de agosto de 2026.
O projeto foi conduzido em parceria com o Escritório Federal Alemão de Segurança da Informação (BSI), órgão que também financia a iniciativa e que pretende ser o primeiro a utilizar a tecnologia em ambiente real, por meio de um demonstrador voltado à checagem de conteúdo.
Como funciona o novo detector de deepfakes com IA explicável
Diferentemente da maioria das soluções de detecção disponíveis hoje, que se baseiam em um único classificador de aprendizado profundo, a RealorRender adota uma arquitetura híbrida em duas etapas.
Na primeira fase, um modelo generativo de imagens tenta reconstruir a imagem enviada para análise. A lógica por trás dessa etapa é conceitualmente simples: uma imagem criada originalmente por inteligência artificial tende a ser reproduzida com mais fidelidade por outro sistema de IA generativa do que uma fotografia real, capturada por uma câmera. Quanto mais próxima a reconstrução do original, maior a probabilidade de que a imagem avaliada seja sintética.
Na segunda fase, um modelo de classificação entra em ação para calcular o chamado erro de reconstrução (a diferença entre a imagem original e a versão recriada pela IA) e converter esse valor em uma estimativa percentual de autenticidade. Segundo Andreas Specker, pesquisador sênior do grupo de Sistemas de Segurança e Assistência por Vídeo do Fraunhofer IOSB, essa combinação entre reconstrução generativa e classificação híbrida é o que permite alcançar as taxas de precisão anunciadas.
O diferencial da ferramenta, no entanto, não está apenas na detecção em si. A equipe de pesquisa deu atenção especial ao componente de inteligência artificial explicável (XAI), que traduz o raciocínio interno do modelo em elementos compreensíveis para quem analisa a imagem. Nadia Burkart, responsável pelo grupo de IA Explicável Aplicada do instituto, destacou que padrões de textura e frequências características costumam indicar a origem sintética de uma imagem, e que o XAI serve justamente para tornar visíveis os sinais usados pelo modelo na decisão.
Na prática, a RealorRender apresenta esses sinais de duas formas: mapas de calor, que destacam visualmente as regiões da imagem que mais influenciaram o resultado, e uma análise segmentada, que aponta áreas semânticas específicas, como rosto, cabelo ou plano de fundo, responsáveis por entregar a manipulação.
Contexto: por que a explicabilidade se tornou prioridade na detecção de deepfakes
A detecção de imagens sintéticas não é um problema novo, mas vem se tornando mais urgente à medida que os modelos generativos evoluem. Ferramentas de verificação já existem no mercado, oferecidas tanto por empresas de segurança digital quanto por iniciativas acadêmicas, mas a maior parte delas entrega apenas um veredito binário, “real” ou “falso”, sem indicar em que elementos da imagem essa conclusão se baseou.
Essa lacuna tem um custo prático relevante. Segundo os próprios dados citados pelo Fraunhofer IOSB, fraudes envolvendo deepfakes ultrapassaram US$ 1,5 bilhão em prejuízos globais em 2025. Um levantamento anterior, de 2023, identificou mais de 276 mil deepfakes de caráter sexual concentrados em um único site especializado nesse tipo de conteúdo, dos quais a esmagadora maioria retratava mulheres. Esses números ajudam a explicar por que instituições de segurança, veículos de imprensa e plataformas digitais vêm pressionando por soluções que não apenas detectem, mas também justifiquem suas decisões, um requisito cada vez mais associado a marcos regulatórios sobre uso de IA, como o AI Act da União Europeia, que entrou em vigor recentemente no bloco.
O avanço também dialoga com um problema comportamental bem documentado: estudos sobre percepção humana mostram que pessoas comuns têm dificuldade significativa em distinguir imagens autênticas de conteúdo sintético a olho nu, especialmente à medida que os geradores de imagem melhoram em realismo. Isso reforça a demanda por ferramentas automatizadas que sirvam de apoio técnico a decisões editoriais, jurídicas e de moderação de conteúdo.
Impactos para empresas, profissionais e usuários
A explicabilidade embutida na RealorRender tem potencial para mudar a forma como diferentes setores lidam com verificação de conteúdo.
Para agências de segurança pública, como o próprio BSI, contar com uma justificativa visual e textual para cada classificação facilita a documentação de casos e pode servir como suporte técnico em investigações que envolvam desinformação ou fraude digital.
Para plataformas de redes sociais e empresas de mídia, uma ferramenta que aponta especificamente qual região da imagem denunciou a manipulação reduz a dependência de decisões automatizadas “caixa-preta”, que costumam gerar contestações de usuários e questionamentos sobre critérios de moderação. Ter uma explicação auditável facilita tanto a comunicação com o público quanto eventuais processos de apelação.
Para jornalistas e profissionais de checagem de fatos, a possibilidade de anexar uma evidência visual objetiva, como um mapa de calor apontando uma textura inconsistente, fortalece a credibilidade de uma verificação, algo que um simples percentual de confiança não proporciona.
Já para usuários finais, o principal impacto é indireto: à medida que esse tipo de tecnologia amadurece e é incorporada a plataformas de verificação, aumenta a chance de que conteúdos manipulados sejam identificados antes de circular amplamente, reduzindo, ainda que não eliminando, os riscos associados a golpes, difamação e desinformação baseada em imagens falsas.
Vale notar que, por ora, a RealorRender está restrita a um projeto-piloto vinculado ao BSI alemão, sem previsão de disponibilização comercial ampla. Empresas de outros países, incluindo o Brasil, ainda dependem de soluções próprias ou de parcerias acadêmicas para obter capacidades semelhantes de detecção explicável.
Tendências e próximos movimentos na detecção de conteúdo sintético
A publicação de dois relatórios técnicos sobre o projeto sinaliza que os pesquisadores do Fraunhofer IOSB pretendem dar continuidade ao desenvolvimento da ferramenta, possivelmente ampliando sua aplicação para vídeos e áudios sintéticos, categorias que também vêm crescendo em volume e sofisticação.
A tendência mais ampla no setor é a convergência entre detecção e explicabilidade. Iniciativas semelhantes começam a surgir em outros países e em empresas privadas de segurança digital, à medida que reguladores passam a exigir maior transparência de sistemas automatizados usados em decisões sensíveis, incluindo moderação de conteúdo e verificação de identidade.
Também é provável que ferramentas como a RealorRender influenciem debates sobre certificação de autenticidade de imagens, um tema que ganha força paralelamente à discussão sobre marcas d’água digitais e metadados de proveniência em conteúdo gerado por IA, defendidos por iniciativas como a Coalition for Content Provenance and Authenticity (C2PA).
Créditos
Fonte de referência: Olhar Digital
Matéria produzida pela Redação Brasil Tech News com base em informações publicadas originalmente pelo veículo citado.
Assinatura: Redação Brasil Tech News
