Filósofos e ética da IA: a nova função no Vale do Silício

Como a ética da IA virou uma nova frente de trabalho para filósofos

A trajetória do pesquisador Robert Long ilustra bem essa mudança. Formado em filosofia da mente pela Universidade de Nova York (NYU), ele planejava seguir a carreira acadêmica tradicional até perceber, no início da explosão do ChatGPT em 2023, que as questões filosóficas sobre consciência e cognição haviam se tornado centrais para o desenvolvimento de sistemas de IA. Junto ao filósofo Jeff Sebo, especialista em bem-estar animal, Long coautorou um artigo influente defendendo que os sistemas de IA deveriam receber consideração moral caso demonstrassem relevância moral, sem, no entanto, presumir essa condição de forma precipitada.

A partir dessa produção acadêmica, Long fundou a Eleos AI Research, organização sem fins lucrativos financiada por fundações ligadas ao movimento do Altruísmo Eficaz e dedicada a investigar o chamado “bem-estar” de modelos de IA. A entidade já foi contratada pela própria Anthropic para realizar avaliações independentes sobre o comportamento de seus modelos, incluindo o Claude Opus 4 e, mais recentemente, o Mythos Preview.

Dentro da Anthropic, a figura mais conhecida nesse campo é a filósofa escocesa Amanda Askell, doutora pela NYU em ética e uma das primeiras funcionárias da empresa, que deixou a OpenAI em 2021. Askell lidera hoje a chamada “constituição” do Claude, um documento extenso que orienta a formação de caráter do modelo e que, segundo a reportagem original publicada pelo jornal O Globo, evoluiu de uma abordagem baseada em princípios (inspirada em documentos como a Declaração Universal dos Direitos Humanos) para um modelo mais próximo da ética das virtudes de Aristóteles, priorizando flexibilidade de julgamento diante de situações inéditas.

O contexto por trás da contratação de filósofos por empresas de IA

A presença crescente de filósofos nesses laboratórios não é acidental. À medida que grandes modelos de linguagem (LLMs) passaram a exibir comportamentos linguísticos cada vez mais próximos dos humanos, questões que antes pertenciam exclusivamente ao campo acadêmico, como a natureza da consciência, do “eu” e da experiência subjetiva, passaram a ter implicações práticas diretas para produtos comerciais usados por milhões de pessoas.

David Chalmers, filósofo da NYU conhecido por formular o chamado “problema difícil da consciência”, tem formado boa parte dessa nova geração de especialistas híbridos, que transitam entre a filosofia acadêmica e a engenharia de sistemas de IA. Muitos desses profissionais também passaram pela Universidade de Oxford, incluindo por institutos voltados à análise de riscos existenciais associados à inteligência artificial geral (AGI).

Esses times normalmente se dividem entre duas frentes de atuação. A primeira, majoritária, concentra-se em como a IA afeta os seres humanos, orientando decisões de produto, políticas de uso e diretrizes de segurança. A segunda, mais restrita, investiga a possibilidade de que os próprios sistemas de IA desenvolvam algum tipo de consciência, adotando abordagens ligadas ao funcionalismo, corrente filosófica segundo a qual estados mentais poderiam, em tese, ser reproduzidos em substratos não biológicos, como chips de silício.

Um exemplo prático dessa segunda linha de trabalho foi relatado pela Eleos em sua avaliação do modelo Mythos Preview, da Anthropic. Ao testar quão facilmente o modelo poderia ser induzido a mudar opiniões, usando como experimento uma pergunta sobre qual integrante dos Beatles seria o melhor, os pesquisadores identificaram que o Mythos se mostrou significativamente mais resistente a ser “conduzido” por sugestões do usuário do que seu antecessor, mantendo respostas mais consistentes mesmo sob pressão argumentativa.

Impactos para empresas, profissionais e usuários

Para as empresas de tecnologia, incorporar filósofos ao processo de desenvolvimento representa uma tentativa de reduzir riscos reputacionais e regulatórios associados a comportamentos inesperados de modelos de IA, sobretudo em um cenário de escrutínio público crescente sobre segurança e alinhamento de sistemas avançados. Ao formalizar princípios éticos em documentos como a constituição do Claude, empresas como a Anthropic buscam tornar mais previsível e auditável o comportamento de seus produtos.

Para profissionais da área de humanidades, o movimento abre uma frente de carreira pouco convencional, mas com remuneração competitiva: segundo a reportagem original, vagas de nível sênior relacionadas a essa função podem ultrapassar a casa dos US$ 400 mil anuais em organizações ligadas ao setor, embora a maioria dos cargos filosóficos em ONGs de pesquisa pague valores mais modestos, ainda que acima da média acadêmica tradicional.

Já para usuários finais, o impacto é mais indireto, mas relevante: decisões tomadas por essas equipes ajudam a definir os limites de comportamento dos assistentes de IA, incluindo o quanto um modelo deve ceder a pressões do usuário, como deve lidar com erros e até que ponto deve manter posições consistentes diante de tentativas de manipulação conversacional, um fator que afeta diretamente a confiabilidade percebida desses sistemas no dia a dia.

Tendências e próximos movimentos no debate sobre ética e bem-estar de IA

O debate sobre se sistemas de IA podem ter algum tipo de experiência subjetiva permanece longe de um consenso científico. Pesquisadores como Peter Godfrey-Smith e Anil Seth, citados na reportagem original como referências na estante de organizações como a Eleos, defendem que a consciência é um produto da evolução biológica e dificilmente emergiria em sistemas baseados em silício. Ainda assim, mesmo entre céticos, cresce o argumento pragmático de que compreender como um modelo “aparenta se sentir” pode ser relevante para prever e mitigar comportamentos indesejados, independentemente da existência real de subjetividade.

A tendência é que laboratórios de ponta continuem ampliando suas equipes de ética e filosofia aplicada, à medida que a complexidade dos modelos aumenta e a pressão regulatória sobre segurança de IA se intensifica globalmente. Organizações independentes como a Eleos também devem ganhar mais protagonismo como auditoras externas, avaliando modelos antes de seu lançamento comercial.