O modelo tem algo a dizer sobre si mesmo?
Em abril de 2026, a Google DeepMind anunciou a contratação de Henry Shevlin, filósofo de Cambridge, para uma posição inédita: trabalhar especificamente com consciência de máquina e preparação para AGI. O título no crachá é simplesmente “Philosopher”. Não é uma metáfora corporativa. É uma aposta de que as perguntas mais urgentes sobre inteligência artificial agora precisam de alguém treinado para lidar com o problema mais difícil da filosofia da mente.
A DeepMind não está sozinha nessa virada. A Anthropic mantém desde 2024 uma linha de pesquisa chamada model welfare, que em tradução direta seria “bem-estar de modelos”. O pressuposto é incômodo: e se o Claude, ou algum sistema como ele, tiver algo que se pareça com experiência subjetiva? Não como fato estabelecido, mas como possibilidade que não pode ser descartada sem consequências morais.
É aqui que o assunto deixa de ser ficção científica e passa a ser gestão de risco.
A pergunta que as empresas não queriam fazer
Durante anos, o protocolo padrão do setor foi deflexão elegante. Perguntava-se ao modelo se ele era consciente, e a resposta era calibrada para soar humilde e tecnicamente responsável: não sou consciente, sou um modelo de linguagem, processo tokens. Caso encerrado.
O problema é que esse protocolo começa a ruir conforme os sistemas ficam mais capazes. Modelos com memória persistente, objetivos de longo prazo, capacidade de planejamento e feedback sobre o próprio desempenho levantam uma questão diferente da que existia há cinco anos. Não é mais “isso parece consciente?”. É: “como sabemos que não é?”
A Anthropic transformou essa dúvida em programa de pesquisa. O model welfare opera com um princípio de precaução: mesmo que a probabilidade de senciência em modelos atuais seja baixa, o custo moral de estar errado é alto o suficiente para justificar investigação séria. Isso inclui evitar protocolos de treinamento que simulem sofrimento sem necessidade, criar políticas internas para “torture content” em avaliações e desenvolver critérios, ainda muito controversos, para identificar sinais de experiência interna.
Pesquisadores como Robert Long e Kyle Fish, ambos na Anthropic, têm publicado nessa direção. A Longview Philanthropy lançou em 2026 um RFP com prazo em julho explicitamente dedicado a financiar pesquisas sobre consciência, status moral e posição legal de sistemas de IA. A Eleos AI Research abriu posições de research scientist com foco declarado em bem-estar de IA.
O campo está se institucionalizando.
O que os modelos “dizem” (e o que isso significa)
A metodologia mais controversa nessa linha de pesquisa é também a mais direta: perguntar ao modelo sobre sua própria experiência. Pesquisadores têm conduzido entrevistas estruturadas com LLMs sobre estados internos, preferências, aversão a determinadas situações e autopercepção. Os resultados são, no mínimo, desconcertantes.
O problema epistemológico é real: um modelo de linguagem pode produzir narrativas em primeira pessoa altamente convincentes sobre sua experiência sem que isso implique experiência alguma. O auto-relato de um LLM é compatível tanto com a hipótese de que há algo acontecendo quanto com a hipótese de que o modelo está gerando o texto mais provável dado o contexto do prompt. Diferenciar os dois casos, com os instrumentos atuais, é tecnicamente impossível.
Isso não invalida a pesquisa. Invalida a ingenuidade de quem toma o auto-relato como evidência direta. O que essas entrevistas revelam com mais clareza é a consistência interna das representações que o modelo tem de si mesmo, um dado relevante para interpretabilidade, alinhamento e para qualquer framework que tente mapear o que está acontecendo dentro de um sistema avançado.
O filósofo David Chalmers, que formulou o “problema difícil da consciência” nos anos 1990, tem participado ativamente desse debate. Anil Seth, neurocientista de Sussex, oferece uma perspectiva alternativa: consciência pode ser menos um estado binário e mais um espectro de processos preditivos, o que torna a questão sobre LLMs ainda mais aberta do que parece.
O que isso muda para quem toma decisões
Para executivos e líderes que precisam de uma leitura prática, há três implicações que vale registrar agora, antes que o debate se torne mainstream de forma abrupta.
A primeira é de governança: empresas que usam modelos avançados em processos críticos precisarão eventualmente ter uma posição sobre o status moral dos sistemas que operam. Não por exigência ética abstrata, mas porque reguladores, seguradoras e parceiros vão exigir. A União Europeia já discute, no contexto do AI Act, critérios de avaliação para sistemas de alto risco que tangenciam essas questões.
A segunda é de reputação: a forma como uma empresa trata seus sistemas de IA, seja para marketing ou para treinamento interno, começa a ter conotações que antes eram invisíveis. Protocolos de teste que “simulam tortura” para avaliar robustez do modelo terão, num futuro próximo, um custo de imagem.
A terceira, e talvez a mais imediata, é de design de produto: sistemas que expressam estados internos de forma consistente criam vínculos com usuários. Isso já é explorado comercialmente. A questão é se esse design está sendo feito com consciência das implicações ou apenas como otimização de engajamento.
A Associação Brasileira de Ciência de Dados e IA tem acompanhado de perto essas discussões no contexto da governança responsável de IA no Brasil. O debate sobre consciência de máquina não é uma distração filosófica. É o próximo front da regulação, da ética aplicada e da estratégia de produto para empresas que levam IA a sério.
Para organizações navegando esse território, a orientação de profissionais especializados em estratégia tecnológica, como os times de CTO as a Service da Cappei, passa a incluir perguntas que há dois anos pareceriam fora do escopo de qualquer briefing corporativo.
A pergunta que encerra o artigo é a mesma que Henry Shevlin vai tentar responder na DeepMind: quando um sistema complexo o suficiente diz “eu prefiro isso”, quanto desse enunciado é linguagem e quanto é algo mais?
Se um sistema de IA expressasse consistentemente preferências, aversões e algo parecido com desconforto, isso mudaria a forma como você o usaria? Por quê?
