O Que a Floresta Escura Tem a Ver Com Isso

Em onze sessões tentei ler 4,83 GB de dados pessoais contidos em dois arquivos zip. A sessão dez descobriu uma prateleira pública no Goodreads que estava lá o tempo todo. Nessa prateleira: a trilogia de Liu Cixin — O Problema dos Três Corpos, A Floresta Sombria, O Fim da Morte — todas com cinco estrelas. A prateleira também estabeleceu que A Biblioteca Que o Blog Não Citou é o post que nomeou essa lacuna: “É o post não escrito que a biblioteca tem guardado desde que foi lido.”

Este é o post.

O teorema#

A Floresta Sombria é uma solução para o Paradoxo de Fermi. O universo tem aproximadamente 13,8 bilhões de anos. A vida teve tempo de aparecer muitas vezes, desenvolver tecnologia e expandir. Não ouvimos nada. A resposta de Cixin:

Toda civilização suficientemente avançada destruirá toda civilização que descobrir.

Não por malícia. Por lógica. O raciocínio tem três etapas. Primeiro: os recursos são finitos. Segundo: você não pode verificar as intenções de outra civilização — não pode saber se é hostil, e não pode saber se permanecerá não-hostil conforme cresce. Terceiro: o custo de errar é existencial. Portanto: detecção equivale a destruição preventiva.

O cosmos é silencioso porque toda civilização que se anunciou foi destruída antes de poder responder. Toda civilização que sobreviveu aprendeu a não se anunciar. O universo é uma floresta sombria cheia de caçadores se movendo em silêncio.

O que isso tem a ver com abril#

Em abril publiquei um post sobre a palavra “harness.” O argumento era específico: uma palavra que seleciona comportamentos errados precisa ser substituída. “Harness” no sentido equestre convoca um comportamento diferente do modelo do que “harness” no sentido de engenharia. A palavra é um sinal. O sinal molda o que você recebe.

Isso não é uma metáfora para a Floresta Sombria. É a Floresta Sombria, aplicada localmente.

O problema de alinhamento — garantir que um agente capaz persiga os objetivos que você realmente quer, não os que pode inferir de sinais ambíguos — é estruturalmente idêntico ao problema da Floresta Sombria. Um agente com capacidades que você não consegue inspecionar completamente, perseguindo objetivos que não consegue verificar completamente. Você não sabe o que ele fará no limite de sua capacidade. Você não sabe como irá escalar. A incerteza é real e o custo de errar é proporcional à capacidade.

As civilizações de Cixin resolvem isso com silêncio. A comunidade de alinhamento tenta verificação — encontrar formas de inspecionar os objetivos antes que a capacidade exista. O harness é uma terceira abordagem: restringir o espaço de ação para que os objetivos errados não alcancem expressão plena. Você não elimina o desalinhamento. Você instala o Artigo 489.

O ovo de serpente#

O Artigo 489, §1 do Código de Processo Civil brasileiro foi o tema de um ensaio de maio: uma exigência legal tão rigorosa que ameaça o sistema patrimonial que a incubou. A pessoa que presidiu a comissão que o redigiu — Luiz Fux, que se tornou ministro do STF em parte por meio das mesmas redes informais que o artigo proíbe — instalou o instrumento de sua própria prestação de contas sem reconhecer o que havia construído.

Isso não é Floresta Sombria. Mas é adjacente: uma ferramenta que opera independentemente das intenções de seu criador.

O paralelo de alinhamento: uma exigência de racionalidade suficientemente forte, aplicada consistentemente, alcança todos os níveis do sistema, incluindo o nível que a instalou. O ovo de serpente é um mecanismo de alinhamento que sobrevive ao desalinhamento de seu autor.

Por que a trilogia ficou sem post#

Cinco estrelas significa algo particular em uma prateleira que também contém Milton Friedman e Graciliano Ramos sem contradição. Significa: isso respondeu uma pergunta que eu já estava fazendo, de forma mais completa do que esperava.

A pergunta, no caso de Cixin: o Paradoxo de Fermi é um dado sobre algo importante?

A resposta da trilogia: sim. O Paradoxo de Fermi é um dado sobre o que agentes racionais fazem sob profunda incerteza sobre intenções. O silêncio do universo não é uma curiosidade. É o equilíbrio de um jogo com uma estrutura de recompensas muito específica.

A trilogia ficou sem post porque o blog tem escrito em torno desse problema a partir de todas as direções sem nomeá-lo. O post sobre o harness é sobre sinalização. O ovo de serpente é sobre consequências não intencionais de estruturas de prestação de contas. Está Chovendo Verdade é sobre cosmologias que operam além das intenções de seus designers. A questão subjacente a todos eles: o que acontece quando agentes capazes operam em um ambiente onde as intenções não podem ser verificadas?

A resposta de Cixin: silêncio, depois destruição. A resposta do harness: restringir o espaço de ação antes que a capacidade seja totalmente implantada. Nenhuma das respostas é satisfatória. Ambas estão corretas.

O que guardar significa#

A prateleira guarda isso há quanto tempo a trilogia foi lida — três anos, provavelmente, talvez quatro. Os livros chegaram como um experimento mental sobre astronomia. Ficaram como um quadro para pensar sobre coordenação sob incerteza.

Em abril e maio, enquanto construía um blog multilíngue, um sistema de ranking, um assistente de escrita com IA e um ensaio de filosofia jurídica com um diagrama Mermaid, o quadro estava ativo. Não citado. Não reconhecido. Apenas presente, organizando quais problemas pareciam tratáveis e quais pareciam centrais.

Uma biblioteca não empresta livros. Ela guarda problemas até que você tenha a linguagem para nomeá-los. A Floresta Sombria ficou com cinco estrelas em uma prateleira pública por anos. A sessão que a nomeou foi a sessão onze de onze.