O Papa, a CBL e o cansaço dos princípios

Em uma mesma semana de maio, dois documentos chegaram pedindo atenção. O primeiro foi o Manual de boas práticas de IA, publicado pela Câmara Brasileira do Livro, que ajudei a escrever dentro da Comissão de Inovação e Tecnologia coordenada pela Cinthya Müller. O segundo foi a encíclica Magnifica Humanitas, assinada pelo Papa Leão XIV no dia 15 de maio.

Confesso que ao ler a encíclica em paralelo ao nosso manual, fiquei imaginando o Papa lendo o manual da CBL! A piada esconde uma coisa séria. Manual setorial brasileiro e documento doutrinal católico chegam à mesma conclusão sobre IA, com palavras diferentes. Não é coincidência. E o que isso diz pra nós editores vale o esforço.

Encíclica não é texto de uma pessoa só

Antes de entrar no mérito, um pequeno parêntese. Quando lemos “carta encíclica do Santo Padre”, pensamos automaticamente em alguém sentado sozinho com uma caneta. Não é bem assim.

Encíclicas são documentos de magistério escritos a muitas mãos. O Papa assina e define a direção, mas o texto passa por consultores, teólogos e, quando o tema exige, por especialistas técnicos. Magnifica Humanitas trata de IA, robótica e por aí vai. Esse tipo de conteúdo não sai do escritório do Papa sem o trabalho de quem entende do assunto por dentro.

O paralelo com o nosso manual é direto. Não foi um texto escrito por uma única pessoa numa tarde de inspiração. Saiu do trabalho colaborativo da Comissão de Inovação e Tecnologia da CBL, com editoras de portes muito diferentes, distribuidores e a própria CBL discutindo cada princípio. Documentos sobre IA não são autoria solitária. São discernimento coletivo.

Isso importa porque, nos últimos dois anos, textos sobre IA viraram quase um gênero de Instagram: opinião servida rápido, sem contexto, sem revisão crítica. Tanto o manual quanto a encíclica fazem o oposto. Levaram tempo. Passaram por muita gente antes de virar texto.

A obsessão compartilhada com o humano no centro

Aqui é onde a piada começa a fazer sentido.

O subtítulo da encíclica é “Sobre a salvaguarda da pessoa humana na era da inteligência artificial”. O primeiro princípio do nosso manual, em letras garrafais, é “Primazia humana e responsabilidade”. Os dois documentos abrem dizendo a mesma coisa, com vocabulário diferente.

Leão XIV escreve que a tecnologia “não é, em si mesma, um mal”, mas que “na prática, não é neutra, porque tem o rosto daqueles que a concebem, financiam, regulam e utilizam”. Nós, no manual, dissemos que a IA deve ser ferramenta de apoio, “não substituta da inteligência, da criatividade e do discernimento humanos”, e que a responsabilidade final pelo conteúdo publicado recai sempre sobre humanos.

A lista dos princípios que aparecem nos dois textos, com nomes às vezes idênticos, às vezes apenas parecidos, é longa:

• Responsabilidade humana (manual) e responsabilidade partilhada (encíclica);
• Transparência e divulgação (manual) e transparência e gestão da IA (encíclica);
• Direitos autorais e propriedade intelectual (manual) e dignidade do trabalho na transição digital (encíclica);
• Combate a vieses e discriminação (manual) e igual dignidade de todos os seres humanos (encíclica);
• Privacidade e segurança de dados (manual) e salvaguardar a liberdade contra a dependência e a mercantilização (encíclica).

Não quero nem de longe equiparar o manual com uma encíclica. O que quero mostrar é que a semelhança não é coincidência. Eu poderia fazer a mesma comparação com documentos da ONU sobre uso ético de IA, ou com textos parecidos escritos em lugares distantes. Quando pessoas honestas, vindas de lugares diferentes, olham para o mesmo problema, a resposta tende a se parecer. Proteger quem cria, quem lê e quem trabalha. Proteger a verdade contra a “uniformidade” que, nas palavras da encíclica, “elimina a diversidade”.

Princípio não muda nada se ficar no PDF

Aqui chego ao ponto que me incomoda. Pode ser injustiça minha. Mas princípios bonitos são fáceis de escrever, e cada vez aparecem mais. Manuais, manifestos, encíclicas, declarações de associações. Todo mundo concorda que o humano vem primeiro e que precisa de transparência.

E aí?

Na minha experiência rodando consultoria de IA para editoras, o que mais escuto é isso: “ah, a gente já leu, achou ótimo, mas no dia a dia é difícil aplicar”. A paralisia entre o documento e a operação é a regra, não a exceção.

Por isso o que mais me chama atenção no manual não é a lista de princípios. É a quarta seção, que sugere um caminho de implementação inspirado na ABNT NBR ISO/IEC 42001. Os cinco blocos são:

1. Liderança: alguém na editora precisa querer. Sem compromisso de quem decide, política de IA vira folheto.
2. Planejamento e gestão de riscos: documentar o que pode dar errado antes que dê. Não depois.
3. Recursos e conhecimento: ter pessoas treinadas e dados de qualidade. Sem isso, IA aplicada em editora vira teatro.
4. Uso no dia a dia e gerenciamento: testar antes, monitorar depois, registrar sempre.
5. Comunicação com autores, leitores e fornecedores: ser claro, criar canal de reclamação, exigir transparência de quem vende IA para você.

Esse não é um passo a passo definitivo, mas é um começo razoável e ajustável ao porte de cada editora. Para a pequena, pode ser uma página no Word com ideias e regras. Para a grande, um sistema de governança formal. O ponto é começar.

A encíclica diz isso à sua maneira: “A cada um o seu pedaço da muralha”. Não vai chegar regulação salvadora, nem fornecedor que entregue ética pronta no pacote. Cada editora começa onde está, com o que tem.

A parte que ainda não sabemos resolver

Aplicar tudo isso é mais difícil do que escrever. Quem trabalha com IA editorial no Brasil hoje está, na maioria dos casos, num esboço de governança. Ajusta a cada projeto, descobre lacunas no caminho, refaz quando o erro aparece. Inclusive eu.

Falta documentação formal de impacto na maioria das editoras pequenas que conheço. Falta auditoria periódica. Falta canal claro para um cliente ou autor avisar quando um erro grave aparecer em conteúdo gerado por IA.

A questão, hoje, não é mais “como devemos pensar sobre IA”. Os documentos estão aí, os princípios estão lá, alguns assinados por papas e outros por câmaras setoriais. A questão é o que cada um de nós faz na segunda-feira de manhã.

O que fazer agora

Se você é editor, pequeno ou grande, e ainda não fez isso, sugiro três passos concretos para esta semana:

1. Leia o manual da CBL inteiro. São poucas páginas. O link está aqui. Reserve uma hora.
2. Faça um diagnóstico simples. Em quais etapas da sua editora a IA já é usada? Quem usa? Tem revisão humana de saída? Tem aviso para autor e leitor quando precisa ter?
3. Escreva uma página. Só uma. A política de IA da sua editora. Não precisa ser perfeita. Precisa existir.

A leitura da encíclica deixo como sugestão para quem se interessa pelo debate mais amplo, que vai bem além da edição. Há trechos sobre comunicação e sobre desigualdade tecnológica que valem a leitura.

Os princípios já estão escritos, e estão bem escritos. Papa, CBL, União Europeia. Documento a gente tem de sobra. O que falta é o trabalho menos glamuroso, que ninguém aplaude: aplicar.

A muralha é grande. Mas cada um de nós tem um pedaço pequeno para começar. Vamos começar juntos esta semana?