O que responsabilidade com IA significa quando o erro tem custo real

Em algum momento, o regulador vai perguntar: "quem é o responsável por essa decisão?" Se a resposta for "a IA decidiu", você tem um problema. A IA não assina termo de responsabilidade. Não tem CNPJ. Não responde à CVM, ao Banco Central ou a nenhum conselho regulador. Quem assina é você.

Isso não é argumento contra usar IA — é o contexto que define como usar. Diligence é a competência de usar IA de forma responsável, com as escolhas certas sobre quais ferramentas usar, transparência sobre o papel da IA no trabalho e accountability pelo resultado. Em setor regulado, esses três eixos não são soft skills. São estrutura de governança.

Escolher bem a ferramenta é parte do trabalho

Creation Diligence começa antes de qualquer uso: qual ferramenta você está usando, quem a desenvolve, como ela trata os dados que você compartilha com ela?

Num banco, você não pode colocar dados de clientes numa plataforma de IA sem entender o que acontece com esses dados. Algumas ferramentas usam as conversas para treinar modelos futuros. Outras têm contratos enterprise com garantias de confidencialidade. Essa distinção não é detalhe técnico — é risco jurídico e regulatório.

A escolha consciente da plataforma inclui também entender os limites do que a ferramenta faz bem. Usar um modelo de linguagem de propósito geral pra uma tarefa que exige raciocínio numérico complexo é uma escolha equivocada, independente de quantas vezes o output parecer plausível.

Ser transparente sobre o papel da IA não é fraqueza

Transparency Diligence é ser honesto sobre onde a IA entrou no processo — com quem precisa saber.

Isso tem duas direções. Internamente: seu time, seus pares e seus superiores precisam saber quando uma análise foi gerada ou assistida por IA, especialmente se isso afeta como ela deve ser revisada. Externamente: em contextos onde o cliente ou o regulador tem interesse legítimo em saber se uma decisão foi tomada por humano ou por modelo, a omissão pode se tornar um problema regulatório.

Transparência não é obrigação de declarar IA em tudo que você escreve. É julgamento sobre quando a informação é relevante pra quem precisa confiar no resultado. Num parecer de crédito que vai pra comitê, o comitê tem direito de saber se a análise de risco foi gerada por IA sem revisão qualificada.

O output é seu, não da ferramenta

Deployment Diligence é o princípio mais simples e o mais ignorado: quando você usa um output da IA, você está assumindo esse output como seu. A responsabilidade não é da Anthropic, da OpenAI nem de nenhuma empresa de tecnologia. É de quem tomou a decisão de usar aquele resultado.

Na prática, isso significa que antes de enviar, publicar, apresentar ou implementar qualquer output gerado por IA, você precisa ser capaz de responder por ele. Não como alguém que delegou e aprovou — como alguém que entende o que está ali e assume as consequências se estiver errado.

Em ambiente regulado, essa exigência existe independente de IA. A diferença é que a IA torna mais fácil produzir outputs com aparência de qualidade sem ter a qualidade de fato. Discernment (o artigo anterior desta série) ajuda a identificar quando isso acontece. Diligence é o compromisso de não deixar passar quando identifica.

A pergunta que organiza tudo

Antes de qualquer uso de IA em processo que tem consequência real, faço três perguntas: essa ferramenta é adequada pra esse dado e pra esse contexto? As pessoas que precisam saber sobre o papel da IA aqui estão sendo informadas? Se isso der errado, estou pronto pra assumir o resultado?

Se as três respostas forem sim, vai. Se alguma for não, resolve antes de usar. Responsabilidade com IA não é sobre ser conservador — é sobre saber exatamente onde você está pisando.