Por que uma IA precisa de um mapa para navegar
Confiar numa IA que age sozinha não depende da IA: depende de a empresa ter escrito o que quer dizer com as próprias palavras.
Dá pra confiar numa IA que vai agir sozinha?
Na verdade, essa confiança não depende da IA em si, mas de escrever com clareza o que ela quer dizer quando usa as próprias palavras.
Toda empresa sabe o que é um “cliente ativo”, sabe o que conta como “urgente”, sabe quando um caso está “resolvido”, só que sabe do jeito que a gente sabe andar de bicicleta, no fluxo do trabalho, e isso muitas vezes não está explícito. É conhecimento que vive na cabeça de quem trabalha ali há anos, em decisões tomadas por bom senso, em exceções que todo mundo entende sem precisar explicar e nunca precisou estar escrito porque sempre teve um humano por perto pra interpretar o contexto.
Isso deixou de ser suficiente no momento em que temos uma tecnologia à disposição que passou de apenas responder para agir.
Enquanto ela só sugeria uma resposta e alguém conferia antes de mandar, era um erro chato, mas reversível. Agora ela pode aprovar o reembolso, cancelar o contrato, priorizar o chamado, disparar a mensagem. O erro já aconteceu quando alguém percebe, e some aquele intervalo de revisão que a gente sempre contou como rede de segurança.
Um funcionário novo para e reflete diante de uma pergunta: “esse caso conta como urgente ou não?” Essa pausa custa alguns minutos, mas é fundamental para evitar o erro.
A IA não para, e ela não sabe que não sabe. Produz uma resposta com a mesma confiança de sempre, esteja ela certa ou completamente errada, porque não existe nela nenhum sinal de “isso aqui eu não tenho certeza, alguém confere?”. Ela decide e segue em frente.
E o problema não é ela errar uma vez, todos podemos errar também; o problema é que ela pode errar de um jeito sistemático, sempre na mesma direção, na velocidade de máquina, sem disparar nenhum alarme.
Se a definição que ela aprendeu de “cliente importante” está um pouco torta, ela não vai tratar um cliente errado uma única vez, ela vai tratar errado todos os clientes parecidos com aquele, todos os dias, em silêncio, até alguém notar um padrão estranho nos números ou, pior, até alguém sentir isso na própria pele.
Por isso que definir o que uma palavra significa dentro da sua empresa atualmente não deveria ser uma tarefa técnica qualquer, mas uma decisão fundamental.
Alguém decidiu, em algum momento, o que fazer com o cliente que atrasa o pagamento mas está ali há dez anos. Alguém decidiu o que é uma reclamação grave e o que é só um dia ruim do cliente. Essas decisões carregam julgamento, carregam contexto, carregam a experiência de quem responde pelas consequências.
Quando você entrega a operação para uma IA sem nunca ter formalizado essas decisões, você está terceirizando um julgamento que ninguém nunca fez de propósito, para um sistema que vai fazer esse julgamento de algum jeito, com ou sem a sua participação.
Você sabe o que a sua empresa quer dizer com as palavras que ela usa todo santo dia? Isso está escrito em algum lugar, ou você está torcendo pra IA entender do jeito que você entenderia?
A pressa de colocar a IA pra agir está andando na frente da pergunta mais básica, que deveria vir antes. Antes de perguntar o que a IA vai fazer sozinha, talvez valha a pena perguntar: o que a gente nunca parou pra escrever?