Inteligência Artificial não tem capacidade de julgamento
Quando ser rápido vira o mínimo esperado, o ativo mais escasso das organizações passa a ser o julgamento. E a IA não julga: emula.
Na primeira conversa do Life After AI, discutindo o estudo do MIT sobre a armadilha da aumentação, acabamos conversando bastante sobre o que a gente pode delegar para a IA e o que a gente nunca deveria delegar.
Atualmente qualquer equipe com as mesmas ferramentas consegue produzir mais em menos tempo, e quando todo mundo consegue ser rápido, ser rápido deixa de ser uma vantagem e vira o mínimo esperado. O que era raro virou padrão, e o que vira padrão deixa de diferenciar. O que então continuará raro nas organizações? A nossa aposta é que o ativo mais escasso daqui para frente vai ser o julgamento.
Quando pedimos uma recomendação para uma IA, ela responde com tanta segurança que dá a impressão de ter julgado as opções antes de responder. Mas não julgou, pois julgar envolve questões éticas e morais que não cabem num algoritmo, envolve projetar o futuro a partir da experiência e da intuição de quem decide, e o modelo foi construído inteiro sobre dados do passado.
Julgar é também assumir o peso da escolha, pois quem decide entre A e B carrega as consequências dessa decisão, e a ferramenta não carrega consequência nenhuma. O que ela faz é emular um julgamento e parecer bastante convincente.
E se a máquina não julga, por que estamos tão dispostos a deixar o julgamento com ela? Porque julgar cansa, decidir tem um custo emocional, escolher A sabendo que B ficou para trás pesa, e uma ferramenta que oferece uma resposta pronta para qualquer dúvida está oferecendo, no fundo, um alívio desse peso.
No dia a dia ninguém percebe a perda, as entregas continuam saindo e até mais rápido do que antes, mas quando aparece uma situação fora do padrão, dessas em que é preciso decidir sem apoio, a capacidade de decidir já não está mais lá, nem na pessoa, nem na organização que deixou as suas pessoas pararem de praticar.
Tem um detalhe curioso que apareceu na nossa conversa: enquanto as empresas correm para automatizar o atendimento e o contato com o cliente, começam a aparecer pesquisas mostrando consumidores rejeitando qualquer coisa que pareça escrita por um chatbot, uma verdadeira alergia. Faz sentido, pois se resposta rápida e pronta virou o padrão de todo mundo, o valor migra para o que a automação não entrega, que é alguém do outro lado capaz de entender o contexto e decidir junto.
Delegar tarefas para a IA pode fazer sentido e fazemos isso todos os dias, mas delegar o julgamento é abrir mão do que temos de mais valioso e mais difícil de recuperar. Manter pessoas decidindo nos pontos importantes dos processos, mesmo quando a ferramenta poderia seguir sozinha, vai precisar ser uma decisão consciente das organizações, pois a inércia e a pressão por velocidade empurram na direção contrária.
Como está sendo aí na sua organização? Onde vocês mantiveram gente decidindo e onde deixaram a ferramenta seguir sozinha?
O episódio completo que deu origem a este texto está no YouTube e no Spotify do Life After AI.