L'intelligence artificielle n'a pas la capacité de juger
Quand la rapidité devient le minimum attendu, l'actif le plus rare des organisations devient le jugement. Et l'IA ne juge pas : elle imite.
Lors de la première conversation de Life After AI, en discutant de l'étude du MIT sur le piège de l'augmentation, nous avons fini par beaucoup parler de ce que nous pouvons déléguer à l'IA et de ce que nous ne devrions jamais déléguer.
Aujourd'hui, n'importe quelle équipe disposant des mêmes outils peut produire plus en moins de temps, et quand tout le monde peut être rapide, être rapide cesse d'être un avantage et devient le minimum attendu. Ce qui était rare est devenu la norme, et ce qui devient la norme cesse de différencier. Qu'est-ce qui restera donc rare dans les organisations ? Notre pari est que l'actif le plus rare, désormais, sera le jugement.
Quand nous demandons une recommandation à une IA, elle répond avec une telle assurance qu'elle donne l'impression d'avoir pesé les options avant de répondre. Mais elle n'a pas jugé, car juger implique des questions éthiques et morales qui ne tiennent pas dans un algorithme ; cela implique de projeter l'avenir à partir de l'expérience et de l'intuition de celui qui décide, alors que le modèle a été construit entièrement sur des données du passé.
Juger, c'est aussi assumer le poids du choix, car celui qui décide entre A et B porte les conséquences de cette décision, et l'outil ne porte aucune conséquence. Ce qu'il fait, c'est imiter un jugement et paraître très convaincant.
Et si la machine ne juge pas, pourquoi sommes-nous si disposés à lui laisser le jugement ? Parce que juger fatigue, décider a un coût émotionnel, choisir A en sachant que B est resté derrière pèse, et un outil qui offre une réponse toute prête à n'importe quel doute offre, au fond, un soulagement de ce poids.
Au quotidien, personne ne remarque la perte ; les livraisons continuent de sortir, et même plus vite qu'avant. Mais quand survient une situation hors norme, de celles où il faut décider sans appui, la capacité de décider n'est plus là, ni chez la personne, ni dans l'organisation qui a laissé ses gens cesser de pratiquer.
Un détail curieux est apparu dans notre conversation : pendant que les entreprises se précipitent pour automatiser le service et le contact client, des études commencent à montrer des consommateurs qui rejettent tout ce qui semble écrit par un chatbot, une véritable allergie. C'est logique : si la réponse rapide et toute prête est devenue la norme de tout le monde, la valeur migre vers ce que l'automatisation ne livre pas, c'est-à-dire quelqu'un de l'autre côté, capable de comprendre le contexte et de décider avec vous.
Déléguer des tâches à l'IA peut avoir du sens, et nous le faisons tous les jours, mais déléguer le jugement, c'est renoncer à ce que nous avons de plus précieux et de plus difficile à récupérer. Maintenir des personnes qui décident aux points importants des processus, même quand l'outil pourrait continuer seul, devra être une décision consciente des organisations, car l'inertie et la pression de la vitesse poussent dans la direction opposée.
Et dans votre organisation ? Où avez-vous gardé des gens qui décident, et où avez-vous laissé l'outil continuer seul ?
L'épisode complet qui a donné naissance à ce texte est disponible sur le YouTube et le Spotify de Life After AI. L'épisode est en portugais.