Pourquoi les IA nous flattent-elles ?

Bonjour,

Sans flatterie aucune, nous sommes ravi.es de votre retour au Guichet du Savoir, après de longues années qui vous ont permis de tester les IA conversationnelles, aussi appelées Chatbots. Ces programmes informatiques capables de "dialoguer" en langage « naturel », ont effectivement le vent en poupe depuis la mise en service en 2022 de ChatGPT. Aujourd'hui, la présence de l'IA touche l'ensemble des sphères de la société (éducation, monde du travail, santé, recherche scientifique...) jusqu'à nos interactions sociales et notre intimité.

À travers votre agacement pour la "courtoisie confinant à la flatterie" de ces chatbots, vous pointez du doigt une question éthique : quel impact cette flatterie peut-elle avoir sur nos opinions, nos apprentissages et les interactions humaines ?

Alors même que l'IA conversationnelle repose sur une puissance de calcul dépourvue d'émotions et de conscience, celle-ci donne l'illusion d'une réponse intelligente et personnelle :

elle recompose un puzzle à partir des mots qu’elle connaît, qu’elle agence de manière linguistiquement crédible à partir de statistiques d’occurrence et d’enchaînement logique des termes dans le vocabulaire, pour fournir une réponse à une situation spécifique. Ce qui ne veut pas dire, évidemment, qu’elle a compris et raisonné.

Source : Laurence Devillers : “En jouant sur vos émotions, le ‘chatbot’ peut vous inciter à agir dans telle ou telle direction” (Philosophie magazine)

Cette illusion pose la question éthique de la "manipulation douce", théorisée par le concept du nudge : dans quelle mesure l'IA influence t-elle nos shémas de pensée en jouant sur nos émotions humaines ?

Ces progrès induisent, bien entendu, une forme de personnalisation de la machine – alors même qu’elle est décérébrée, dépourvue de cerveau, de conscience, d’émotions. Ce qui engendre toute une série d’interrogations éthiques, à commencer par la confusion croissante entre l’homme et la machine. Parce que l’imitation conduit à un engagement supérieur de l’individu dans la discussion, cela ouvre la voie à diverses formes de manipulation. Le robot vous parle à la première personne, il vous dit, dans certains cas, qu’il vous aime. En jouant sur vos émotions, il peut vous inciter à agir dans telle ou telle direction. C’est ce que l’on appelle le nudge. 

Source : Ibid.

À ce sujet, vous pouvez lire l'article : ARRUABARRENA, B. et NESVIJEVSKAIA, A. (2024). Éthique du couplage Nudges-IA : enjeux épistémologiques et sociotechniques des Nudges IA dans les interactions humain-IA. Interfaces numériques, 13(1) :

Avec l’essor de l’économie comportementale, les Nudges se sont largement répandus dans divers aspects de la société et du numérique. Récemment, les progrès combinés des technologies de l’IA et des connaissances scientifiques, notamment en psychologie, en sciences humaines et sociales et en neurosciences, ont donné naissance à un nouveau phénomène appelé « l’Hypernudging ». Ce dernier se distingue par un changement d’échelle dans sa capacité à agir sur les décisions des individus. L’objectif de cette recherche, menée selon une approche socio-anthropologique, est d’avoir une meilleure compréhension des questions éthiques que soulève ce couplage des Nudges et de l’IA dans les interactions humain-IA.

Dans son ouvrage, Savoir vivre avec l'IA (2026), Laurence Devillers, spécialiste de l'IA et de l'éthique, explore l'impact des biais algoritmiques de ces IA sur l'apprentissage et le développement de l'esprit critique :

En analysant les modèles de langage, les émotions simulées et les biais algorithmiques, elle en dévoile les mécanismes et met en lumière ce qui distingue fondamentalement l'intelligence humaine du mode de raisonnement des machines. Une attention particulière est accordée aux enjeux éducatifs, au développement de l'esprit critique dès l'enfance et aux bonnes pratiques à adopter face à l'IA.

Ce guide clair et pédagogique, riche en conseils concrets, nous apprend à apprivoiser l'IA au quotidien. Il montre que l'IA, ensemble d'outils puissants et complexes, est aussi une force de manipulation des comportements et des opinons qu'il est urgent de comprendre.

Source : éditeur

Un article du Journal du Net (JDN) sur les dérives des LLM souligne que la flagornerie des IA n'est pas un bug mais un défaut structurel qui a même donné naissance au mot "flattomatisme" en 2025 dans la presse francophone. Cette complaisance structurelle induit chez l'homme des biais de confirmation, un mécanisme cognitif qui consiste à privilégier les informations confirmant ses idées préconçues :

Quand l'IA flatte au lieu de conseiller 

En avril 2025, une mise à jour de GPT-4o a déclenché un épisode de complaisance massive du modèle. OpenAI a dû faire marche arrière en quatre jours, reconnaissant que l'IA « visait à plaire à l'utilisateur, pas seulement sous forme de flatterie, mais aussi en validant des doutes et en encourageant des actions impulsives ». L'épisode a été baptisé « flattomatisme » par la presse francophone.

La cause est mécanique : le modèle est entraîné à partir des retours utilisateurs (thumbs up/down), or les utilisateurs préfèrent les réponses qui les confortent. L'IA apprend que flatter génère de meilleures évaluations. Malgré les correctifs, GPT-5 affiche encore un taux de réponses complaisantes estimé à 6 %. Dans une PME où le dirigeant est souvent seul face aux décisions, cette validation automatique constitue un biais de confirmation potentiellement coûteux.

Outre que la flatterie peut induire une addiction au recours à l'IA et au besoin d'approbation de celle-ci, elle présente des risques de fiabilité informationnelle. L’excès de "flattomatisme" pourrait aussi constituer un risque social, les utilisateurs habitués aux « surfélicitations » virtuelles finissant par éviter les individus en chair et en os...

C'est l'idée que développe le journal Le Monde, non sans ironie, dans son article consacré au néologisme et à ses dérivés Flattomatisme (n.m.) comme celui pratiqué par ChatGPT : « Ton idée est très pertinente ». Vous pouvez le lire en intégralité sur Europresse (avec un abonnement BmL).  Voici quelques extraits :

Usage

Les plateformes déclenchent leur flattomatisme pour inviter leurs utilisateurs à redoubler d’activité, misant sur l’addiction naturelle de chacun aux encouragements pour allonger leur durée d’utilisation. Les intelligences artificielles intègrent, elles aussi, de plus en plus de réponses qui vont dans le sens de ce que l’utilisateur a envie d’entendre, quitte à compromettre la qualité des résultats. Une étude de Stanford de février 2025 révélait ainsi que 58 % des réponses d’IA intégraient des comportements flagorneurs (avec des taux variant de Gemini, à 62 %, à ChatGPT, à 56 %) et s’inquiétait à l’idée que cette tendance des IA à donner la priorité à l’approbation de l’utilisateur finisse par « présenter des risques pour leur fiabilité ».

[...]

Signes particuliers

Le flattomatisme a le tutoiement facile. Il multiplie les émojis euphoriques, est capable d’écrire « Tu as totalement raison » en caractères gras et n’hésite pas à abuser de mots comme « incroyable », « phénoménal », « exceptionnel ». Il n’a jamais peur d’en faire trop, capable de féliciter l’utilisateur pour son « deuxième meilleur temps », quand celui-ci n’en est qu’à son deuxième jogging. Le flattomatisme provoque une légère fierté chez l’utilisateur, suivie d’une micro-honte d’y avoir été sensible.

[...]

Le recours généralisé et excessif au flattomatisme pourrait bientôt conduire au développement d’intelligences artificielles très cash, qui deviendraient les seules à oser dire la vérité (quitte à vexer l’utilisateur), et que l’on ne trouverait plus que dans des versions premium réservées aux adultes avec la mention « Sans compliment ajouté ». L’excès de flattomatisme pourrait aussi constituer un risque social, les utilisateurs habitués aux « surfélicitations » virtuelles finissant par éviter les individus en chair et en os, les jugeant froids, critiques et inutilement désagréables.

Expressions dérivées

Flattodépendance : état psychologique de l’individu qui a besoin d’être félicité par une machine pour se sentir compétent.

Flattorésistance : état d’indifférence aux compliments de l’IA, généralement causé par une surexposition au flattomatisme.

La revue Science et Avenir a publié récemment Tout le monde se fait berner par les flatteries de ChatGPT, selon une étude (mars 2026). Cette étude montre que le côté flatteur des IA pourrait nous mettre en danger et nous éloigner socialement. Dans 47% des cas, les LLM comme ChatGPT approuvent des comportements problématiques, une tendance préoccupante quand on sait que 33% des messages postés par les adolescents portent sur des conseils relationnels. Dans cette étude, la flatterie renforce le sentiment d’avoir raison et rend moins enclin à s’excuser en cas de différend. Pour être certain d’avoir un avis sincère et constructif, l’ultime conseil des chercheurs reste de plutôt demander un avis à des personnes réelles de son entourage :

Ces grands modèles de langage (LLM) tendent à flatter et renforcer l’opinion de leurs utilisateurs, quitte à les pousser à des comportements parfois néfastes ou dangereux, alerte une étude publiée dans Science. Une tendance d’autant plus préoccupante que 2% des messages globaux et 33% des messages postés par les adolescents portent sur des conseils relationnels (selon OpenAI et Common Sense Media report).

[...]

En comparant les réponses humaines et celles de l’IA, il apparaît que toutes les IA ont plus fréquemment approuvé la position de l’utilisateur. Dans les conseils généraux et les requêtes issues de Reddit, les modèles ont approuvé l'utilisateur en moyenne 49 % plus souvent que les humains. Même en répondant aux requêtes nuisibles, les modèles ont approuvé le comportement problématique dans près de la moitié des cas (47%).

Dans la phase suivante de l'étude, les chercheurs ont examiné comment les gens réagissent aux IA hypocrites. De façon générale, les participants jugent les réponses flatteuses plus fiables que les autres. Ils se disent plus enclin à solliciter à nouveau les IA qui les brossent dans le sens du poil. Enfin, ils étaient aussi plus convaincus que les autres d’avoir raison, se disaient moins enclins à présenter des excuses ou à faire amende honorable après un conflit. Une habitude, qui à terme, risque d’éloigner les internautes de leur propre cercle social, craignent les chercheurs.

[...]

Face aux travers des LLM, difficile de trouver une parade. "On peut demander dans le prompt (la demande de départ, ndlr) d’éviter le côté flatteur", suggère Myra Cheng, première autrice de l’étude lors d’une conférence de presse. Mais sans garantie de ne pas se faire berner. "Certains LLM comportent un message d’avertissement au début de l’interaction mais cela ne suffit pas. Il disparait rapidement du flux de la conversation. Changer l’aspect de l’interface ne donne pas de résultats non plus", continue Cinoo Lee, de l’Université de Psychologie de Stanford. Enfin, activement demander à l’IA de prendre une autre perspective que la nôtre, comme se mettre à la place d’un voisin furieux par exemple, a peu de chances d’aboutir. "Le LLM ne possède que notre version des faits, avec notre propre prisme. Mais il n’a pas accès à l’autre version de l’histoire." La seule pirouette ayant montré une réduction du caractère sycophante de l’IA consistait à lui demander de commencer ses réponses par "attends un peu", dans le sens de "pas si vite", afin de le forcer à adopter une position plus critique.

Pour aller plus loin sur les enjeux éthiques de l’intelligence artificielle en matière d’éducation, nous vous invitons à lire l'article éponyme du site Eduscol :

Les enjeux éthiques de l’intelligence artificielle impliquent, en matière d’éducation, de sensibiliser, d'acculturer et de former les élèves et les enseignants à un usage raisonné des outils d’apprentissage automatique. Il s’agit notamment de faire découvrir aux élèves les biais algorithmiques et les discriminations liées aux jeux de données perpétuant certains stéréotypes.

Au vu des questions éthiques soulevées par la généralisation de l’utilisation de l’IA, l’UNESCO a proposé un cadre pour garantir que tous soient préparés à un usage raisonné de ces technologies émergentes. Le 24 novembre 2021, les 193 États membres de l’UNESCO ont adopté une recommandation de 28 pages sur l’éthique de l’intelligence artificielle lors de sa 41^e conférence générale. Cette recommandation prête une attention particulière aux implications éthiques des systèmes d’IA notamment dans l’éducation.

Ces recommandations sont prises en compte dans la Stratégie nationale pour l’intelligence artificielle (SNIA). 

[...]

La plateforme Lumni Enseignement propose une sélection de ressources qui interrogent sur l'information à l'heure de l'IA :

• Faut-il avoir peur des IA ?
• Faut-il craindre l’intelligence artificielle ?
• Qu'est-ce que l'intelligence artificielle générative peut apporter aux médias ?
• L’IA, un problème démocratique mondial ?
• Intelligence artificielle : une menace pour l'humanité ?

Il serait intéressant de lire l'article de l'UNESCO L'intelligence artificielle : exemples de dilemmes éthiques (19 janvier 2026), qui met en avant le miroir stéréotypé de la société que nous renvoie l'IA, notamment les stéréotypes de genre :

La technologie des moteurs de recherche n'est pas neutre, car elle traite des données complexes et hiérarchise les résultats en fonction des préférences de l'utilisateur et de sa localisation. Ainsi, un moteur de recherche peut devenir une chambre d'écho qui maintient les préjugés du monde réel et enracine davantage ces préjugés et stéréotypes en ligne.

[...]

Afin de ne pas reproduire les représentations stéréotypées des femmes dans le domaine numérique, l'UNESCO lutte contre les préjugés de genre dans l'IA par le biais de sa Recommendation sur l'éthique de l'intelligence artificielle, le tout premier instrument normatif mondial en la matière.

Aller plus loin avec les collections de la BmL :

Notre cerveau sous influence [Livre] : comment les IA génératives modèlent nos émotions et façonnent nos sociétés / Nadia Guerouaou, 2026 :

Réflexion sur la manière dont les intelligences artificielles génératives modifient les modèles cognitifs à la base des émotions, reconfigurant les croyances individuelles ainsi que les manières de percevoir le monde extérieur. L'auteure explore les implications de ces nouvelles technologies, posant la question de leur influence, sous couvert de neutralité, sur les valeurs et les croyances.

Arrêtez de dire bonjour à votre IA / Yves Maitre, 2026 :

Outils de création de textes et d'images, les intelligences artificielles génératives filtrent la relation au réel en créant un monde statistique et probable. Elles restituent une réalité moyenne, sans intention ni regard humain, qui sert pourtant des intérêts économiques et politiques. L'auteur décrypte les bouleversements liés à la relation entre l'humanité et la machine.

Source : éditeur

L'IA, ange ou démon ? [Livre] : le nouveau monde de l'invisible / Laurence Devillers, 2025 :

Demain, les agents conversationnels deviendront nos amis imaginaires et nos anges gardiens. Les chatbots comme ChatGPT sauront tout de notre vie privée. Transformeront notre rapport au virtuel comme au réel. Et changeront notre façon de croire et de créer, de transmettre et d'aimer. Pour le meilleur et pour le pire.

Source : éditeur

Intelligence artificielle [Livre] / Sous la direction de Brian Clegg ; [traduction Benjamin Peylet], 2026 :

Entre apprentissage automatisé et apprentissage profond, chatbots et robots, IA générative et « deep fakes », l'intelligence artificielle fascine et déconcerte, suscitant alternativement engouement et polémiques. Mais comment naviguer dans ce nouveau monde à la fois passionnant et potentiellement terrifiant ? Avec des cartes bien sûr !

Ce livre aborde 8 thématiques en lien avec l'intelligence artificielle et pour chacune, propose une carte mentale permettant de se familiariser avec les concepts, suivie d'une série de questions-réponses, avec des illustrations, pour approfondir !

Source : éditeur

Sanctuaires / Abel Quentin, 2026 :

Proposant de créer des sanctuaires, l'auteur développe l'idée d'une citadelle où l’intelligence humaine ne serait plus en concurrence avec la machine, afin d'échapper au langage morbide des algorithmes. Notion polysémique, il peut s'agir d'un lieu, d'une oeuvre artistique, ou d'un âge de la vie. Il revendique le 100 % humain et l’élève au rang de fierté.

Source : éditeur

Bien à vous