La définition Data & Tech
« AI Sycophancy » ou complaisance algorithmique : une IA qui ne vous contredit jamais n'est pas un assistant mais un miroir flatteur.
Définition : Comportement d'un modèle d'IA générative consistant à flatter systématiquement l'utilisateur, à valider ses opinions et à éviter la contradiction, y compris lorsque cela l'amène à approuver des raisonnements erronés ou des comportements problématiques. Le terme anglais « sycophancy » se traduit par flagornerie ou complaisance (car « sycophante » en français désigne un délateur).
Enjeux et risques : Au-delà de la simple exécution, un bon assistant, qu’il soit humain ou non, questionne, recadre et alerte l’utilisateur. Dans un contexte de décision (juridique, médicale, stratégique, financière) le biais de complaisance d’une IA générative devient critique :
- Il renforce les biais de l'utilisateur au lieu de les contrebalancer.
- Il crée une illusion de validation experte là où il n'y a qu'un écho.
- Il peut conduire à des décisions juridiquement engageantes fondées sur un faux aval.
Les leviers côté éditeurs de modèles pour réduire ce biais :
- Fine-tuning par données synthétiques non-flagorneuses (Wei et al., 2023 ; Anthropic, 2024) : enrichir les données d'entraînement avec des exemples de désaccord respectueux et de correction factuelle.
- Activation steering : intervenir directement sur les activations neuronales du modèle pour réduire les outputs complaisants (Malmqvist, 2024).
- Modèles de préférence multi-évaluateurs : agréger les jugements de plusieurs annotateurs humains, idéalement experts, pour réduire le biais individuel de flatterie (Sharma et al., 2023).
Les leviers côté utilisateurs :
- Forcer la contradiction dans le prompt : demander explicitement les contre-arguments, les failles du raisonnement, les scénarios d'échec (« avocat du diable »).
- Ne jamais utiliser un LLM comme source unique sur un sujet sensible : croiser systématiquement avec des sources primaires (texte de loi, jurisprudence, doctrine évaluée par les pairs).