L’influence inférentielle

Les IA influencent ceux qui décident

Les réponses des IA génératives peuvent modifier les opinions et orienter les jugements de ceux qui les consultent. Cette capacité d’influence est documentée par la recherche. Une méta-analyse consacrée aux grands modèles de langage ne relève pas de différence globale significative entre leur pouvoir de persuasion et celui des humains, avec des effets variables selon les situations étudiées.^[36]

Cette influence peut s’exercer au cours d’une tâche ordinaire. Dans une expérience réunissant 1 506 participants, les orientations d’un assistant d’écriture ont affecté les opinions exprimées dans les textes, puis les attitudes mesurées après leur rédaction. L’outil participait à la formation du jugement de ses utilisateurs.^[44]

Pour les organisations, l’enjeu dépasse donc leur présence dans les réponses. Il concerne les raisons pour lesquelles une personne les considère, leur accorde sa confiance, les compare à d’autres ou les écarte. Une compétence omise, un critère de comparaison inadapté ou une controverse mal contextualisée peuvent intervenir dans la préparation de cette décision.

INFERENCE Consulting appelle arbitrage délégué la part du travail de recherche, de sélection et de jugement confiée à ces systèmes. Observer leurs réponses et agir sur les informations qui les alimentent devient, dans cette perspective, une responsabilité de communication stratégique.

Une nouvelle partie prenante

Les organisations ont appris à travailler avec des parties prenantes aux attentes et aux modes de fonctionnement différents. Les relations presse, la communication financière ou les relations institutionnelles répondent chacune à des exigences particulières.

Les IA génératives occupent désormais une place à prendre en compte dans cette relation avec les publics. Elles sélectionnent des informations, comparent des acteurs et formulent des recommandations. Pour une direction de la communication, elles peuvent être envisagées comme une nouvelle partie prenante en raison de leur capacité à peser sur les représentations et les décisions.

Leur rôle est toutefois celui d’un intermédiaire technique. Le travail consiste à comprendre les réponses produites et à agir sur les informations susceptibles de les alimenter. Il appelle une connaissance des systèmes génératifs autant qu’une expérience de la communication stratégique.

Des informations aux jugements

Une réponse générative associe des informations pour décrire une organisation, lui attribuer des compétences, la rapprocher d’autres acteurs ou formuler un jugement à son sujet.

Selon le système, elle mobilise les connaissances acquises pendant l’entraînement, le contenu de la conversation et des documents recherchés au moment de la demande. La génération augmentée par récupération d’information combine ainsi un modèle de langage avec une recherche documentaire.^[2]

Le terme inférence désigne ici le passage de ces informations aux conclusions formulées dans la réponse. Il ne suppose pas une vérification systématique des faits. Un système peut reprendre une affirmation fragile, confondre des informations ou présenter une conclusion insuffisamment étayée.

La présence de citations ne suffit pas à résoudre cette difficulté. Une source citée peut ne pas soutenir la proposition qui lui est associée.^[4]

Comment une IA forme une recommandation ou un jugement

INFERENCE Consulting distingue cinq fonctions pour analyser les réponses et orienter les actions. Cette grille fournit des repères de travail sans prétendre décrire une succession d’opérations identique dans tous les systèmes ni révéler leur fonctionnement interne.

Le narratif a changé d’auteur

Le storytelling a donné une place centrale au récit dans la communication des organisations. Avec les IA génératives, ce récit est repris, rapproché d’autres informations et recomposé en fonction de la question posée.

L’organisation reste à l’origine de ses prises de parole. Elle ne maîtrise cependant ni les éléments que le système retient, ni les rapprochements qu’il effectue, ni la conclusion qu’il présente à la personne qui l’interroge.

Les promesses et les récits fondateurs peuvent subsister dans les réponses. Ils peuvent aussi être reformulés, contredits ou associés à des faits que l’organisation aurait placés au second plan. L’enjeu est de comprendre ce narratif et ce qui le soutient.

Pour INFERENCE Consulting, cette évolution renforce la place de la preuve dans la communication stratégique. Chaque position recherchée doit pouvoir être reliée à des faits précis, à des réalisations documentées et à des sources pertinentes. Le travail consiste aussi à identifier les sujets sur lesquels l’organisation peut faire autorité et les narratifs qu’elle peut légitimement préempter.

Une influence qui peut passer inaperçue

L’influence d’un outil ne suppose pas toujours une demande explicite de conseil. Les travaux sur l’écriture assistée montrent que les orientations d’un modèle peuvent infléchir les opinions au cours de la production d’un texte.^[44]

D’autres expériences montrent que des utilisateurs peuvent sous-estimer l’influence du conseil reçu, y compris lorsqu’ils savent qu’il provient d’un assistant conversationnel. Ce résultat a notamment été observé dans des situations de jugement moral.^[45]

La présence d’une explication ne garantit pas davantage un jugement mieux fondé. Dans des tâches d’aide à la décision étudiées par Bansal et ses collègues, les explications ont accru l’acceptation des recommandations, y compris lorsqu’elles étaient incorrectes.^[7]

Ces travaux invitent à examiner les représentations produites par les IA jusque dans leurs arguments. Pour une organisation, l’enjeu porte autant sur les raisons données pour la retenir ou l’écarter que sur sa seule présence dans la réponse.

L’autorité que les IA attribuent

Une organisation fait autorité lorsqu’elle est reconnue comme compétente et légitime sur un sujet. Dans les réponses des IA, cette reconnaissance peut se traduire par sa présence parmi les références d’un domaine, par l’attribution d’une expertise ou par une recommandation motivée.

Le cabinet examine la relation entre cette place et ce que l’organisation peut effectivement établir : ses compétences, ses réalisations, ses résultats et les reconnaissances obtenues.

Une comparaison favorable n’est pas, à elle seule, une preuve d’autorité. Elle doit reposer sur des raisons pertinentes pour le besoin exprimé. De même, une absence mérite d’être analysée au regard des critères de sélection avant d’être considérée comme un écart à corriger.

La réputation couvre un ensemble plus large de qualités, de rôles, de risques, de controverses et de jugements. Son analyse porte sur l’exactitude et la proportion des représentations, au-delà de leur tonalité favorable ou défavorable.

Ce que désigne l’influence inférentielle

L’influence inférentielle vise à faire reconnaître une organisation pour des raisons qu’elle peut soutenir et à traiter les représentations susceptibles de lui porter préjudice lorsqu’elles sont inexactes, incomplètes ou disproportionnées.

Elle intervient sur sept objets, mobilisés selon le diagnostic.

Le recoupement comme principe

Plusieurs publications concordantes peuvent résulter de vérifications distinctes ou de la répétition d’une seule source. Le nombre de mentions ne suffit donc pas à apprécier la solidité d’une information.

Le cabinet examine chaque proposition en distinguant trois situations :

• La source initiale publie l’information à l’origine des reprises.
• La reprise dépendante la reproduit ou la reformule sans vérification indépendante identifiable.
• La confirmation indépendante apporte une mesure, une vérification ou une expertise distincte.

L’examen porte sur la compétence de la source, son indépendance, l’attribution de l’information, son accessibilité, sa précision, son actualité et sa traçabilité.

Ces critères s’appliquent à une proposition précise. Une source peut faire référence pour établir un statut sans être compétente pour comparer des performances.

La stratégie recherche des confirmations pertinentes et vérifiables. Elle améliore ainsi la solidité des éléments disponibles, sans présumer que tous les systèmes les retrouveront ou leur accorderont le même poids.

Le GEO ne tient pas lieu de stratégie

Le GEO propose d’améliorer la présence et la citation des contenus dans les réponses génératives. Certaines techniques produisent des gains dans les conditions étudiées. Ces résultats ne démontrent cependant ni une recommandation durable de l’organisation, ni un effet sur les décisions de ses publics.^[9]

C’est le passage de l’optimisation à la promesse de maîtrise qui appelle une critique. Une revue de quarante-cinq études, publiée sous forme de prépublication, ne relève dans son corpus aucune technique démontrant un effet causal stable dans le temps et commun à plusieurs plateformes sur la découverte des contenus ou les comportements des utilisateurs.^[5]

Une citation, une recommandation et une décision sont trois résultats différents. Les confondre conduit à donner à un score de visibilité une portée qu’il ne possède pas. Compter les apparitions d’une organisation ne permet pas, à lui seul, de déterminer si elle est comprise, comparée selon les bons critères ou recommandée pour des raisons exactes.

INFERENCE Consulting conteste cette réduction d’un enjeu d’influence à un problème de présence. La question stratégique consiste à déterminer auprès de qui l’organisation doit faire autorité, dans quelles situations, sur quels sujets et avec quelles preuves. Elle exige aussi de comprendre les narratifs qui orientent les réponses et les risques qu’ils font peser sur les décisions.

Le cabinet peut mobiliser le GEO pour exécuter certaines actions. Il refuse d’en faire le principe directeur de la stratégie.

Des règles d’intégrité

L’influence inférentielle repose sur des affirmations étayées et sur une présentation fidèle de leur portée. Les faits, les interprétations et les positions défendues par l’organisation doivent pouvoir être distingués.

Le cabinet exclut les sources de façade, les confirmations artificielles, les instructions dissimulées destinées à détourner les systèmes et les contributions qui masquent leur origine lorsqu’une déclaration est requise.

Les informations défavorables documentées sont examinées avec leur contexte, leur date et leur issue. Le travail peut porter sur la correction d’une erreur, la clarification d’une responsabilité ou la juste place d’un événement dans la présentation de l’organisation.

Les publications et les actions sensibles sont soumises aux validations des fonctions compétentes. La stratégie tient compte des exigences de confidentialité et des informations que l’organisation est en mesure de rendre publiques.

Ce que la recherche permet d’établir

Les travaux mobilisés par le cabinet éclairent deux dimensions de son intervention : l’influence des réponses sur les personnes et les conditions dans lesquelles ces réponses se forment.

Les recherches sur la persuasion et l’écriture assistée montrent que les productions des IA peuvent infléchir les opinions et les jugements. Elles donnent une portée humaine aux questions de représentation, de comparaison et de recommandation.^{[36] [44]}

La recherche sur les connaissances rares montre que, dans les modèles et les tâches étudiés, les informations peu présentes dans les données d’entraînement sont plus difficiles à restituer correctement. Elle montre aussi que la recherche documentaire peut réduire cette difficulté.^[14]

Les travaux sur les moteurs génératifs documentent les écarts possibles entre une affirmation et la source citée pour l’étayer. Les recherches sur le GEO établissent des effets dans des configurations précises, tandis que les travaux sur la mesure soulignent l’importance de répéter les observations.^{[4] [8] [61]}

INFERENCE Consulting s’appuie sur ces résultats pour concevoir ses observations, examiner les preuves et choisir les actions. Leur application à une organisation exige un diagnostic propre à sa situation et une évaluation des évolutions constatées.

La méthode traduit cette démarche en trois temps : observer et diagnostiquer, définir la stratégie, conduire les actions et adapter la stratégie. Le protocole précise les conditions d’observation, de qualification et de suivi.

Consulter la bibliographie de la méthode

Glossaire