GT5 – Influence, désinformation & Impersonnification

Les techniques de communication telles que l’influence ou la désinformation visant potentiellement à persuader des personnes et/ou influer l'opinion publique pour protéger des intérêts publics ou privés pourraient être amplifiées par l’arrivée des systèmes d’intelligence artificielle (IA). Qu'en est-il éthiquement parlant ?  

La thématique centrale

L’objectif de ce groupe de travail est de mener des recherches pour mieux comprendre les usages des techniques de communication d’influence et de désinformation, notamment par le biais des agents ou robots conversationnels. L’intérêt est d’identifier des situations critiques de manipulation appelées « Bad nudges ».

Les questions soulevées

La récente nomination du prix Nobel d’Economie, Richard Thaler (Oct. 2017), a contribué à mettre davantage en lumière l’approche des nudges. Son travail soulève des questions d’ordre éthique, comme par exemple :

  • que penser des modules d’IA embarqués dans les assistants vocaux, dans les objets connectés (IOT), capables de détecter nos comportements émotionnels afin de mieux nous influencer (nous « nudger ») ?
  • ces techniques d’influence peuvent-elles nous conduire à adopter des comportements non souhaités ?
  • cette influence peut-elle être définie a priori comme un « bad nudge », dès lors qu’elle transgresse le principe éthique de non-maléficience et que le « nudge » profite à quelqu’un d’autre ?

Il s’agira ici d’étudier les conditions d’apparition d’un bad nudge et de réfléchir aux moyens de les surveiller et de les contrer. L’équipe, pluridisciplinaire, aura également pour but d’informer sur les bénéfices et les risques de ces systèmes capables de nudge afin de donner aux utilisateurs davantage de moyens pour identifier et/ou éviter la désinformation.

Décryptages

Le « nudge » est une technique d’influence, une incitation douce, majoritairement utilisée par les champs économiques (par le biais du marketing et la publicité notamment) et politiques (notamment dans la sphère de la santé publique, dans l’optique de modifier des comportements jugés dangereux), dans le but de modifier le comportement d’un individu. En effet, les individus sont souvent manipulables car perclus de biais (décisions prises précipitamment, paresse, etc.),  qui orientent leurs décisions, parfois dans le mauvais sens.