Vous êtes ici

CNPEN - Agents conversationnels : enjeux d’éthique

09/11/21

Les agents conversationnels (aussi appelés « chatbots ») sont des systèmes numériques capables d’interagir avec leurs utilisateurs en langage naturel, à l’écrit comme à l’oral. Aujourd’hui, on en trouve dans de nombreux objets de notre quotidien (smartphones, enceintes connectées, voitures, sites internet) : ils apportent des conseils de santé, facilitent le recrutement, gèrent des services après-vente, forment à distance, aident les personnes vulnérables, etc.

En France comme au niveau européen, les agents conversationnels, parce qu’ils s’appuient sur des données personnelles, commencent à attirer l’attention des autorités, des régulateurs et du public . Au-delà de ces points réglementaires, se posent de nombreuses questions éthiques. Quels comportements et croyances avons-nous par rapport aux agents conversationnels ? Un chatbot peut-il mentir à son utilisateur ? Les erreurs des agents conversationnels seront-elles plus acceptables que celles d’un être humain ? Un chatbot doit-il imiter systématiquement l’être humain ? 

Parmi les différents enjeux d’éthique qu’identifie le comité, les principales tensions concernent le brouillage des frontières entre une machine et un être humain, l’imitation du langage et des émotions par les chatbots, ainsi que la capacité des agents conversationnels à manipuler les interlocuteurs humains. 

 

Télécharger l'Avis

Télécharger le Communiqué de presse