29 décembre 2021, un article du Monde m’interpelle : les enceintes connectées pourraient se révéler de redoutables instruments de manipulation selon Serge Tisseron. Je découvre la cyberpsychologie et je saisis l’occasion d’ouvrir le sujet pour vous partager des voies vers un design plus éthique de services numériques.

Serge Tisseron est psychiatre, membre de l’Académie des technologies et du Conseil national du numérique, coresponsable du DU de cyberpsychologie (Université de Paris)

Les enceintes connectées pourraient se révéler de redoutables instruments de manipulation

Serge Tisseron – Lemonde.fr

La cyberpsychologie

Un des enjeux abordés par l’usage naissant des enceintes connectées peut se poser ainsi : dans quelle mesure vont-elles modifier notre psychologie par l’altération du lien humain qu’elle engendrera à coup sûr ? Il appelle ce domaine d’étude la cyberpsychologie.

Le but est de comprendre comment l’homme, en utilisant ses machines, se transforme autant qu’il les transforme, et aussi d’étudier les nouvelles formes de contrôle sur les citoyens

Article sur Lemonde.fr

Pour approfondir les différents exemples où une enceinte connectée nous amène à modifier notre comportement et psychologie, je vous invite à lire l’article.

Le choix unique est-il un choix ?

Il ne le dit pas dans l’article mais généralement une enceinte connectée vous donne une seule réponse lorsque vous formulez une demande. L’article d’UFC Que choisir Ce que vous devez savoir sur Google Home, Echo, HomePod et les autres pointe très clairement ce souci :

Elles menacent aussi notre liberté de choix et la concurrence entre les services.

UFC Que choisir

Prenons un exemple : vous demandez à l’enceinte connectée le temps qu’il fera demain à Lille. Mais où puise-t-elle l’information ? Météo France, Weather Forecast ? C’est la même chose si vous demandez une explication du terme Gafam : est-ce que l’enceinte de Google ou Amazon intègrera dans la définition le débat sur leur influence ? Dans quelques mois ou quelques années, vous achèterez aussi avec la voix car comme le dit Serge Tisseron :

Au fur et à mesure que la voix de ces machines pourra être adaptée aux attentes et aux fantasmes de leurs utilisateurs, il deviendra de plus en plus difficile de leur résister. […] Certains pourraient même être tentés de leur attribuer un peu « d’humanité »

Serge Tisseron

Vous n’aurez pas choisi le produit car à force d’utilisation vous aurez appris à faire confiance à ce nouveau personnage dans votre pièce.

Éviter de fabriquer des produits qui aggravent nos vulnérabilités

Cette enceinte connectée, en s’adaptant, va exploiter les vulnérabilités propres à chacun. Elles seront tellement agréables que nous ne chercherons pas à faire des efforts pour retrouver une forme de souveraineté sur le service qu’elles nous rend « si bien ». Alors dans l’article du Monde, Serge Tisseron nous propose ceci :

Au fur et à mesure que la voix de ces machines pourra être adaptée aux attentes et aux fantasmes de leurs utilisateurs, il deviendra de plus en plus difficile de leur résister[…]. Il nous faut pour cela partir de nos attentes vis-à-vis des machines, et de nos vulnérabilités, afin d’éviter de fabriquer des produits qui les aggravent […] Un débat citoyen sur ces questions est essentiel. Tous ont un rôle à jouer : les fabricants qui les conçoivent, les pouvoirs publics chargés d’en réguler les usages et les parents qui devront protéger leurs enfants de leurs effets problématiques

Serge Tisseron

En attendant que ce débat devienne une véritable assise citoyenne, nous avons en tant qu’entrepreneur-e un devoir de se poser ces questions lorsque nous développons de nouveaux usages numériques.

Lorsque nous créons des services, comment pouvons-nous adopter une éthique ?

Si nous reprenons la phrase “il nous faut pour cela partir de nos attentes vis-à-vis des machines” cela suppose qu’il nous faut travailler avec les futurs utilisateurs afin de nous aider à cerner leurs attentes et les vulnérabilités que nous aggravons. C’est un changement profond du mode de conception et un véritable espace de coopération qu’il faut ouvrir.

Le monde des logiciels open source ou libres ont sans doute de l’avance avec un progrès notable à faire : mieux impliquer les utilisateurs. Aujourd’hui nombreux sont ces logiciels dont la communauté est principalement une communauté de développeurs. Avec des ami-es nous avions tenté il y a des années quelque chose comme cela avec Eccone qui peut donner un peu d’inspirations sur une façon d’emprunter ce chemin.

Design d’interface et transition écologique

En attendant de mettre en place une réforme complète sur la conception de vos services numériques, je vous partage quelques ressources intéressantes qui s’intéressent au design des interfaces et à la transition écologique :

Une facilitation numérique plus humaine pour les collectifs

Pour conclure, les entrepreneurs et développeurs ne sont pas les seuls à concevoir des services numériques, il existe aussi les facilitateurs numériques : ceux qui accompagnent des collectifs à travailler ensemble avec l’aide des outils numériques. Ils sont amenés à concevoir des expériences numériques de collaboration. A chaque outil numérique déployé et processus de collaboration proposé, ils pourraient se poser la question suivante : à quelles attentes répondent-ils et dans quelle mesure ils n’aggravent pas un fonctionnement individuel et collectif néfaste ? Un sujet travaillé par Koweb.

Cette lecture vous a plu ? Abonnez-vous à la lettre d'informations