Allons-nous devenir les esclaves des assistants virtuels ?

Une étude scientifique démontre qu’au moment d’acheter des articles en ligne, les gens ont tendance à acheter davantage lorsqu’ils ont recours à un assistant virtuel comme Alexa ou Siri. Des résultats qui interrogent sur notre comportement face à ces technologies, et sur leur potentiel pouvoir d’asservissement. Allons-nous devenir les esclaves des assistants virtuels ? Emmanuelle Picaud mobilise Gilbert Simondon et Hegel pour tenter d’y voir plus clair.

• Ils s’appellent Alexa, Siri, Cortana… les assistants virtuels envahissent nos maisons. Basés sur des algorithmes d’intelligence artificielle (IA), ceux-ci nous permettent de demander à nos appareils électroniques de jouer de la musique, d’effectuer des recherches en ligne ou de contrôler certaines applications domotiques, le tout à distance. Sous couvert de nous faciliter la vie, ces nouvelles technologies s’avèrent-elles si inoffensives que ce que leurs vendeurs veulent nous faire croire ? Une étude menée par des chercheurs chinois et publiée dans la revue scientifique Computers in Human Behavior tend à démontrer que l’influence de ces objets est loin d’être anodine sur nos comportements.
• L’étude, qui s’est penchée sur l’influence de ces assistants virtuels au moment d’un acte d’achat en ligne, conclut que les consommateurs ont tendance à davantage faire confiance à ces derniers lorsqu’il s’agit d’effectuer une telle procédure, comparé aux méthodes traditionnelles d’achat. Des résultats dont les chercheurs se disent eux-mêmes surpris, puisqu’ils pensaient au départ qu’utiliser un assistant virtuel pouvait, au contraire, diminuer la confiance des acheteurs, ce dernier ne pouvant proposer qu’un seul produit à la fois et étant obligé de décrire ce produit oralement, ce qui ne permet pas de le comparer aux autres.
• C’est tout l’inverse qui semble pourtant se produire. Au moment de l’achat, l’utilisateur ordonne à l’IA d’effectuer une tâche, ce qui lui donne un sentiment de pouvoir sur cet assistant. Le simple fait d’avoir un ascendant sur un être, même virtuel, influence visiblement le comportement de l’acheteur. « Lorsque les utilisateurs perçoivent qu’ils ont un pouvoir sur les assistants d’IA, ils peuvent avoir l’impression que les comportements de ces assistants sont sous leur contrôle, bien que cela soit en réalité peu probable car ces derniers sont contrôlés par les algorithmes des entreprises qui commercialisent ces IA », expliquent les auteurs de l’étude. La perception du pouvoir engendre ainsi un état psychologique d’excès de confiance et d’optimisme, qui conduit l’acheteur à faire plus aveuglément confiance à l’assistant virtuel.
• Des résultats scientifiques qui font écho aux travaux philosophiques de Gilbert Simondon, qui s’était déjà interrogé dans son ouvrage Du mode d’existence des objets techniques sur cet excès de confiance que pouvait apporter la maîtrise d’une technologie sur nos consciences. Il observait ainsi :