Un robot suicidaire ?

Présenté au public le 28 septembre, Astro, le nouveau robot d’Amazon, passe au premier abord pour un compagnon de vie idéal : doté d’une « véritable personnalité », serviable, obéissant, il répondra par simple commande vocale à toutes les demandes des férus de technologie prêts à débourser 1 250 euros. Seul hic : Astro a la fâcheuse tendance… à se « suicider ». En se jetant, par exemple, dans l’escalier. Le mot paraîtra peut-être excessif, car la petite machine n’a aucune intention de mettre fin à ses jours. Le problème tient en partie à ce que nos robots ne sont pas pour l’heure « programmés pour protéger leur existence », comme le note le philosophe Armin Krishnan dans son livre Killer Robots (« Robots tueurs », Routledge, 2009 ; non traduit). Cet « instinct d’autoconservation » pourrait à terme poser problème : « il n’y a pas de garantie que le robot n’en ferait pas, au bout du compte, sa priorité », au détriment de ce pour quoi il a été conçu – assister l’homme quoi qu’il en coûte. La distinction entre homme et robot est justement fondée sur la possibilité que ce dernier se sacrifie pour le premier. Reste que cette manière de concevoir les robots peut paraître « non éthique », alors que nous voyons notamment apparaître des « machines anthropomorphes ». Comme le souligne Krishnan, « nous commençons à nous sentir responsables d’eux, précisément parce qu’ils sont incapables de prendre soin d’eux-mêmes »… Jusqu’où ira la transformation de cette perception morale ?