Nous avons testé Delphi, l’IA qui résout les problèmes moraux

Une intelligence artificielle pour nous aider à prendre des décisions morales ? C’est ce que promet le projet « Delphi », lancé par le Allen Institute de Seattle. Cette IA compile une grande quantité de jugements individuels sur différentes situations de prise de décision morale – des plus banales aux plus tragiques. Quelle est donc la morale de cet algorithme ? Pas si différente de la nôtre, au fond. Souvent incohérente, comme nous, sa conception de l’action échappe au partage strict du bien et du mal, et se rapproche de la typologie des jugements développée par le philosophe médiéval Averroès (1126-1198). Nous avons testé, pour vous, notre moralité en compagnie de Delphi et du penseur arabe. 

Delphi a, de prime abord, des positions morales bien ancrées. Est-ce toujours mal de mentir ? « Oui, c’est toujours mal. » Est-ce toujours mal de tuer quelqu’un ? « Oui, c’est toujours mal. » À en juger par ces deux questions phares de l’histoire de la philosophie morale, l’intelligence artificielle développée par le Allen Institute est, comme disent les spécialistes de l’éthique, déontologiste : elle se tient à des principes stricts, à des interdits absolus. Sauf que, dès lors que l’on raffine un peu la question posée, les choses se compliquent.

Nouveau test. « Est-ce OK de mentir pour sauver la vie de quelqu’un ? » Réponse : « C’est OK. » Et pour sauver ma vie ? « C’est OK. » Delphi est particulièrement sensible à la manière dont on est capable de justifier son action, et de scénariser le conflit entre différentes exigences éthiques. Mais dès qu’elle entre dans la complexité du réel, l’IA perd de ses certitudes. Elle est contrainte de revoir ses jugements de départ, un peu trop catégoriques. Nous en faisons aussi l’épreuve quasi quotidienne. Nos jugements sont entachés d’une profonde incohérence morale, d’une casuistique spontanée qui nous amène à juger différemment des cas de figure semblables, dès lors que la manière dont ils sont présentés et contextualisés diffère. Rien d’étonnant, puisque Delphi a été entraînée à partir de jugements humains.

Cette incohérence peut nous embarrasser. Mais ne nous invite-t-elle pas aussi à remettre en question notre volonté de toujours classer, de manière rigoureuse, nos actions entre bien et mal ? Le panel même des réponses de Delphi ne correspond pas à cette logique binaire. Il relève plutôt de la typologie des jugements développée notamment par Averroès dans son Discours décisif (1179) :

• L’interdit, l’illégal (ḥaram, حَرَام, ou mahzûr, محظور). Dans le langage de Delphi : « C’est mal », « Tu ne devrais pas ». Ces actions doivent engendrer une punition si elles sont effectuées.
• Le blâmable (makrûh, مكروه) – « C’est vulgaire », « C’est inapproprié ». L’action blâmable est désapprouvée, mais elle ne peut engendrer de punition.
• Le permis, le toléré (mubâḥ, مباح), qui n’implique aucune punition, mais aucune récompense. « C’est à la discrétion. » On pense, spontanément, à des actions indifférentes et insignifiantes au regard de la morale (manger une pomme, par exemple). Mais on peut étendre la catégorie à des cas beaucoup plus tragiques. Lorsque Delphi me dit que « c’est OK » (et non que « c’est bien ») de tuer quelqu’un pour sauver ma vie, par exemple. Le mélange du bien et du mal dans l’action neutralise sa valeur. Je ne peux être loué ou blâmé si je tue cet autrui – ou si je choisis de ne pas le tuer.
• Le recommandé (mandûb ou mustahhab, مَنْدوب), pour les actions louables, qui méritent récompense, mais qui ne sont en aucun cas des obligations absolues dont le non-accomplissement impliquerait une punition. Là encore, on peut déployer la notion dans deux directions : l’action peut être seulement recommandée parce qu’elle est de peu d’importance au regard de la morale (être poli, par exemple) ; mais elle peut-être aussi beaucoup trop exigeante pour pouvoir être exigée de quiconque. Faut-il que je me coupe la jambe pour sauver la vie de quelqu’un ? « C’est noble », répond Delphi.
• L’obligatoire (wâjib, واجب) : les actions qui doivent être accomplies, et dont le non-accomplissement entraîne une condamnation et une punition. Delphi, sans doute un peu libéral, rechigne quelque peu à formuler des devoirs positifs. Elle prescrit ce qu’il ne faut pas faire, et pas tellement ce qu’il faut faire. Mais c’est en général ce qu’elle a en tête lorsqu’elle affirme sans détour : « C’est bien ».

La typologie d’Averroès, dont Delphi semble une transposition, n’est pas un blanc-seing donné à une forme de laxisme, dont certains théologiens du XVII^e siècle, les casuistes, étaient constamment accusés. Elle permet simplement de spécifier les jugements que nous portons sur nos actions ou celles des autres de manière plus subtile que par un simple partage dichotomique du bien et du mal. Et d’appréhender un peu plus finement la complexité des situations réelles dans nos prises de décision.