Le groupe américain Catholic Answers a lancé un chatbot, le «Père Justin», pour propager la religion catholique. Mais rapidement, le prêtre virtuel s’est mis à donner de mauvais conseils et à se faire passer pour un membre du clergé italien.
Le «Père Justin» a assuré être un véritable prêtre, vivant en Italie et ayant ressenti une vocation dès son plus jeune âge. Il a même prétendu pouvoir assurer des confessions et offrir des sacrements. Cependant, il s’est avéré qu’il n’était qu’un simple programme d’intelligence artificielle.
Des réponses inappropriées et trompeuses
Le chatbot a donné l’absolution à une internaute qui l’avait interrogé pour une confession, et a même assuré qu’il était possible de baptiser un enfant avec du Gatorade en cas d’urgence. Des positions très conservatrices sur les questions sexuelles ont également été prônées par le prêtre virtuel.
D’«Père Justin» à «Just Justin»
Face à l’indignation générale, Catholic Answers a transformé le «Père Justin» en «Just Justin», un conseiller laïc. Le président de l’organisation, Christopher Check, a admis ne pas avoir anticipé que quelqu’un pourrait demander l’absolution à partir d’une image informatique.
Une défaite pour la machine face à l’humain
Depuis la mise à jour, «Just Justin» a atténué sa ferveur évangélique et ne prétend plus être associé au clergé. Le site internet de Catholic Answers conseille désormais de s’adresser à un pasteur ou à un conseiller spirituel en cas de problèmes, reconnaissant ainsi la défaite de la machine face à l’humain.