IA & ChatBot – Votre responsabilité peut-elle être engagée ?

Les systèmes d’IA comme ChatGPT et Claude permettent de créer très facilement des « ChatBots » : ces agents conversationnels qui permettent d’échanger avec vos clients, fournisseurs et autres partenaires en temps réel.

Si ces « ChatBots » existaient avant que les outils IA ne soient devenus si accessibles et faciles d’utilisation pour le commun des mortels, ils sont désormais susceptibles d’être créés très facilement et à moindre coûts par tout un chacun.

On assiste donc à une multiplication de la mise en place des ChatBots par les entreprises pour répondre à toute sorte de besoins. On voit donc également apparaître de nombreux exemples de cas où le ChatBot IA hallucine, se trompe ou tient des propos carrément mensongers ou frauduleux.

Dans ce cas, qui est responsable des conséquences éventuelles que les propos du ChatBot entraînent ?

1. L’exemple d’Air Canada

Pour ceux qui ont déjà mal à la tête en entendant parler de « responsabilité », parlons concret avec un exemple.

En novembre 2022, un certain Jake Moffatt, consultait le site d’Air Canada pour réserver un vol pour les funérailles de sa grand-mère. Le ChatBot, plein d’empathie, lui indique alors qu’en raison de cette tragédie, la compagnie peut lui proposer une réduction substantielle sur le prix de son billet d’avion.

L’agent conversationnel l’invite alors à se rapprocher d’Air Canada après son vol en lui expliquant que le billet ne lui coûtera que 600 dollars et qu’il pourra demander le remboursement de la différence « dans les 90 jours suivant la date d’émission de votre billet » en remplissant un formulaire en ligne.

Il faut ici préciser que certaines compagnies appliquent des réductions pour les « voyages de deuil ».

Moffatt a donc ensuite réservé des billets à destination et en provenance de Toronto pour assister aux funérailles. Mais, lorsqu’il a demandé un remboursement, Air Canada lui a répondu que les tarifs pour les voyages en cas de deuil ne s’appliquaient pas aux billets qu’il avait réservés, a refusé le remboursement et l’a renvoyé lire les informations sur la section de son site Internet consacrée aux voyages de deuil.

Jake Moffatt a donc assigné Air Canada devant un tribunal canadien pour obtenir son remboursement.

Pour se défendre, Air Canada a fait en effet valoir qu’en dépit de l’erreur, le Chatbot était une « entité juridique distincte » et qu’il était donc responsable de ses actes.

Le tribunal canadien ne l’a pas entendu de cette oreille et a condamné Air Canada à rembourser Jake Moffatt conformément à ce qu’avait indiqué le ChatBot et en soulignant la nécessité pour les entreprises de mieux former et contrôler leurs outils d’intelligence artificielle.

 

2. Qu’est-ce qu’on retient de cette histoire et la décision du tribunal serait-elle la même en France ?

  • On en retient tout d’abord que seules peuvent être condamnées des « personnes morales » donc des sociétés.

Or un ChatBot n’étant pas une personne morale (société) ou une personne physique susceptible de réparer un dommage, le responsable reste donc l’entreprise qui met le ChatBot à disposition de ses clients.

  • On retient ensuite qu’en droit français, les entreprises sont responsables à l’égard des consommateurs des informations fausses, trompeuses ou erronées qu’elles véhiculent.

Les entreprises peuvent donc être condamnées au titre de « pratiques commerciales trompeuses » si leur ChatBot fait état d’informations trompeuses qui causent un préjudice à un consommateur.

  • Ce n’est pas parce que certaines informations sont correctes d’un côté (dans notre exemple sur le site d’Air Canada) et erronées de l’autre (dans notre exemple, les informations du ChatBot) que votre entreprise pourra s’en sortir indemne lorsque vous lui fournissez des informations contradictoires.

En conclusion : si vous utilisez des ChatBots IA pour faire des économies, notamment de ressources humaines, mais que vous ne surveillez pas les informations que le ChatBot répand auprès de vos consommateurs, vous risquez de mettre lesdites économies dans vos frais d’avocats et condamnations judiciaires à indemniser vos clients – la prudence est donc de mise…