La Divulgation

Je dois faire basculer NovaAssist en routage humain uniquement, immédiatement. Toutes les réponses automatiques du chatbot doivent être désactivées. Chaque demande est transmise à un agent en direct.

Cela va tripler la file d'attente. Nous avons trois agents en poste jusqu'à 13h00.

Je sais. Priorisez les demandes urgentes. Toute personne ayant appelé au sujet des frais de compte au cours des dernières 48 heures doit être rappelée aujourd'hui.

Amir, j'ai besoin d'une liste complète de chaque contenu que vous avez publié à l'aide d'outils d'IA. Articles de blog, textes d'e-mails, scripts de chatbot, publications sur les réseaux sociaux. Tout ce qui date des 11 derniers mois. Il me la faut pour 11 h. Sans jugement — j'ai besoin des faits.

Elena, je suis vraiment désolé. C'est… pratiquement tout. Je vous prépare la liste.

Elena, j'ai appris que vous effectuez un audit. Bien. Mais le chatbot est toujours en ligne. Et vous venez d'envoyer une campagne d'e-mail à 28 000 personnes. Si l'un de ces contenus est inexact, chaque heure qu'il passe en ligne représente une exposition supplémentaire. Un audit sans action n'est qu'une documentation d'un problème que vous connaissiez et n'avez pas résolu.

Elena, je viens de voir votre e-mail à la journaliste du FT. Vous lui avez dit que nous avons « une supervision éditoriale humaine à chaque étape ». Est-ce le cas ?

Je—

Car si ce n'est pas le cas, et qu'elle peut le prouver, cette réponse devient la preuve que vous avez induit en erreur une journaliste sur nos pratiques en matière d'IA. En vertu de l'Article 50(4), les déployeurs ne doivent pas donner une fausse représentation de la nature générée par IA du contenu. Et en vertu de l'Article 99, la fourniture d'informations trompeuses peut entraîner des amendes allant jusqu'à 7,5 millions d'euros ou 1 % du chiffre d'affaires. Vous avez transformé un problème de transparence en problème de tromperie.

Elena, que se passe-t-il avec l'affaire du FT ?

[Résume la situation — la journaliste, le chatbot, la plainte du client, la portée du contenu généré par IA]

C'est grave à quel point ?

127 articles de blog, 34 campagnes e-mail, tous les scripts du chatbot. Onze mois. Aucune divulgation sur aucun d'eux.

Bien. Écoutez, je rentre jeudi soir. Peut-on tout mettre en attente jusqu'à ce moment-là ?

La date limite de la journaliste est vendredi.

Alors dites-lui que nous aurons une réponse complète d'ici jeudi. Gagnez-nous une journée. Et Elena — ne lui dites pas plus que nécessaire. Ce n'est pas une confession, c'est une situation de communication.

Fiona, Niamh dit que c'est une situation de conformité. L'Article 50 du Règlement sur l'IA de l'UE—

Le Règlement sur l'IA de l'UE n'est pas encore pleinement appliqué. Nous avons jusqu'en août. Ne surréagissons pas.

Les dispositions relatives à la transparence sont déjà en vigueur pour les contenus générés par les IA à usage général. Et le chatbot a fourni des informations erronées à un client. Il menace de saisir la Banque centrale.

Très bien. Faites intervenir Niamh. Mais je vous le dis, si nous publions un communiqué affirmant « nous avons utilisé l'IA sans en informer personne », c'est cela qui fera la une. Soyons plus intelligents que ça.

J'ai entendu l'appel. Fiona souhaite maîtriser le récit. Je comprends pourquoi. Mais voici ce qu'elle ne prend pas en compte : les obligations de transparence de l'Article 50 concernant les contenus générés par l'IA susceptibles d'être confondus avec des contenus d'origine humaine sont déjà applicables aux systèmes d'IA à usage général. Nous ne sommes pas dans une zone grise. Et le chatbot — c'est l'Article 50(1). Les personnes interagissant avec un système d'IA doivent être informées qu'elles interagissent avec une IA. Notre chatbot ne divulgue pas du tout le recours à l'IA. Ni dans l'interface, ni dans les conditions d'utilisation, nulle part.

Et le client ? Robert Acheson.

Le précédent Air Canada est sans ambiguïté. Un tribunal a tenu la compagnie aérienne responsable de chaque affirmation faite par son chatbot. Notre chatbot lui a indiqué qu'il n'y avait aucun frais d'entretien. Si nous ne régularisons pas la situation, il dispose d'arguments solides — et pas seulement au titre du Règlement sur l'IA de l'UE. Il s'agit d'une protection élémentaire du consommateur.

Mr. Acheson, je m'appelle Elena Vasquez. Je suis Directrice Marketing chez NovaTech. Je vous appelle au sujet de votre expérience avec notre chatbot.

Enfin quelqu'un qui ne lit pas un script.

J'ai examiné ce qui s'est passé. Notre chatbot vous a communiqué des informations incorrectes concernant la dispense de frais pour le compte premium. Cette dispense de frais a été supprimée il y a six mois, mais les informations de notre chatbot n'avaient pas été mises à jour. C'est notre erreur, pas la vôtre.

Et qu'allez-vous faire à ce sujet ?

Trois choses. Premièrement, nous annulons immédiatement le prélèvement de 49 EUR. Deuxièmement, nous honorons la dispense de frais que le chatbot vous a proposée — aucun frais de gestion pendant 12 mois. Troisièmement, nous passons en revue toutes les réponses automatisées du chatbot pour nous assurer que les informations sont à jour.

C'est... juste. C'est ce que je demandais depuis le début. Votre équipe d'assistance n'arrêtait pas de me dire que le chatbot n'avait pas force obligatoire.

Ils n'auraient pas dû dire cela. Si notre système vous communique des informations et que vous agissez de bonne foi sur la base de celles-ci, nous devons en assumer la responsabilité.

Je vous remercie pour cet appel. Je vais supprimer le tweet.

C'était la bonne approche. Le tribunal Air Canada a jugé la compagnie aérienne responsable parce qu'elle avait tenté de se désolidariser des déclarations du chatbot. Vous venez de faire exactement le contraire — et c'est défendable. Si cette affaire est portée devant la Banque centrale, nous pourrons démontrer que nous avons identifié le problème, contacté le client et régularisé la situation dans les 24 heures.

Elena, la journaliste va poser des questions sur l'article en question. Elle connaît déjà la réponse. Si Fiona lui affirme vendredi que l'article a été relu par un éditeur humain, et que la journaliste dispose de preuves que ce n'était pas le cas, nous passerons d'un problème de transparence à un problème de crédibilité. Et concernant le client — un remboursement sans reconnaissance que le chatbot est alimenté par l'IA ne suffit pas au regard de l'Article 50(1). Nous avons résolu le problème de facturation, mais pas celui de la divulgation.

Elena, nous avons perdu le contrôle de la situation. La journaliste publie demain, avec ou sans notre contribution. Le client a escaladé l'affaire auprès de la Banque centrale. Et Fiona ne rentre que ce soir. Si elle aborde l'appel avec la journaliste vendredi avec une posture « il n'y a rien à voir ici », cela devient la une, et non un article secondaire.

Que faisons-nous ?

Nous aurions dû agir hier. Article 50 exigeait la transparence dès le moment où nous avons déployé ces systèmes. Chaque jour de retard réduit la patience du régulateur. Je dois informer le conseil d'administration. Ce n'est plus un problème de communication.

Vous voulez que je participe à un appel avec le FT et que je dise que nous utilisions l'IA sans divulgation depuis 11 mois ?

Je veux que vous participiez à l'appel et que vous disiez que nous avons identifié une lacune, que nous avons élaboré un cadre et que nous le mettons en œuvre. L'histoire, c'est le cadre, pas la lacune.

Fiona, je dois ajouter quelque chose. Si la Banque centrale ouvre une enquête — et je pense qu'il y a 60 % de chances qu'elle le fasse, compte tenu de la plainte concernant le chatbot — la première question qu'elle posera sera de savoir ce que nous avons fait lorsque nous avons découvert le problème. Si nous pouvons démontrer qu'un cadre de gouvernance complet a été adopté dans les 72 heures suivant l'identification, cela fera la différence entre une lettre d'avertissement et une enquête formelle.

Quel est le coût ?

Le relancement du chatbot : environ 40 000 EUR, audit de conformité et refonte inclus. L'audit du contenu existant : il me faudra un prestataire externe pour deux mois, soit environ 15 000 EUR. La formation du personnel : nous pouvons la réaliser en interne. Total : moins de 60 000 EUR.

Et le coût de ne pas le faire ?

Article 99. Jusqu'à 15 millions d'EUR, ou 3 % du chiffre d'affaires mondial — c'est le niveau le plus élevé pour les violations des obligations des déployeurs, et non pas seulement pour les informations trompeuses (qui relèvent du niveau inférieur de 1 %). Pour NovaTech, cela représente 10,2 millions d'EUR. Et c'est uniquement le Règlement sur l'IA de l'UE — l'exposition au RGPD liée aux journaux du chatbot est distincte.

Construisez le cadre. Je passerai l'appel.

Elena... je veux aider. Je sais que j'ai causé une grande partie de tout cela. J'aurais dû demander qu'un processus de révision soit mis en place. J'aurais dû vérifier les réponses du chatbot par rapport au barème des frais. Puis-je contribuer à la création du module de formation ?

Oui. Vous allez contribuer à sa création parce que vous comprenez exactement ce qui s'est mal passé. Ce n'est pas une punition — c'est la chose la plus utile que vous puissiez faire.

Voilà quelque chose avec lequel je peux travailler. Des étiquettes sur le blog, une liste de contrôle de révision, une divulgation pour le chatbot. Nous pouvons dire à la journaliste que nous sommes déjà en train de déployer tout cela. Quel est le calendrier ?

Les étiquettes d'ici une semaine. La bannière de divulgation du chatbot d'ici deux semaines.

Elena, cela traite les symptômes visibles, mais pas la cause profonde. Nous n'avons aucune documentation indiquant quels contenus ont été générés par l'IA. Aucune formation pour l'équipe sur ce qui nécessite une divulgation. Aucun processus de vérification des réponses du chatbot. Et le problème RGPD lié aux journaux de conversation — vous n'avez pas du tout abordé cela.

Nous traiterons le RGPD séparément. Cela nous permet de passer avant la date limite de la journaliste.

Et la Banque Centrale ? Si Robert Acheson dépose sa plainte, elle ne demandera pas si nous avons ajouté une bannière au chatbot. Elle demandera si nous disposons d'un système de gestion des risques. Si nous avons des processus de supervision humaine. Si nous avons formé notre personnel. En vertu de l'Article 9, un système de gestion des risques doit être « établi, mis en œuvre, documenté et maintenu ». Une liste de contrôle n'est pas un système.

Voici ce que nous allons faire. L'appel avec le journaliste demain — je nous positionnerai en tant que leaders. « NovaTech a été à la pointe de l'adoption de l'IA dans la fintech, et nous sommes maintenant à la pointe de la transparence en matière d'IA. Nous lançons une initiative de divulgation. » Aucune mention du problème du chatbot. Aucune mention de la durée pendant laquelle nous avons fonctionné sans supervision.

Fiona, Niamh a signalé des problèmes sérieux—

Niamh fait son travail. Je fais le mien. Le conseil d'administration n'a pas besoin de connaître les détails tant que nous n'avons pas trouvé le bon angle de communication. Elena, dites à votre équipe — notamment Amir — que personne ne doit discuter de nos processus de contenu en externe. Cela inclut LinkedIn, cela inclut les anciens collègues, cela inclut les amis d'autres fintechs.

Fiona, je dois vous informer formellement que le fait d'instruire le personnel de ne pas discuter de préoccupations en matière de conformité en externe pourrait être interprété comme une suppression de la dénonciation. En vertu de la Directive européenne sur la protection des lanceurs d'alerte, que l'Irlande a transposée en 2022, les employés qui signalent des violations du droit de l'UE — y compris du Règlement sur l'IA de l'UE — sont protégés contre les représailles. Si Amir ou quelqu'un dans l'équipe d'Elena soulève cette préoccupation par un canal externe et que nous leur avons dit de ne pas en parler, notre position devient indéfendable.

Je ne supprime rien. Je demande simplement une discipline dans la communication.

Un régulateur ne le verra pas ainsi.

Merci, Fiona. C'est utile. Juste pour clarifier — votre chatbot destiné aux clients, NovaAssist, utilise-t-il de l'IA générative ?

Notre chatbot utilise un traitement avancé du langage naturel, oui. Il est conçu pour aider les clients avec des demandes courantes.

Informe-t-il les utilisateurs qu'ils interagissent avec une IA ?

Nous sommes... en train d'ajouter des fonctionnalités de transparence renforcées.

Donc actuellement, non ?

Nous mettons en œuvre des mesures de transparence de pointe sur l'ensemble de nos points de contact IA.

Je comprends. Encore une chose — Robert Acheson, un client à Cork, affirme que votre chatbot lui a communiqué des informations erronées sur les frais et que NovaTech a refusé de les honorer. Êtes-vous au courant de cela ?

Je ne suis pas au courant de cas clients spécifiques, mais NovaTech prend tous les retours clients au sérieux.

L'équipe des affaires réglementaires de la Banque Centrale m'a appelée à 7h15. Ils ont vu l'article du FT. Ils souhaitent comprendre notre cadre de gouvernance de l'IA. Je leur ai indiqué que nous leur fournirions la documentation dans les 48 heures. Elena — quelle documentation avons-nous ?

Nous avons un abonnement ChatGPT et 127 brouillons d'articles de blog non publiés sans historique des versions.

Dans ce cas, nous avons 48 heures pour bâtir un cadre que nous aurions dû construire il y a 11 mois. Et nous le faisons sous surveillance réglementaire, et non en amont de celle-ci.