Dire aux gens qu'une IA intervient

Notre article sur l'IA responsable décrit comment nous construisons des fonctions d'IA : consultatives, qui s'arrêtent en cas de doute, qui montrent leurs preuves. Celui-ci porte sur une question plus petite qui se pose dès qu'une telle fonction rencontre le public. Le dites-vous aux gens, et comment ? La réponse est oui, en langage clair, et la suite de cet article porte sur ce que cette phrase unique doit porter.

Pourquoi le langage clair compte

Les gens s'offusquent de découvrir que la lettre qu'ils croyaient écrite par une infirmière a été rédigée par un logiciel et signée sans relecture, ou que leur demande est restée en bas de la pile à cause de la supposition d'un modèle. Le test de notre évaluation IA responsable est direct : les personnes qui croient qu'un humain fait ce travail se sentiraient-elles trompées d'apprendre le contraire ? Si oui, le silence est un choix de conception, et le mauvais. Un second test est plus personnel : hésiteriez-vous à expliquer cet usage de l'IA sur votre propre page d'accueil ? Si oui, le problème se situe en amont de la formulation.

Langage clair veut dire que la phrase dit ce que fait le logiciel, avec un verbe qu'une personne extérieure à votre organisation comprend : rédige, trie, signale, suggère. Elle dit aussi ce qu'une personne fait encore.

Les erreurs ont un responsable

Une étape assistée par IA se trompera parfois. Nos propres conditions générales le disent sans détour : ce résultat est une aide, pas une décision, il peut contenir des erreurs, et vous le vérifiez avant de vous appuyer dessus. Une information sans responsable est une clause de non-responsabilité, et une telle clause protège l'organisation pendant que la personne concernée reste avec l'erreur. Avant de publier la phrase, répondez donc par écrit à trois questions.

• Qui repère les erreurs ? Un rôle nommé relit le résultat avant qu'il n'atteigne les personnes concernées, partout où une erreur ferait mal. Si la relecture se fait par échantillon, connaissez l'échantillon et écrivez-le.
• Qui les corrige ? Corriger veut dire que le dossier, la lettre ou la décision change, et que la correction atteint tous ceux qui ont vu la mauvaise version.
• Qui prévient la personne concernée ? Si une étape de tri a retardé la demande de quelqu'un ou si un brouillon est parti avec un chiffre faux, cette personne l'apprend d'un humain, avec la correction, sans avoir à le demander.

Les réponses vont dans le même document que la phrase de la page d'accueil. Si l'une des trois n'a pas de nom en face, la fonction n'est pas prête.

Ce que le fournisseur conserve est une question de traitement des données

La plupart des fonctions d'IA envoient du texte à un modèle qui tourne ailleurs. Ce texte peut contenir un nom, un diagnostic, une plainte. Ce que le fournisseur garde, et pour combien de temps, est une question de traitement des donnéesSous le RGPD, tout usage de données personnelles exige une finalité, une base légale et un registre de qui les traite pour votre compte. Envoyer du texte à un fournisseur de modèle est un tel usage. avec une vraie réponse : une base légale pour les données personnelles concernées, un accord de sous-traitance et une décision sur l'endroit où les données résident. Notre propre liste de sous-traitants précise que nos données restent dans l'Espace économique européen et que, lorsqu'un fournisseur opère aussi en dehors, nous choisissons la région européenne et le consignons contractuellement. Quoi que vous décidiez, décidez-le avant le lancement, envoyez le minimum que la tâche exige et retirez les détails identifiants quand la tâche le permet.

Trois phrases à adapter

La formulation dépend de ce que fait le logiciel. Trois formes couvrent la plupart des cas. Remplacez le rôle et le sujet par les vôtres et gardez le verbe.

• Pour la rédaction : « Un logiciel rédige la première version de cette lettre. Un membre de notre équipe de soins lit et corrige chaque lettre avant son envoi, et la signe. »
• Pour le tri ou le signalement : « Un logiciel trie les demandes entrantes pour que les urgentes soient vues en premier. Il ne refuse ni n'approuve rien ; une personne lit chaque demande, et vous pouvez nous demander de revoir l'ordre. »
• Pour un second regard sur des données : « Un logiciel compare ces résultats aux précédents et signale les valeurs qui paraissent inhabituelles. Le signal est une invitation pour la personne qui relit votre dossier ; c'est elle qui décide. »

Chacune nomme ce que fait le logiciel, ce que fait une personne et ce que le lecteur peut faire. Placez la phrase là où les personnes concernées lisent : la page du formulaire, la lettre elle-même, le pied du message. Un lien vers une page de politique vient en second.

Ce qu'il ne faut pas écrire

• Un badge. « Powered by AI » ou « enrichi par l'IA » ne dit rien au lecteur sur ce qui est arrivé à ses données ou à sa demande. C'est du marketing à la place de l'information.
• Une clause de blâme. « L'IA peut se tromper » sans responsable déplace le risque vers le lecteur. Les erreurs sont les vôtres ; dites ce que vous en faites.
• Plus que ce que vous pouvez tenir. Une phrase qui promet que « chaque résultat est relu » devient un problème le jour où la relecture passe à l'échantillon. Écrivez ce qui se passe réellement.

Où cela se place dans la décision

L'étape deux de notre évaluation IA responsable liste les conditions avant que l'IA ne touche de vraies personnes ou de vraies données. Deux d'entre elles font cet article : les erreurs ont un responsable, et les personnes concernées savent, en langage clair, qu'une IA intervient. Les autres, envoyer le minimum de données, une personne qui relit là où les erreurs font mal, s'arrêter en cas de doute, une qualité mesurée et un budget de suivi, figurent sur la même liste de lancement. L'étape une vient avant tout cela et demande si l'IA est le bon outil. Souvent elle ne l'est pas, et alors il n'y a aucune phrase à écrire. Dans les soins, où la décision appartient au clinicien, la phrase doit le dire aussi.