Une IA qui aide sans prendre le contrôle en douce

Il est facile de dire que l'IA doit être responsable. Il est plus difficile de dire ce que cela signifie quand on livre. Pour nous, cela se résume à une poignée de règles valables sur chaque projet.

Consultative, jamais autonome

L'IA suggère ; les personnes décident. Un modèle peut rédiger, classer ou signaler, mais une personne relit et valide avant que quoi que ce soit n'atteigne un client. Ainsi un humain reste responsable du résultat, et c'est là qu'est sa place.

Fail-closed, pas sûr de lui et faux

Quand le système doute, il doit s'arrêter, pas deviner. Nous préférons laisser un champ vide plutôt que le remplir de quelque chose de plausible et faux. Ancrer chaque sortie dans des preuves réelles, et la laisser vide quand les preuves manquent, empêche l'IA de faire passer de mauvaises données dans votre produit.

Montrer les preuves

Chaque sortie d'IA doit pouvoir être retracée jusqu'aux données qui la fondent, pour que la personne qui relit puisse vérifier l'affirmation au lieu de la croire sur parole. Si le système ne peut pas montrer d'où vient une réponse, il n'a pas à la présenter.

La tester comme si elle allait échouer

Une fonction d'IA essayée uniquement sur des exemples faciles rencontrera son premier cas difficile en production. Avant toute mise en service, nous constituons un petit jeu d'évaluation à partir d'entrées réelles et inconfortables : les ambiguës, les presque justes, celles où le système doit refuser. Chaque changement de prompt ou de modèle repasse sur ce jeu, car en IA, un correctif ici casse en silence quelque chose là-bas plus souvent que partout ailleurs en logiciel.

La confidentialité fait partie de la même promesse

Responsable veut aussi dire prudent avec ce que le modèle voit. Nous envoyons le minimum de données qu'une tâche exige, retirons les détails identifiants quand la tâche le permet, et traitons « le fournisseur du modèle conserve ceci » comme une question de traitement de données avec une vraie réponse, pas une note de bas de page. Si une fonction ne peut pas exister sans envoyer des données sensibles là où elles ne doivent pas aller, c'est au design de résoudre ce problème, pas à l'utilisateur d'accepter le risque.

Rien de tout cela ne rend l'IA moins utile. Cela la rend digne de confiance, la seule version qui mérite d'être présentée aux personnes qui dépendent de votre produit. Et quand l'IA n'est pas du tout le bon outil, nous le disons aussi.