Mensen vertellen dat er AI meespeelt

Ons artikel over verantwoorde AI gaat over hoe we AI-functies bouwen: adviserend, veilig stoppend, met zichtbaar bewijs. Dit artikel gaat over een kleinere vraag die opduikt zodra zo'n functie het publiek bereikt. Vertel je het mensen, en hoe? Het antwoord is ja, in gewone taal, en de rest van dit artikel gaat over wat die ene zin moet dragen.

Waarom gewone taal telt

Mensen liggen wakker van de ontdekking dat de brief waarvan ze dachten dat een verpleegkundige hem schreef, door software opgesteld en zonder tweede blik ondertekend werd, of dat hun aanvraag onderaan de stapel lag door de gok van een model. De test in onze responsible AI assessment is bot: zouden mensen die geloven dat een mens dit werk doet, zich bedrogen voelen als ze anders te weten kwamen? Zo ja, dan is zwijgen een ontwerpkeuze, en de verkeerde. Een tweede test is persoonlijker: zou je aarzelen om dit gebruik van AI op je eigen homepage uit te leggen? Zo ja, dan zit het probleem voor de formulering.

Gewone taal betekent dat de zin zegt wat de software doet, met een werkwoord dat iemand buiten je organisatie begrijpt: schrijft een eerste versie, sorteert, markeert, stelt voor. Ze zegt ook wat een mens nog doet.

Fouten hebben een eigenaar

Een stap met AI zal soms fout zijn. Onze eigen algemene voorwaarden zeggen het zonder omwegen: die uitvoer is een hulpmiddel, geen beslissing, ze kan fouten bevatten, en je controleert ze voor je erop verder bouwt. Een mededeling zonder eigenaar is een disclaimer, en een disclaimer beschermt de organisatie terwijl de betrokkene met de fout blijft zitten. Beantwoord dus schriftelijk drie vragen voor je de zin publiceert.

• Wie merkt de fouten op? Een rol met een naam bekijkt de uitvoer voor ze de betrokkenen bereikt, overal waar een fout pijn zou doen. Kijk je steekproefsgewijs na, ken dan de steekproef en schrijf ze op.
• Wie zet ze recht? Rechtzetten betekent dat het dossier, de brief of de beslissing verandert, en dat de correctie iedereen bereikt die de foute versie zag.
• Wie verwittigt de betrokkene? Als een sorteerstap iemands aanvraag vertraagde of een ontwerp met een fout cijfer vertrok, hoort die persoon dat van een mens, met de correctie, zonder erom te moeten vragen.

De antwoorden horen in hetzelfde document als de zin op de homepage. Staat bij een van de drie geen naam, dan is de functie niet klaar.

Wat de aanbieder bewaart, is een vraag over gegevensverwerking

De meeste AI-functies sturen tekst naar een model dat ergens anders draait. Die tekst kan een naam bevatten, een diagnose, een klacht. Wat de aanbieder bijhoudt, en hoelang, is een vraag over gegevensverwerkingOnder de GDPR heeft elk gebruik van persoonsgegevens een doel, een rechtsgrond en een register van wie ze in jouw opdracht verwerkt. Tekst naar een modelaanbieder sturen is zo'n gebruik. met een echt antwoord: een rechtsgrond voor de betrokken persoonsgegevens, een verwerkersovereenkomst en een beslissing over waar de data staat. Onze eigen verwerkerslijst stelt dat onze data binnen de Europese Economische Ruimte staat, en dat we, waar een leverancier ook daarbuiten werkt, de Europese regio kiezen en dat contractueel vastleggen. Wat je ook beslist, beslis het voor de lancering, stuur het minimum dat de taak nodig heeft en haal identificerende details weg waar de taak het toelaat.

Drie zinnen die je kan aanpassen

De formulering hangt af van wat de software doet. Drie vormen dekken de meeste gevallen. Vervang de rol en het onderwerp door de jouwe en hou het werkwoord.

• Voor opstellen: "Software schrijft de eerste versie van deze brief. Een medewerker van ons zorgteam leest en bewerkt elke brief voor hij vertrekt, en ondertekent hem."
• Voor sorteren of markeren: "Software sorteert binnenkomende aanvragen zodat dringende eerst gezien worden. Ze weigert en keurt niets goed; een mens leest elke aanvraag, en je kan ons vragen de volgorde te herbekijken."
• Voor een tweede blik op data: "Software vergelijkt deze resultaten met eerdere en markeert waarden die ongewoon lijken. De markering is een signaal voor wie je dossier nakijkt; die persoon beslist."

Elk van die zinnen benoemt wat de software doet, wat een mens doet en wat de lezer eraan kan doen. Zet de zin waar de betrokkenen lezen: de pagina met het formulier, de brief zelf, de voettekst van het bericht. Een link naar een beleidspagina komt op de tweede plaats.

Wat je niet schrijft

• Een badge. "Powered by AI" of "AI-enhanced" vertelt de lezer niets over wat er met zijn gegevens of aanvraag gebeurde. Het is marketing op de plek waar informatie hoort.
• Een schuldclausule. "De AI kan fouten maken" zonder eigenaar schuift het risico naar de lezer. De fouten zijn van jou; zeg wat je eraan doet.
• Meer dan je waar kan maken. Een zin die belooft dat "elke uitvoer nagekeken wordt", wordt een probleem de dag dat je steekproefsgewijs nakijkt. Schrijf wat er echt gebeurt.

Waar dit in de beslissing zit

Stap twee van onze responsible AI assessment somt de voorwaarden op voor AI echte mensen of echte data raakt. Twee ervan zijn dit artikel: fouten hebben een eigenaar, en de betrokkenen weten in gewone taal dat er AI meespeelt. De andere, het minimum aan data sturen, een mens die nakijkt waar fouten pijn doen, stoppen bij twijfel, gemeten kwaliteit en een budget voor opvolging, horen op dezelfde lanceerlijst. Stap één komt voor dat alles en vraagt of AI überhaupt het juiste gereedschap is. Vaak is dat niet zo, en dan is er geen zin te schrijven. In de zorg, waar de beslissing bij de zorgverlener ligt, moet de zin ook dat zeggen.