AI die helpt zonder het stil over te nemen

Het is makkelijk te zeggen dat AI verantwoord moet zijn. Het is moeilijker te zeggen wat dat betekent wanneer je oplevert. Voor ons komt het neer op een handvol regels die op elk project gelden.

Adviserend, nooit autonoom

AI suggereert; mensen beslissen. Een model kan opstellen, rangschikken of markeren, maar een mens beoordeelt en keurt goed voor er iets bij een klant terechtkomt. Zo blijft een mens verantwoordelijk voor de uitkomst, en daar hoort die verantwoordelijkheid.

Fail-closed, niet zelfverzekerd fout

Wanneer het systeem twijfelt, moet het stoppen, niet gokken. Liever laten we een veld leeg dan het te vullen met iets aannemelijks dat fout is. Elke uitvoer verankeren in echte gegevens, en ze leeg laten wanneer die gegevens dun zijn, houdt AI ervan slechte data in je product te sluizen.

Toon het bewijs

Elke AI-uitvoer moet herleidbaar zijn tot de data erachter, zodat wie ze beoordeelt de bewering kan controleren in plaats van ze op goed geloof aan te nemen. Kan het systeem niet tonen waar een antwoord vandaan komt, dan heeft het niets te zoeken bij het presenteren van dat antwoord.

Test alsof het zal falen

Een AI-functie die alleen op vriendelijke voorbeelden werd geprobeerd, ontmoet haar eerste lastige geval in productie. Voor er iets vertrekt, bouwen we een kleine evaluatieset uit echte, ongemakkelijke invoer: de dubbelzinnige, de bijna-juiste, die waarbij het systeem hoort te weigeren. Elke prompt- of modelwijziging draait opnieuw tegen die set, want in AI breekt een fix hier vaker stilletjes iets daar dan waar ook in software.

Privacy hoort bij dezelfde belofte

Verantwoord betekent ook zorgvuldig zijn met wat het model te zien krijgt. We sturen het minimum aan data dat een taak nodig heeft, halen identificerende details weg waar de taak het toelaat, en behandelen 'de modelaanbieder bewaart dit' als een verwerkingsvraag met een echt antwoord, geen voetnoot. Kan een functie niet gebouwd worden zonder gevoelige data te sturen naar waar ze niet hoort, dan is dat een ontwerpprobleem om op te lossen, geen risico voor de gebruiker om te aanvaarden.

Niets hiervan maakt AI minder nuttig. Het maakt ze betrouwbaar, en dat is de enige versie die het waard is om voor te leggen aan de mensen die op je product rekenen. En wanneer AI helemaal niet het juiste gereedschap is, zeggen we ook dat.