Het concept van ai-governance duikt in toenemende mate op bij bedrijven die proactief werken aan verantwoordelijke, veilige en betrouwbare ai. Sinds kort bestaat er ook zoiets als ai-assurance en ai-audits. De vraag is of deze ontwikkelingen niet juist extra complexiteit en daardoor onzekerheid in de hand werken. Wat zijn de verschillen?

Een ai-governance-kader dwingt organisatorische prioriteiten af door middel van gestandaardiseerde regels, processen en vereisten die vorm geven aan hoe ai wordt ontworpen, ontwikkeld en ingezet. Deze organisatorische prioriteiten worden bepaald door verschillende factoren. Bijvoorbeeld door intern beleid en externe regelgeving of de implementatie van ai die moet voldoen aan vastgestelde drempels voor vooringenomenheid, eerlijkheid of fout-ratio’s.

Gestandaardiseerde regels, processen en vereisten betekenen dat het voldoen aan prioriteiten niet wordt overgelaten aan toeval. In plaats daarvan worden praktijken geïdentificeerd en geïmplementeerd. Voer de overeengekomen test uit vóór de implementatie en documenteer hem. Wordt er overwogen om een model te implementeren dat de grenzen verlegt van de prioriteiten rond vooringenomenheid, eerlijkheid of drempelwaarden voor foutenpercentages omdat de bedrijfswaarde veelbelovend is? Dan moet dit worden voorgelegd aan een intern comité. 

Ten slotte is het belangrijk om zowel de ontwerp-, ontwikkelings- en implementatiefase binnen de scope te hebben. Op deze manier zorg je ervoor dat prioriteiten, regels, processen en vereisten aanwezig zijn bij een use -ase vanaf de conceptfase tot en met de post-implementatie. Dit schept intern vertrouwen dat de ingezette modellen hun beoogde doelstellingen zullen blijven halen. Mocht dit niet het geval zijn, dan zullen tegenvallende prestaties vroeg of laat worden vastgesteld en worden gecorrigeerd of, als dat niet mogelijk is, kan het model buiten gebruik worden gezet.

Lees het volledige artikel op computable.nl