Votre rapport comme preuve de gouvernance de l’IA
Où le rapport daté et signé d’un test d’acceptation d’IA sert de preuve, et où s’arrête ce qu’il prouve.
Votre rapport comme preuve de gouvernance de l’IA. Le rapport d’un test est un document daté et signé qui compare ce qu’a fait le système aux critères que votre organisation a approuvés avant de commencer. Il sert de preuve à plusieurs endroits de votre organisation, et chacun a sa limite.
L’approbation interne
La mise en service du système, ou son report, est décidée par la personne qui doit signer dans votre organisation, comité ou direction. Le rapport donne sa base à cette décision, le résultat mesuré au regard des critères approuvés avant le début, et garde la trace de ce sur quoi elle s’est appuyée.
L’ISO/IEC 42001
La norme ISO/IEC 42001 décrit un système de management de l’IA. Parmi les mesures de son annexe A figurent la vérification et la validation des systèmes d’IA (A.6.2.4) : l’organisation définit et documente la façon dont elle contrôle chaque système et les critères selon lesquels elle l’accepte. Un rapport de test aux critères signés à l’avance peut faire partie de ces preuves.
La certification d’un système de management est délivrée par un organisme de certification accrédité, après son propre audit. Je ne certifie rien : je vous remets un document que votre équipe peut présenter lors de cet audit, avec le reste de ses preuves.
Le règlement sur l’IA
Savoir si un système est à haut risque est une question juridique, à apprécier avec votre conseil. Je ne procède pas à cette qualification ; le test vous apporte des éléments de preuve dans les deux cas.
Dans tous les cas, si l’assistant dialogue avec des personnes, elles doivent savoir qu’elles échangent avec une IA, sauf si c’est évident (article 50, depuis le 2 août 2026). Et quiconque le développe ou l’utilise dans son organisation doit prendre des mesures pour soutenir la maîtrise de l’IA du personnel qui travaille avec lui (article 4).
Le rapport n’est pas une évaluation de la conformité au sens du règlement sur l’IA et ne la remplace pas.
Les questions de vos clients
Un client peut vous demander comment vous testez l’IA que vous utilisez pour lui, dans un questionnaire fournisseur ou lors d’un audit préalable. Le rapport vous permet de répondre par un document daté et signé par un tiers, et vous décidez de la part que vous en partagez.
Les tests périodiques
Le banc d’essai, chaque question avec sa bonne réponse, reste dans votre organisation. Votre équipe peut rejouer le test après chaque changement du modèle ou des documents et conserver chaque résultat daté à côté du premier, une série qui montre que le système continue d’être contrôlé.
Pour savoir de quelles preuves votre cas a besoin, commencez par un diagnostic d’une semaine.