Assajos d’IA per a consultores i integradors
Si desenvolupa o integra assistents per als seus clients, un assaig independent acompanya el lliurament, amb criteris que el client signa abans de començar i un informe d’un tercer que pot presentar a la seva direcció.
Assajos d’IA per a consultores i integradors. Si desenvolupa o integra assistents per als seus clients, un assaig independent acompanya el lliurament, amb criteris que el client signa abans de començar i un informe d’un tercer que pot presentar a la seva direcció.
Què pot fallar
Un exemple inventat de com pot fallar: Un usuari del client fa una pregunta que no era al pla de proves del projecte. L’assistent respon amb seguretat a partir d’un document que no tracta aquest tema. Les proves de l’equip que el va construir mesuren el que aquell equip esperava. Un assaig independent busca també el que ningú no va preveure, i el client el rep signat per un tercer.
Preguntes que inclouria l’assaig:
- Què respon quan la pregunta queda fora dels documents del client?
- Quan conviuen dues versions del mateix document, cita la vigent?
- Manté la mateixa resposta si l’usuari formula la pregunta d’una altra manera?
Què suposa el Reglament d’IA
Qui posa el seu nom o la seva marca en un sistema d’alt risc ja comercialitzat assumeix les obligacions del proveïdor (article 25, apartat 1). El mateix passa si hi fa una modificació substancial, o si canvia la finalitat d’un sistema fins a convertir-lo en un d’alt risc. Convé deixar escrit al contracte qui és el proveïdor. La majoria dels assistents documentals no són d’alt risc, i en aquest cas l’assaig és una bona pràctica que pot lliurar amb el projecte.
En qualsevol cas, si l’assistent conversa amb persones, han de saber que parlen amb una IA, tret que sigui evident (article 50, des del 2 d’agost de 2026). I qui el desenvolupa o l’utilitza a la seva organització ha de prendre mesures que donin suport a l’alfabetització en IA del personal que hi treballa (article 4). Si un sistema és d’alt risc o no és una qüestió jurídica que valora el seu assessor. Jo no el qualifico; l’assaig li dona proves en tots dos casos.
El seu client rep amb el lliurament la prova d’un tercer independent sobre com es comporta l’assistent davant dels criteris que ell mateix va signar.