Tester les systèmes d'IA générative

• Variabilité des réponses et limites des comparaisons fondées sur un résultat unique.
• Périmètre du système testé : modèle, instructions, documents, outils et interface applicative.
• Différences entre anomalie logicielle, réponse incorrecte et comportement inadapté au contexte.
• Conditions d’une campagne comparable : configuration, versions et répétition des essais.

Analyse guidée : Comparer plusieurs réponses à une même demande et distinguer les variations acceptables des défauts à signaler.

• Pertinence de la réponse, exactitude factuelle et fidélité aux documents de référence.
• Respect des consignes, du format demandé, du ton et du périmètre d’utilisation.
• Réponses attendues face à une demande ambiguë, à une information manquante ou à une question hors périmètre.
• Grilles d’appréciation, niveaux de gravité et seuils d’acceptation liés aux usages métier.

• Requêtes représentatives des usages : cas courants, cas limites et situations à risque.
• Réponses de référence, sources justificatives et critères associés à chaque cas.
• Séparation des exemples utilisés pour ajuster le système et des cas réservés à son évaluation.
• Versionnement du jeu d’évaluation et enrichissement à partir des incidents rencontrés.

Atelier : Constituer un premier jeu d’évaluation et expliciter les critères permettant de juger les réponses de l’assistant.

• Affirmations non étayées, références inventées et citations qui ne soutiennent pas la réponse.
• Contrôles automatiques des formats et vérification des affirmations à partir des sources.
• Évaluation humaine et recours à un modèle évaluateur : apports, biais et désaccords.
• Comparaison des appréciations automatiques avec un échantillon relu par des évaluateurs humains.

Travaux pratiques : Évaluer un ensemble de réponses, repérer les erreurs factuelles et confronter les résultats d’un contrôle automatique à une revue humaine.

• Injections de prompt directes et instructions malveillantes présentes dans des documents.
• Contournement des consignes, demandes hors périmètre et tentatives de divulgation d’informations.
• Effets des entrées ambiguës, contradictoires ou inhabituelles sur le comportement du système.
• Scénarios de test documentés, preuves observables et qualification des incidents.

Mise en situation : Exécuter des scénarios adverses dans l’environnement fourni, avec des données fictives, et consigner les comportements observés.

• Qualité de la recherche documentaire : présence des sources utiles et pertinence des passages sélectionnés.
• Qualité de la réponse : fidélité au contexte, couverture de la question et exactitude des citations.
• Diagnostic des erreurs liées au corpus, à la recherche ou à la génération.
• Comportement attendu lorsque les sources sont absentes, périmées ou contradictoires.

• Contrôles des entrées et des sorties, restrictions d’accès et validation des formats.
• Refus, demande de précision et recours à une validation humaine.
• Faux positifs et faux négatifs : demandes légitimes bloquées et réponses inadaptées autorisées.
• Défense en profondeur et limites des protections fondées uniquement sur les instructions du modèle.

Expérimentation : Comparer le comportement de l’assistant avant et après l’ajout de garde-fous, y compris sur des demandes légitimes.

• Exécution reproductible des évaluations après un changement de modèle, d’instructions ou de corpus.
• Rapports comparatifs, seuils d’alerte et analyse des régressions.
• Suivi conjoint de la qualité, de la latence et du coût des réponses.
• Traçabilité des configurations, traitement des incidents et décisions de mise en service.

Restitution : Présenter le bilan d’évaluation du cas fil rouge et argumenter les corrections prioritaires ainsi que les conditions de mise en service.