Les livres
Fiche du lundi

Erreurs, inventions et biais : les limites à connaître

Une IA peut inventer une référence, un chiffre ou un arrêt avec un aplomb parfait. Elle reproduit aussi les biais des textes dont elle a appris. Connaître ces limites, c'est savoir où placer la relecture humaine.

Information générale, pas un conseil individuel · Sources officielles en fin de page.

Information générale sur le droit suisse : ce n'est pas un conseil juridique individuel.

● RECChoisissezune touche, et c’est parti
Le hibou du chapitre 0.2
Renvoi : Fiabilité

Une IA peut inventer une référence, un chiffre ou un arrêt avec un aplomb parfait. Elle reproduit aussi les biais des textes dont elle a appris. Connaître ces limites, c'est savoir où placer la relecture humaine.

Lire au niveau :
L'essentielpour tous, sans prérequis

L'essentiel

  • Les inventions (on dit aussi « hallucinations ») : sources, articles de loi, chiffres qui n'existent pas.
  • Les biais : stéréotypes de genre, d'âge ou d'origine repris des données d'apprentissage.
  • L'obsolescence : montants 2026, barèmes, taux ; le modèle peut être resté à une année antérieure.
  • La parade : vérifier chaque fait dans la source officielle, et ne jamais laisser l'IA décider d'une personne.
Pratiquepour gérer un cas réel
Sur cette pageCe que dit la loiCôté RHLes règles, cas par casL'outil : avant d'envoyerExercice : Le courriel trop sûr de luiLe coin de l'expertLe résumé à imprimer

Ce que dit la loi

  • L'exactitude des données est un principe de la LPD : celui qui traite des données doit s'assurer qu'elles sont exactes (LPD art. 6, al. 5).
  • Une décision fondée exclusivement sur un traitement automatisé, qui a des effets juridiques pour la personne, doit lui être annoncée ; elle peut demander qu'une personne la revoie (LPD art. 21).
  • Le travailleur exécute son travail avec soin (CO 321a) : utiliser une IA ne décharge pas de vérifier.
  • L'employeur répond des actes de ses auxiliaires et de ses outils envers les tiers (CO 101).

Côté RH

Organiser la relecture

  • Définir qui relit quoi : un texte interne peut être relu rapidement ; tout ce qui sort de l'entreprise ou touche une personne passe par une relecture complète.
  • Afficher près des écrans les cinq questions « avant d'envoyer ».
  • Partager en équipe, sans chercher de coupable, les erreurs repérées : c'est la meilleure formation.

Les règles, cas par cas

La situationLa règleArticle
Un article de loi cité par l'IALe retrouver sur Fedlex avant de l'utiliserLPD 6 al. 5
Un montant ou un taux 2026Contrôler dans la source officielle de l'annéeBonne pratique
Un arrêt du Tribunal fédéral citéVérifier son existence et son contenu sur bger.chBonne pratique
Un texte sur une personne (évaluation, certificat)Relire chaque jugement : biais possiblesCO 328, 330a
Une décision sur une candidatureJamais uniquement automatisée ; informer et permettre un réexamenLPD 21
« Ce qui sonne juste n'est pas forcément juste. »

L'outil : avant d'envoyer

Cinq questions avant qu'un texte produit avec une IA quitte l'entreprise ou serve à une décision.

Exercice : Le courriel trop sûr de lui

Un assistant rédige pour un collaborateur une réponse : « Selon l'article 329f du CO, vous avez droit à 16 semaines de congé de paternité payé. »

  1. Qu'est-ce qui cloche ?
  2. Comment l'aurait-on repéré ?
  3. Quelle règle interne en tirer ?
Voir le corrigé

1. Le congé de l'autre parent est de deux semaines (CO 329g) ; l'article 329f concerne le congé de maternité (14 semaines). Le chiffre et l'article sont faux.

2. En vérifiant l'article sur Fedlex, comme le prévoit la liste « avant d'envoyer ».

3. Tout article ou montant cité dans un courriel sortant est vérifié dans la source ; voir les congés familiaux.

Demander à l'IA de vérifier sa propre réponse : elle peut confirmer son erreur avec la même assurance.
Expertcas difficiles, ordonnances, jurisprudence

Le coin de l'expert

  • Les biais ne se voient pas sur un cas isolé : il faut comparer les résultats par groupes (femmes et hommes, âges) sur un échantillon.
  • Demander à l'outil ses sources ne suffit pas : il peut citer des sources inventées ; seule la consultation de la source compte.
  • Pour les textes juridiques, préférer un outil qui cite des passages exacts de documents fournis par l'entreprise (lois, règlement interne).
  • La « juste confiance » : le ton assuré d'un assistant inspire spontanément la crédibilité ; avec la routine et la pression du temps, le biais d'automatisation fait passer des erreurs pourtant visibles. Fixer le niveau de vérification selon l'usage et laisser le temps de vérifier.
  • Quatre degrés de vérification, du plus léger au plus sûr : relecture critique, comparaison avec un second outil ou une source, contrôle documenté par échantillon, travail refait entièrement pour les sujets à fort enjeu.

Le résumé à imprimer

Tout le chapitre sur une page A4 : les chiffres clés, la loi, le piège, un cas et la liste à retenir.

Télécharger le résumé (PDF, 1 page)

Pour réviser à fond : la fiche « style examen », deux à quatre pages, avec toute la loi, le tableau des règles, la méthode, les pièges, l'expert, et des questions d'examen corrigées.

Télécharger la fiche de révision (PDF)

Testez vos réflexes

4 affirmations tirées au hasard parmi 6, et rien n'est enregistré ni envoyé

Références

LPD art. 6 al. 5, 21 ; CO 101, 321a, 328, 330a.

Textes officiels : loi fédérale sur la protection des données (LPD, RS 235.1), Code des obligations, ordonnance 3 relative à la loi sur le travail (OLT 3), loi sur l'égalité (LEg) ; règlement (UE) 2024/1689 sur l'intelligence artificielle et règlement (UE) 2026/1744 (omnibus numérique) ; Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle (STCE 225) ; Préposé fédéral à la protection des données et à la transparence (PFPDT), position sur l'application directe de la LPD à l'IA (9.11.2023, mise à jour 2025). Sur ce site : l'IA et les RH, la gouvernance du cloud et de l'IA, la protection des données, la cybersécurité.

Ces repères n'ont pas valeur juridique. Les montants et les règles changent chaque année, et chaque situation a ses particularités. Vérifiez toujours à la source officielle citée, ou auprès de votre caisse de compensation.
La conseillère, l'IA au service des personnes