Les livres
Fiche du lundi

Biais et discrimination : l'égalité à l'épreuve

Un algorithme apprend du passé. Si le passé était inégal, il reproduit l'inégalité, avec une apparence d'objectivité. Recrutement, évaluation, promotion, salaire : là où l'IA touche des personnes, l'égalité doit être vérifiée, pas supposée.

Information générale, pas un conseil individuel · Sources officielles en fin de page.

Information générale sur le droit suisse : ce n'est pas un conseil juridique individuel.

● RECChoisissezune touche, et c’est parti
Le hibou du chapitre 4.2
Renvoi : LEg 3 · CO 328

Un algorithme apprend du passé. Si le passé était inégal, il reproduit l'inégalité, avec une apparence d'objectivité. Recrutement, évaluation, promotion, salaire : là où l'IA touche des personnes, l'égalité doit être vérifiée, pas supposée.

Lire au niveau :
L'essentielpour tous, sans prérequis

L'essentiel

  • Les biais viennent des données, de la conception de l'outil et aussi de la façon de demander.
  • Un critère neutre en apparence peut discriminer indirectement (années d'expérience, diplôme suisse, interruptions de carrière).
  • La « boîte noire » rend la preuve difficile : documenter les critères et garder une décision humaine motivée.
  • Tester sur un échantillon : comparer les résultats par groupes (sexe, âge).
Pratiquepour gérer un cas réel
Sur cette pageCe que dit la loiLes règles, cas par casExercice : La note de 2,8 sur 5Le coin de l'expertLe résumé à imprimer

Ce que dit la loi

  • Interdiction de discriminer en raison du sexe, directement ou indirectement, notamment à l'embauche, dans l'attribution des tâches, la rémunération, la promotion et le licenciement (LEg 3).
  • Allègement du fardeau de la preuve, sauf pour l'embauche (LEg 6) ; indemnité en cas de refus d'embauche discriminatoire (LEg 5).
  • Protection de la personnalité du travailleur (CO 328) ; congé abusif pour une raison inhérente à la personnalité, comme l'âge, sans lien avec le travail (CO 336 al. 1 let. a).
  • Règlement européen : les systèmes à haut risque doivent être alimentés par des données appropriées et surveillés pour les biais ; le règlement 2026/1744 encadre le traitement de données sensibles pour corriger les biais (RIA art. 4 bis).

Les règles, cas par cas

La situationLa règleArticle
Filtre « plus de 10 ans d'expérience exclus »Risque de discrimination liée à l'âgeCO 328 · CO 336
Préférence automatique pour les diplômes suissesRisque de discrimination indirecte selon l'origineCst. 8 · CO 328
Évaluation qui pénalise une absence pour maternitéDiscrimination liée au sexeLEg 3
Score proposé par l'IA repris sans analyseLe supérieur doit motiver lui-mêmeLPD 21
Test de l'outil sur un échantillonComparer les résultats femmes, hommes, âgesBonne pratique
« Ce qui a l'air neutre peut écarter en silence. »

Exercice : La note de 2,8 sur 5

Un logiciel d'évaluation propose pour une collaboratrice une note de 2,8 sur 5 et suggère de se séparer d'elle ; ses objectifs ont été fixés sans tenir compte de ses quatre mois de congé de maternité.

  1. Quel problème juridique ?
  2. Que doit faire le supérieur ?
  3. Quel risque si le congé est donné ?
Voir le corrigé

1. Discrimination liée au sexe (LEg 3) : l'absence pour maternité pénalise l'évaluation.

2. Ne pas reprendre la note : réévaluer sur la période travaillée, motiver lui-même, et permettre à la collaboratrice de s'exprimer (LPD 21).

3. Contestation pour discrimination (LEg 5 et 6) et congé abusif ; voir l'égalité et le licenciement.

Penser qu'un supérieur qui « valide » la proposition de l'IA en un clic exerce un vrai contrôle humain.
Expertcas difficiles, ordonnances, jurisprudence

Le coin de l'expert

  • Un contrôle humain réel suppose du temps, de la compétence et le pouvoir de s'écarter de la proposition ; un simple clic de validation n'en est pas un.
  • Un grand groupe de commerce en ligne a abandonné dès 2018 un outil de recrutement qui défavorisait les candidatures féminines : il avait appris des recrutements passés.
  • Demander au fournisseur des tests de biais et des indicateurs d'égalité, et les inscrire dans le contrat.

Le résumé à imprimer

Tout le chapitre sur une page A4 : les chiffres clés, la loi, le piège, un cas et la liste à retenir.

Télécharger le résumé (PDF, 1 page)

Pour réviser à fond : la fiche « style examen », deux à quatre pages, avec toute la loi, le tableau des règles, la méthode, les pièges, l'expert, et des questions d'examen corrigées.

Télécharger la fiche de révision (PDF)

Testez vos réflexes

4 affirmations tirées au hasard parmi 6, et rien n'est enregistré ni envoyé

Références

LEg 3, 5, 6 ; CO 328, 336 ; Cst. 8 ; LPD 21 ; RIA art. 4 bis, 10.

Textes officiels : loi fédérale sur la protection des données (LPD, RS 235.1), Code des obligations, ordonnance 3 relative à la loi sur le travail (OLT 3), loi sur l'égalité (LEg) ; règlement (UE) 2024/1689 sur l'intelligence artificielle et règlement (UE) 2026/1744 (omnibus numérique) ; Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle (STCE 225) ; Préposé fédéral à la protection des données et à la transparence (PFPDT), position sur l'application directe de la LPD à l'IA (9.11.2023, mise à jour 2025). Sur ce site : l'IA et les RH, la gouvernance du cloud et de l'IA, la protection des données, la cybersécurité.

Ces repères n'ont pas valeur juridique. Les montants et les règles changent chaque année, et chaque situation a ses particularités. Vérifiez toujours à la source officielle citée, ou auprès de votre caisse de compensation.
La conseillère, l'IA au service des personnes