L'éthique du numérique
Les questions éthiques d'un produit numérique et les outils pour y répondre : grilles de raisonnement (conséquences, devoirs, vertus), interfaces trompeuses, économie de l'attention, biais algorithmiques, vie privée dès la conception, accessibilité et responsabilité.
- 25 cartes
- 5 thèmes
- Gratuit
Le programme, thème par thème
Le poids de chaque thème suit celui que lui donne l'examen.
- Notions
- Questions
- Ranger et relier
- Mises en situation
- Comprendre
Quelques cartes du deck
Éthique du numérique : de quoi s'agit-il ?
Voir la réponse
Réflexion sur ce qu'il est juste de concevoir et de faire avec un produit numérique, au-delà de ce que la loi impose.
La loi fixe un minimum et vient souvent après la technique ; l'éthique pose la question du juste quand aucun texte ne tranche. Une pratique légale peut être contraire à l'éthique.
Un modèle de reconnaissance faciale entraîné surtout sur des visages clairs se trompe plus souvent sur les visages foncés. Quelle est l'origine la plus probable ?
- Des données d'entraînement peu représentatives
- Une résolution d'image trop basse, la même pour tous les utilisateurs
- Un modèle trop petit pour reconnaître correctement un visage
- La volonté de l'équipe de défavoriser certains utilisateurs
Voir la réponse
Des données d'entraînement peu représentatives
Peu d'exemples d'un groupe donnent un modèle moins fiable pour ce groupe. Une résolution basse ou un modèle trop petit dégraderaient tous les visages, pas un groupe plus qu'un autre. Aucun besoin d'intention : c'est un biais de données, qu'on détecte en mesurant les erreurs par groupe.
Le … juge un acte à ses résultats, la … au respect de devoirs et de règles, et l'éthique des … au caractère qu'il révèle.
Voir la réponse
Le conséquentialisme juge un acte à ses résultats, la déontologie au respect de devoirs et de règles, et l'éthique des vertus au caractère qu'il révèle.
Les trois grilles posent des questions différentes : qu'est-ce que cela produit ? ai-je le droit de le faire ? que ferait une personne honnête ? Elles donnent parfois des réponses opposées sur un même cas.
Interface trompeuse : de quoi s'agit-il ?
Voir la réponse
Écran conçu pour amener l'utilisateur à faire ce qu'il n'aurait pas choisi en connaissance de cause, au profit de l'éditeur.
Elle exploite la hiérarchie visuelle, les cases précochées, l'urgence ou la culpabilité. Le critère est le consentement éclairé, pas la laideur de l'interface.
Un outil de tri de candidatures, entraîné sur dix ans de recrutements, écarte les CV de femmes. Que faire ?
- Retirer la case « sexe » du formulaire, ce qui suffit à supprimer le biais
- Entraîner le modèle plus longtemps sur les mêmes données
- Ne rien changer, car un modèle ne fait que calculer et reste neutre
- Auditer les données et les résultats par groupe, et garder une décision humaine
Voir la réponse
Auditer les données et les résultats par groupe, et garder une décision humaine
Le modèle reproduit un passé biaisé. Retirer la case ne suffit pas : d'autres informations (parcours, loisirs, prénom) servent de substitut. Il faut mesurer les écarts par groupe et ne pas laisser l'outil décider seul.