Le scandale des vignettes Netflix

L'éthique des algorithmes : le scandale de Netflix  #netflix #vignettes #miniatures #machinelearningalgorithms #recommandation

Transcript

00:00 Donc en quelque sorte, on est la police des algorithmes, c'est un peu prétentieux.

00:03 On est des humbles médecins légistes et on essaye de voir si les organes sont en place

00:09 et s'il n'y a pas suspicion d'actes criminels.

00:11 Alors, actes criminels, c'est un bien grand mot.

00:14 Éthique, c'est un mot un petit peu plus faible.

00:17 Là, il y a eu cette histoire, vous connaissez tous cette histoire de Netflix ?

00:20 Et donc, ce qui se passait, vous savez que vous avez des vignettes qui sortent pour vous

00:24 faire choisir un film sur Netflix.

00:26 La vignette elle-même est optimisée.

00:28 C'est-à-dire que la vignette que tu reçois n'est pas la même que la vignette que moi

00:31 je reçois.

00:32 La communauté afro-américaine a remarqué qu'il se faisait pousser des vignettes qui,

00:36 comme par hasard, avaient un black dedans, même si le black était un personnage complètement

00:41 mineur dans le film.

00:42 Ça a fait un scandale et voilà la tête de la réponse de Netflix.

00:45 Ce n'est pas de ma faute.

00:47 Je n'ai pas la couleur de peau.

00:50 C'est quand même un peu embêtant.

00:54 Ça veut dire que l'algo a découvert qu'effectivement la communauté afro-américaine avait une

00:59 petite sensibilité quand il y avait un acteur black, etc.

01:01 Alors rassurez-vous, il y a la même chose avec Viking et les Nordicains.

01:04 Vous pouvez raconter la même histoire en blanc si ça vous fait plaisir.

01:08 Donc là, coupable, pas coupable ? Pas évident, hein ?