L’inquiétante propagation de la rougeole démontre que le mouvement anti-vaccination commence à avoir de graves conséquences de santé publique. Près de mille morts à Madagascar depuis le mois de septembre 2018, 200 cas aux États-Unis ces derniers mois, des épidémies rapportées en France, en Ukraine (plus de 53 000 cas en 2018), en Bulgarie, aux Philippines, pour ne citer que quelques pays : on est bel et bien en train d’assister au retour d’une maladie que les campagnes de vaccination de ces dernières décennies avaient réussi à éradiquer à l’échelle globale. Il n’en est donc que plus inquiétant de constater qu’Amazon a une attitude de coupable complaisance à l’égard de la mouvance « anti-vaxx ».
Cela commence par le système de recommandation de livres, qui permet à des pamphlets opposés à la vaccination de monter en tête des listes de « meilleures ventes » proposées aux internautes-clients en fonction de mots-clés. Dans Wired, Renee DiResta, spécialiste des questions de désinformation et de confiance, a ainsi constaté que plusieurs des best-sellers de la catégorie « épidémiologie »
d’Amazon sont des ouvrages opposés à la vaccination, par exemple un livre rédigé par un journaliste médical rattaché à une officine anti-vaccination, ThinkTwice Global Vaccine Institute. Parmi les résultats pour le mot-clé « vaccine » (en anglais), il faut attendre la douzième proposition pour trouver un livre favorable à la vaccination. En cause, l’approche très libérale d’Amazon en matière de détermination des mots-clés rattachés à un ouvrage et d’attribution d’avis par les utilisateurs, qui permettent à des activistes anti-vaxx – ils sont bien plus nombreux et virulents que ceux cherchant à rétablir la vérité scientifique –, de doter des ouvrages sans le moindre mérite médical ou scientifique de cinq étoiles, garantes de qualité pour nombre d’internautes. Outre les recommandations par mots-clés, Amazon propose aussi des listes d’ouvrages « also shopped for » et « also bought », construites suivant des algorithmes similaires : celles-ci mettent aussi fréquemment en avant des ouvrages anti-vaccination.
On pourrait être tenté d’argumenter, au nom de la liberté d’expression et de la neutralité que l’on attend d’une plateforme commerciale, qu’Amazon se doit d’appliquer sans état d’âme ses algorithmes et laisser libre cours à la vie des idées. Si les choix du public mettent en avant des ouvrages qui affirment que les vaccins favorisent l’autisme, n’est-ce pas le rôle d’Amazon de laisser les gens s’informer et former leur propre opinion ? Il s’agit évidemment là d’un raisonnement fallacieux, que personne n’accepterait s’il s’agissait d’instructions pour assembler des bombes ou d’incitations à la haine. On peut à la rigueur accepter qu’un marchand laisse passer des publications qui ignorent la science ou les droits fondamentaux s’il s’agit de billevesées sans conséquences pratiques. Mais dès lors que des pamphlets irresponsables sont susceptibles d’impacter la santé publique, la responsabilité du comptoir en ligne est clairement engagée.
Il y a aussi l’inclusion d’associations de la mouvance « anti-vaxx » parmi les destinataires de dons que les clients de la plateforme peuvent choisir pour qu’ils bénéficient d’une part du montant de 0,5 pour cent de leur commande que la Fondation AmazonSmile s’engage à verser à des œuvres caritatives, comme l’a révélé cette semaine le Guardian. Y figurent quatre organisations anti-vaccination, National Vaccine Information Center (NVIC), Physicians for Informed Consent, Learn the Risk, et Age of Autism. Les montants en cause sont probablement faibles, concède le journal. Mais Amazon donne pignon sur rue à ces groupes irresponsables et met leur action au même plan que celle d’organisations philanthropiques sérieuses. Dans ce cas, il ne s’agit pas d’algorithmes « aveugles », mais bien d’une négligence ou, pire, d’une décision consciente d’Amazon qui reflète une attitude purement mercantile de l’entreprise de Jeff Bezos. Comme le note Renee DiResta, laisser des algorithmes modeler nos habitudes de consommation (et notre engagement sur les réseaux sociaux) revient à confier à un dispositif essentiellement « amoral » de régir nos vies.