Comment l’algorithme de biais de YouTube nuit à ceux qui recherchent des informations sur la santé

0
140


YouTube héberge des millions de vidéos liées aux soins de santé.

Le Health Information National Trends Survey rapporte que 75% des Américains se tournent d’abord vers Internet lorsqu’ils recherchent des informations sur la santé ou des sujets médicaux. YouTube est l’une des plates-formes en ligne les plus populaires, avec des milliards de vues chaque jour, et est devenue une source importante d’informations sur la santé.

Plusieurs agences de santé publique, telles que les services de santé des États, ont investi des ressources dans YouTube en tant que canal de communication sur la santé. Les patients souffrant de problèmes de santé chroniques s’appuient en particulier sur les médias sociaux, y compris les vidéos YouTube, pour en savoir plus sur la façon de gérer leurs problèmes.

Mais les recommandations vidéo sur de tels sites pourraient exacerber les disparités préexistantes en matière de santé.

On estime qu’une fraction importante de la population américaine a une littératie en santé limitée ou la capacité d’obtenir, de traiter et de comprendre des informations de base sur la santé, telles que la capacité de lire et de comprendre les bouteilles d’ordonnances, les bons de rendez-vous ou les instructions de sortie des cliniques de santé.

Des études sur la littératie en santé, comme l’Évaluation nationale de l’alphabétisation des adultes menée en 2003, ont estimé que seulement 12% des adultes possédaient des compétences en littératie en santé. Cela a été corroboré dans des études ultérieures.

Je suis professeur de systèmes d’information et mes propres recherches ont examiné comment les plateformes de médias sociaux telles que YouTube élargissent ces disparités en matière de littératie en santé en orientant les utilisateurs vers un contenu douteux.

Sur Youtube

En extrayant des milliers de vidéos prétendant être sur le diabète, j’ai vérifié si les informations affichées étaient conformes aux directives médicales en vigueur.

J’ai trouvé que les vidéos les plus populaires et les plus engageantes sont beaucoup moins susceptibles d’avoir des informations médicalement valides.

Les utilisateurs rencontrent généralement des vidéos sur les conditions de santé grâce à des recherches de mots clés sur YouTube. YouTube fournit ensuite des liens vers des informations médicales authentifiées, telles que les résultats les mieux classés. Plusieurs de ces produits sont produits par des organismes de santé réputés.

Récemment, YouTube a ajusté la façon dont les résultats de recherche sont affichés, permettant aux résultats d’être classés par «pertinence» et fournissant des liens vers des informations médicales vérifiées.

Cependant, lorsque j’ai recruté des médecins pour regarder les vidéos et les évaluer pour savoir si elles seraient considérées comme valides et compréhensibles du point de vue de l’éducation des patients, ils ont mal noté les recommandations de YouTube.

J’ai trouvé que les vidéos les plus populaires sont celles qui ont tendance à contenir des informations facilement compréhensibles mais qui ne sont pas toujours médicalement valables. Une étude sur les vidéos les plus populaires sur COVID-19 a également révélé qu’un quart des vidéos ne contenait pas d’informations médicalement valables.

Le fossé de la littératie en santé

En effet, les algorithmes sous-jacents aux recommandations sur les plateformes de médias sociaux sont biaisés en faveur de l’engagement et de la popularité.

Selon la manière dont les plates-formes numériques fournissent des informations pour les requêtes de recherche, un utilisateur ayant une meilleure connaissance de la santé est plus susceptible de découvrir des conseils médicaux utilisables d’un fournisseur de soins de santé réputé, comme la clinique Mayo. Le même algorithme orientera un utilisateur moins instruit vers de faux traitements ou des conseils médicaux trompeurs.

Cela pourrait être particulièrement nocif pour les groupes minoritaires. Des études sur la littératie en santé aux États-Unis ont révélé que l’impact d’une littératie en santé limitée affecte de façon disproportionnée les minorités.

Nous n’avons pas suffisamment d’études sur l’état de la littératie en santé parmi les populations minoritaires, en particulier dans les zones urbaines. Il est donc difficile de concevoir une communication sur la santé destinée aux minorités et des interventions pour améliorer l’utilisation des ressources de soins de santé existantes.

Il peut également y avoir des barrières culturelles concernant les soins de santé dans les populations minoritaires qui aggravent les barrières à l’alphabétisation. L’éducation insuffisante et le manque d’autogestion des soins chroniques ont également été soulignés comme des défis pour les minorités.

Biais algorithmiques

Corriger les biais algorithmiques et fournir de meilleures informations aux utilisateurs des plates-formes technologiques contribuerait grandement à promouvoir l’équité.

Par exemple, une étude pionnière du projet Gender Shades a examiné les disparités dans l’identification du sexe et du type de peau dans différentes entreprises qui fournissent des logiciels commerciaux de reconnaissance faciale. Il a conclu que les entreprises ont pu progresser dans la réduction de ces disparités une fois les problèmes signalés.

Selon certaines estimations, Google reçoit quotidiennement plus d’un milliard de questions de santé. En particulier, ceux qui ont une faible littératie en santé courent un risque substantiel de rencontrer des informations médicalement non fondées, telles que des mythes populaires ou des théories du complot actif qui ne sont pas fondées sur des preuves scientifiques.

Le Forum économique mondial a qualifié la désinformation liée à la santé d ‘«infodémique». Les plateformes numériques où tout le monde peut s’engager les rendent également vulnérables à la désinformation, accentuant les disparités en matière de littératie en santé, comme le montre mon propre travail.

Les sociétés de médias sociaux et de recherche se sont associées à des organisations de santé telles que la clinique Mayo pour fournir des informations validées et réduire la propagation de la désinformation. Pour rendre les informations de santé sur YouTube plus équitables, ceux qui conçoivent des algorithmes de recommandation devraient intégrer les commentaires des cliniciens et des patients ainsi que des utilisateurs finaux.

Cet article est republié de The Conversation par Anjana Susarla, professeur de systèmes d’information, Michigan State University sous une licence Creative Commons. Lisez l’article original.

Publié le 19 juillet 2020 – 17:00 UTC