La « phrénologie » a un côté démodé. On dirait qu’elle appartient à un livre d’histoire, classé quelque part entre les saignées et les vélocipèdes. Nous aimerions penser que juger de la valeur des gens d’après la taille et la forme de leur crâne est une pratique qui est bien loin derrière nous. Cependant, la phrénologie a de nouveau la tête grumeleuse.
Ces dernières années, les algorithmes d’apprentissage automatique ont promis aux gouvernements et aux entreprises privées le pouvoir de glaner toutes sortes d’informations à partir de l’apparence des gens. Plusieurs startups prétendent aujourd’hui pouvoir utiliser l’intelligence artificielle (IA) pour aider les employeurs à détecter les traits de personnalité des candidats à un emploi à partir de leurs expressions faciales. En Chine, le gouvernement a été le premier à utiliser des caméras de surveillance qui permettent d’identifier et de suivre les minorités ethniques. Entre-temps, des rapports ont fait état de l’installation dans les écoles de systèmes de caméras qui sanctionnent automatiquement les enfants qui ne font pas attention, sur la base des mouvements du visage et des micro-expressions telles que les sourcils.
Il y a quelques années, les chercheurs Xiaolin Wu et Xi Zhang ont affirmé avoir mis au point un algorithme permettant d’identifier les criminels à partir de la forme de leur visage, avec une précision de 89,5 %. Ils ne sont pas allés jusqu’à approuver certaines des idées sur la physionomie et le caractère qui ont circulé au XIXe siècle, notamment les travaux du criminologue italien Cesare Lombroso : les criminels sont des bêtes sous-évolutives, sous-humaines, reconnaissables à leur front incliné et à leur nez en forme de faucon.
Toutefois, la tentative apparemment high-tech de cette étude récente pour repérer les traits du visage associés à la criminalité emprunte directement à la « méthode du composite photographique » mise au point par le touche-à-tout victorien Francis Galton – qui consistait à superposer les visages de plusieurs personnes d’une certaine catégorie pour trouver les traits révélateurs de qualités comme la santé, la maladie, la beauté et la criminalité.
Les commentateurs technologiques ont qualifié ces technologies de reconnaissance faciale de « phrénologie littérale » ; ils les ont également associées à l’eugénisme, la pseudo-science qui consiste à améliorer la race humaine en encourageant les personnes jugées les plus aptes à se reproduire. (Galton lui-même a inventé le terme « eugénisme », le décrivant en 1883 comme « toutes les influences qui tendent, à un degré aussi éloigné soit-il, à donner aux races ou souches de sang les plus aptes une meilleure chance de l’emporter rapidement sur les moins aptes qu’elles n’auraient eu autrement »).
Dans certains cas, le but explicite de ces technologies est de refuser des opportunités à ceux qui sont jugés inaptes ; dans d’autres, ce n’est peut-être pas le but, mais c’est un résultat prévisible. Pourtant, lorsque nous rejetons les algorithmes en les qualifiant de phrénologie, quel est exactement le problème que nous essayons de mettre en évidence ? Est-ce que nous disons que ces méthodes sont scientifiquement défectueuses et qu’elles ne fonctionnent pas vraiment – ou est-ce que nous disons qu’il est moralement incorrect de les utiliser malgré tout ?
Tl y a une histoire longue et complexe sur la façon dont la phrénologie a été utilisée comme une insulte déprimante. Les critiques philosophiques et scientifiques de cette entreprise ont toujours été étroitement liées, bien que leur enchevêtrement ait changé au fil du temps.
Au XIXe siècle, les détracteurs de la phrénologie se sont opposés au fait que la phrénologie tentait de localiser les différentes fonctions mentales dans différentes parties du cerveau – un mouvement qui était considéré comme hérétique, car il remettait en question les idées chrétiennes sur l’unité de l’âme. Il est toutefois intéressant de noter que le fait d’essayer de découvrir le caractère et l’intellect d’une personne en se basant sur la taille et la forme de sa tête n’était pas perçu comme un problème moral sérieux.
Aujourd’hui, en revanche, l’idée de localiser les fonctions mentales est assez peu controversée. Les scientifiques ne pensent peut-être plus que la destruction se situe au-dessus de l’oreille droite, mais l’idée que les fonctions cognitives peuvent être localisées dans des circuits cérébraux particuliers est une hypothèse standard dans les neurosciences classiques.
La phrénologie a également eu sa part de critique empirique au XIXe siècle. Les débats ont fait rage sur la question de savoir quelles fonctions se trouvaient où, et si les mesures du crâne étaient un moyen fiable de déterminer ce qui se passe dans le cerveau. La critique empirique la plus influente de la phrénologie ancienne, cependant, est venue des études du médecin français Jean Pierre Flourens basées sur l’endommagement du cerveau des lapins et des pigeons – d’où il a conclu que les fonctions mentales sont distribuées, plutôt que localisées. Le fait que la phrénologie ait été rejetée pour des raisons que la plupart des observateurs contemporains n’accepteraient plus ne fait que compliquer la tâche de comprendre ce que nous visons lorsque nous utilisons aujourd’hui la « phrénologie » comme une insulte.
L' »ancienne » et la « nouvelle » phrénologie ont toutes deux été critiquées pour leurs méthodes bâclées. Dans la récente étude d’Amnesty International sur la criminalité, les données ont été tirées de deux sources très différentes : des photos d’identité de condamnés et des photos de sites web de travail pour les non condamnés. Ce seul fait pourrait expliquer la capacité de l’algorithme à détecter une différence entre les groupes. Dans une nouvelle préface à l’article, les chercheurs ont également admis que le fait de considérer les condamnations judiciaires comme synonymes de criminalité était une « grave erreur ».
Pourtant, le fait d’assimiler les condamnations à la criminalité semble aux yeux des auteurs être principalement une faille empirique : utiliser des photos d’identité de criminels condamnés, mais pas de ceux qui se sont enfuis introduit un biais statistique. Ils se sont dits « profondément déconcertés » par l’indignation du public en réaction à un document qui était destiné « à de pures discussions académiques ».
En particulier, les chercheurs ne font pas de commentaires sur le fait que la condamnation elle-même dépend des impressions que la police, les juges et les jurys se font du suspect – ce qui fait de l’apparence « criminelle » d’une personne une variable confondante. Ils omettent également de mentionner la manière dont l’intense activité policière de certaines communautés et l’inégalité d’accès à la représentation juridique faussent l’ensemble des données.
Dans leur réponse à la critique, les auteurs ne reculent pas devant l’hypothèse selon laquelle « être un criminel exige une foule de traits personnels anormaux (aberrants) ». En effet, leur formulation suggère que la criminalité est une caractéristique innée, plutôt qu’une réponse à des conditions sociales telles que la pauvreté ou les abus. Une partie de ce qui rend leur ensemble de données discutable sur des bases empiriques est que la personne qui est étiquetée comme « criminelle » n’est guère neutre sur le plan des valeurs.
L’une des plus fortes objections morales à l’utilisation de la reconnaissance faciale pour détecter la criminalité est qu’elle stigmatise des personnes déjà surpolicées. Les auteurs affirment que leur outil ne devrait pas être utilisé dans le cadre de l’application de la loi, mais citent uniquement des arguments statistiques sur les raisons pour lesquelles il ne devrait pas être déployé. Ils notent que le taux de faux positifs (50 %) serait très élevé, mais ne tiennent pas compte de ce que cela signifie en termes humains. Ces faux positifs seraient des individus dont le visage ressemble à celui de personnes ayant été condamnées dans le passé. Étant donné les préjugés raciaux et autres qui existent dans le système de justice pénale, de tels algorithmes finiraient par surestimer la criminalité parmi les communautés marginalisées.
La question la plus controversée semble être de savoir si réinventer la physionomie est une partie de plaisir pour les besoins d’une « discussion purement académique ». On pourrait objecter sur des bases empiriques : les eugénistes du passé tels que Galton et Lombroso n’ont finalement pas réussi à trouver les traits du visage qui prédisposaient une personne à la criminalité. C’est parce qu’il n’y a pas de tels liens à trouver. De même, les psychologues qui étudient l’héritabilité de l’intelligence, comme Cyril Burt et Philippe Rushton, ont dû jouer avec leurs données pour établir des corrélations entre la taille du crâne, la race et le QI. S’il y avait eu quelque chose à découvrir, les nombreuses personnes qui ont essayé au fil des ans n’auraient sans doute pas manqué leur coup.
Le problème de la réinvention de la physionomie n’est pas seulement qu’elle a déjà été tentée sans succès. Les chercheurs qui persistent à rechercher la fusion à froid après que le consensus scientifique soit passé à autre chose sont également critiqués pour avoir chassé les licornes – mais la désapprobation de la fusion à froid est loin d’être de l’opprobre. Au pire, on leur reproche de perdre leur temps. La différence est que les dommages potentiels de la recherche sur la fusion froide sont beaucoup plus limités. En revanche, certains commentateurs soutiennent que la reconnaissance faciale devrait être réglementée aussi strictement que le plutonium, car elle a si peu d’utilisations non nuisibles.
Quand le projet sans issue que vous voulez ressusciter a été inventé dans le but de soutenir les structures coloniales et de classe – et quand la seule chose qu’il est capable de mesurer est le racisme inhérent à ces structures – il est difficile de justifier le fait d’essayer une fois de plus, juste par curiosité.
Cependant, appeler la recherche sur la reconnaissance faciale « phrénologie » sans expliquer les enjeux n’est probablement pas la stratégie la plus efficace pour communiquer la force de la plainte. Pour que les scientifiques prennent leurs responsabilités morales au sérieux, ils doivent être conscients des préjudices qui pourraient résulter de leurs recherches. En expliquant plus clairement ce qui ne va pas dans les travaux étiquetés « phrénologie », on espère que l’impact sera plus important que de lancer le nom de la recherche comme une simple insulte.
Cet article a été publié à l’origine chez Aeon par Catherine Stinson et a été republié sous Creative Commons.
Publié le 24 mai 2020 – 12:00 UTC
