Cathy O’Neill est titulaire d’un doctorat en mathématiques à l’université de Harvard. Elle a enseigné les mathématiques à l’université de Barnard et travaillé comme chercheuse pour diverses institutions gouvernementales et non gouvernementales américaines. Elle est particulièrement connue pour son travail sur les algorithmes et les modèles mathématiques utilisés dans des domaines tels que la finance, les assurances, l’éducation et la justice.
Son livre « Algorithme, la bombe à retardement » analyse les dangers des algorithmes utilisés dans divers domaines tels que la finance, les ressources humaines, la justice pénale, la santé et l’éducation. Ils sont généralement basés sur des données qui reflètent les préjugés et les inégalités de la société. De ce fait ils peuvent être biaisés et exploités de manière abusive, discriminatoire et injuste. En se fondant sur des critères tels que le code postal, la race ou le sexe pour prendre des décisions ils peuvent également renforcer les inégalités et induire des conséquences négatives sur les personnes et les communautés. L’auteur met en lumière les difficultés à mettre en place une règlementation assurant une plus grande transparence, neutralité et responsabilité dans l’utilisation des algorithmes. En se basant sur des datas biaisées et incomplètes, les algorithmes peuvent devenir des “armes de destruction mathématiques” et mener à des dérives néfastes.
Les conclusions de Cathy O’Neill rejoignent celles d’une étude du conseil de l’Europe sur les dimensions des droits humains dans les techniques de traitement automatisé des données et leurs éventuelles implications réglementaires.
Le livre est préfacé par Cedric Villani.
Kourde Yacine. 16 avril 2020.
Extraits.
« Les processus reposant sur le Big Data n’inventent pas le futur, ils codifient le passé. Il faut pour cela une imagination morale que les humains sont seuls en capacité de fournir » .
« Les modèles prédictifs sont des outils auxquels nous aurons de plus en plus recours pour … gérer nos vies…Ces choix ne se réduisent pas à des questions de logistique, de profits et d’efficience. Ils revêtent un caractère fondamentalement moral ».
