La mathématicienne américaine Cathy O’Neil nous met en garde contre les dangers de certains algorithmes, aux impacts destructeurs dans la justice, l’éducation, l’accès à l’emploi ou au crédit.
Cathy O’Neil n’est pas un « data scientiste » comme les autres. C’est une femme, aux cheveux bleus, et surtout, elle se définit elle-même comme « data sceptique »
Cette docteur en maths de la très prestigieuse université Harvard aux Etats-Unis tire la sonnette d’alarme contre certains algorithmes opaques et discriminatoires dans un livre à paraître en septembre, « Weapons of math destruction » (math au lieu de mass, vous aurez compris), que l’on pourrait traduire par « Armes de destruction matheuses ». Elle y raconte « comment le big data augmente les inégalités et menace la démocratie ».
Cette « supernana des maths » (c’est le nom de son blog) a été analyste quantitative (on dit « quant “ dans le métier) à Wall Street dans un hedge fund, avant de militer au sein du groupe Occupy Finance. Elle a aussi travaillé dans des start-up de big data publicitaire, prédisant les achats et les clics des consommateurs.
Mais ce qui l’inquiète, c’est l’impact dévastateur de ces processus de décision automatisés et biaisés dans des domaines aussi déterminants pour un individu et une société démocratique que la justice et l’éducation.