Les algorithmes de décisions posent le problème de leur transparence. Devraient-ils être totalement accessibles à tous ? Dans ce cas se pose le problème de le rendre compréhensible par tous. Ou devraient-ils rester non divulgués ?
Les algorithmes utilisent nos données personnelles. Par exemple, les algorithmes de Google ou d'Amazon récoltent nos informations personnelles pour nous faire consommer plus en connaissant nos goûts. Il y a également des données personnelles qui sont récupérées au niveau de la médecine qui peuvent être utilisées contre nous lors d'une embauche par exemple.
La transparence permettrait de pouvoir analyser les éventuels biais que pourrait avoir l’algorithme.
En publiant des codes, il peut y avoir des problèmes de confidentialité, par exemple dans des entreprises il peut y avoir des secrets de fabrication divulgués.
L'algorithme de parcoursup a été publié le 21 mai 2018 suite à des plaintes.
Avec la transparence de ces algorithmes, les créateurs ne peuvent pas faire tout ce qu'ils veulent. Ce qu'ils font est vérifié après la publication.
Suite à la demande d'une association, l'algorithme de APB est publié en 2016. On a alors découvert que APB permettait aux universités de faire une présélection et aux formations sélectives (Prépas, BTS) de choisir les candidats en fonction de leur sexe, pays de naissance, nationalité et lycée d'origine. L'algorithme n'apparaît alors pas si impartial que l'on pourrait l'espérer.
De nos jours, les algorithmes de décisions sont de plus en plus présents. Ce sont des programmes créés pour prendre des décisions à la place des Hommes. Ils ont beaucoup d'avantages, ils sont plus rapides, impartiales. Mais ils ne sont pas exempts de défauts: ils restent créés par des Hommes, ils peuvent donc être biaisés ou avoir des bugs, des défauts dans le programme. Ils limitent également les interactions entre les Hommes. Ces algorithmes de décisions soulèvent la question de leur transparence. Il faudrait que les algorithmes de décisions soient publiques pour que tout le monde y ai accès. Mais ils devraient être adaptés pour être compréhensibles par tous.
Ouverture sur l'IA: pour rendre les algorithmes plus efficaces, il faut utiliser le deep learning, cela ferait appel à l'intelligence artificielle. D'un point de vue technique, cela est plus efficace mais pose toujours des problèmes comme par exemple encore moins d'interactions entre humains.