Exposé Loric Ravassard et Joris Rabilloud

II. Les avantages et inconvénients des décisions prises par les algorithmes

Avantages

1. Contrairement à une décision prise par un individu, une décision prise par un algorithme reste impartiale.
2. La décision est prise plus vite (exemple du GPS)
3. Les algorithmes du fait de leur efficacité, rapidité et puissance offrent des avancées technologiques incontestablement positives comme la qualité constante. Par exemple cela évite les erreurs humaines.
4. Nous pouvons réduire la consommation d’énergie et les émissions de dioxyde de carbone, augmenter la productivité de nos usines tout en réduisant les déchets par une automatisation et optimisation des tâches.
5. Grâce aux algorithmes dans les voitures, le taux de mortalité sur les routes devraient fortement diminuer.
6. Par exemple, l'algorithme d'APB permet d'économiser du temps et de l'énergie (aux personnes qui faisaient le travail à la main).

Inconvénients

1. L'algorithme peut être biaisé par la personne qui le conçoit. Si ce n’est pas l’algorithme qui décide, c’est peut-être la personne qui l’invente.
2. L'algorithme n'est pas toujours capable de prendre tous les paramètres en compte (exemple du GPS qui envoie tout le monde au même endroit car il n'est pas capable de savoir le nombre de voitures qui ont été redirigés vers le même chemin).
3. L’automatisation massive des chaînes de production grâce aux algorithmes a déjà entrainé une augmentation du chômage.
4. Cela créé moins d'interactions entre les humains.
5. Les machines dirigées par des algorithmes ne peuvent pas faire des tâches trop complexes (ex: chirurgie).
6. Il peut y avoir des bugs avec des conséquences désastreuses comme un accident de voiture si tous les cas de figures n'ont pas été prévus par exemple.
7. Il peut y avoir une diminution du juge arbitre. Par exemple, Facebook utilise les informations personnelles des utilisateurs pour faire les recommandations d'amis. Facebook recommande également les publications dont parlent les amis, l'algorithme de Facebook fait donc tout pour qu'il n'y ai pas de contradiction avec ce que chaque utilisateur pense.
8. L'algorithme d'APB a suscité beaucoup de critiques:
   -il fournissait peu d'informations aux parents et aux élèves.
   -APB entraînait du stress pour l'élève qui confiait son destin à un algorithme.
   -il entraînait une concentration des demandes sur une poignée d'établissements (les plus prestigieux)
   - Certaines formations privées n'étaient pas sur APB.
9. Algorithmes dans la santé: Ils se basent sur une base de données. Or si elles sont erronées ou incomplètes, cela peut poser des problèmes. Par exemple, si la base se réfère à des données issues du même type de patients (homme blanc adulte), certains patients ne seront pas à même d'être traité. Si l'algorithme est face à une maladie inconnue il ne peut rien faire