Décider avec les algorithmes

Décider avec les algorithmes

Quelle place pour l'Homme, quelle place pour le droit ?

De plus en plus de décisions sont prises sur le fondement d'algorithmes informatiques. Certaines sont d'une importance capitale, pour les personnes concernées mais aussi pour celles qui les adoptent et qui peuvent avoir à en répondre. Dans le secteur médical, les logiciels d'aide à la décision se sont multipliés (pour le diagnostic ou la prédiction du risque de récidive d'un cancer par exemple). Les outils algorithmiques se déploient également dans des domaines régaliens, tels que la police (pour le calcul de risque d'infractions sur une zone géographique par exemple), l'administration (pour les contrôles fiscaux notamment) et la justice (pour le calcul des dommages- intérêts par exemple). Tous n'exploitent pas des quantités massives de données et tous ne relèvent pas de l'intelligence artificielle, mais tous incluent un traitement automatique de données en vue de parvenir à une décision qui peut avoir des conséquences notables, positives ou négatives.

Les enjeux du recours à de tels outils sont primordiaux. Qu'ils se substituent à la décision humaine ou qu'ils aient vocation à aider la prise de décision, leur complexité et leur opacité peuvent porter atteinte à l'autonomie du décideur et au respect des droits du destinataire de la décision. Ce manque de transparence crée un risque que les décisions échappent aux exigences politiques, sociales et juridiques.

Ecrit à quatre mains, par une juriste et un informaticien, cet ouvrage vise à faire un état des lieux des systèmes existants et des questions soulevées par ces changements majeurs. À partir d'exemples de systèmes d'aide à la décision effectivement utilisés ou en phase d'expérimentation, il présente les réponses disponibles et mobilisables aussi bien dans le droit que dans la technique. Il analyse également les lacunes des instruments existants et propose des pistes de réflexion sur les manières de renforcer les contrôles de façon à assurer que les systèmes d'aide à la décision soient bien utilisés dans le respect des droits individuels et des exigences démocratiques.