autore/author: Frédéric Dournaux
pubblicato/published: 24/6/2022
Citazione consigliata/Suggested citation: Frédéric Dournaux , Errare humanum est (sed non solum): les biais décisionnels de l’intelligence artificielle saisis par le droit, lceonline (www.lceonline.eu), 2/2022, I, p. 19 ss.
area disciplinare/disciplinary area: diritto privato/private law
mots-clés: IA, erreur, biais décisionnel, black box, transparence des systèmes, explicabilité des systèmes, projet de réglementation européenne sur l’IA
key words: AI, error, decision bias, black box, transparency, explainability, European regulation project on AI
Sommario: 1. Introduction 2. Identifier les sources des erreurs décisionnelles 2.1. Les biais humains de la décision 2.2. Les biais artificiels de la décision 3. Tarir juridiquement les sources des erreurs décisionnelles 3.1. Intégrer des valeurs 3.2. Assurer la transparence 3.3. Humaniser le processus décisionnel
Abstract
L’intelligence artificielle (IA) n’est pas infaillible. Son calcul, bien sûr, est infaillible mais tout dépend de ce qui est calculé et comment. L’erreur de l’intelligence artificielle résulte de nombreux déterminants. Certains sont d’origine humaine, d’autres sont internes, liés au fonctionnement même des systèmes d’intelligence artificielle. Le droit ne pourra envisager d’apporter utilement son concours pour prévenir et remédier aux biais décisionnels qu’à la condition de les avoir préalablement et clairement identifiés.
*
Artificial intelligence (AI) is not infallible. Its calculation, of course, is foolproof but all depends on what is calculated and how. Artificial intelligence’s error results from many determinants. Some are of human origin, others are internal, linked to the working principle of artificial intelligence systems. Law will only be able to prevent decision-making biases and to remedy them if they have been clearly identified beforehand.
