Group of business associates looking and pointing at a chart put up on the wall

Le rôle de l’homme dans la vérification des décisions automatisées de santé

publié le 15 octobre 2019

Jusqu’où laisser l’intelligence artificielle “jouer” seule dans l’élaboration de diagnostics médicaux ou de prédictions sur les risques de santé des individus? Quelle part l’être humain doit-il continuer à jouer pour valider, vérifier, modifier l’avis ou la décision de la “machine”?

La loi française de bio-éthique inclura la notion de “garantie humaine”. Cela supposerait “l’intervention d’un professionnel de santé pour adapter et modifier les paramètres d’un traitement algorithmique de données dans le cadre d’actes à visée préventive, diagnostique ou thérapeutique” ou encore l’obligation de « traçabilité des actions” et l’accès des informations résultantes par les médecins.

En filigrane, l’aptitude des professionnels de la santé à comprendre les agissements des algorithmes. David Gruson, fondateur d’Ethik-IA et “père” de ce principe de “garantie humaine”, signait récemment une tribune dans le magazine What’s Up Doc, dans laquelle il milite en faveur du déploiement de “collèges de garantie humaine » au sein des établissements de santé, qui associeraient médecins, paramédicaux et usagers afin d’“assurer a posteriori une révision de dossiers médicaux” et de “porter un regard humain sur les options thérapeutiques conseillées ou prises par l’algorithme”.

Lire la tribune de David Gruson dans What’s Up Doc: “De Chernobyl à la garantie humaine de l’innovation en santé : un projet de société”