Publication d’un référentiel éthique français en matière d’IA en santé pour les éditeurs
publié le 4 mars 2024
L’ANS (Agence du Numérique en Santé) française vient de publier un référentiel éthique à destination des développeurs, éditeurs et fournisseurs de système ou solution informatique se basant sur l’intelligence artificielle.
Un total de 32 critères à respecter ont été définis dans cinq registres, à savoir : bienfaisance et transparence, non-malfaisance, autonomie (de décision), justice et équité, et développement durable.
La plupart des critères définis se classent dans le registre bienséance. Ils y sont au nombre de
18.
Ils portent notamment sur l’évaluation d’impact du recours à l’IA dans des solutions et processus de soins de santé (tant au niveau de l’organisation de santé, de ses collaborateurs, des patients, de leur entourage), sur la co-construction des solutions basées sur l’IA, sur la validation des contenus sur l’information et la formation des utilisateurs, sur la réactualisation de l’information sur les contenus et “comportements” (recommandations, décisions…) de l’IA à destination des utilisateurs (professionnels de santé)…
Critère n° 14 en matière de bienfaisance : « Lorsqu’un professionnel de santé utilisant un service ou un outil numérique en santé intégrant une intelligence artificielle décide de ne pas suivre la proposition faite par l’intelligence artificielle, le service ou l’outil numérique permet le recueil de la justification du non-suivi de la proposition de l’intelligence artificielle par le professionnel. »
Exemple de critère qu’un fournisseur ou développeur doit par ailleurs satisfaire en matière de “justice et équité” des solutions IA de santé : « Le fournisseur d’un module d’intelligence artificielle met en œuvre des mécanismes lui permettant de minimiser le recueil des données, utilisées pour l’entraînement de l’algorithme, la production et l’exploitation du module d’intelligence artificielle, aux seules données nécessaires et suffisantes pour tenir compte de la singularité des patients qui constituent la cible d’usage du module d’intelligence artificielle. »
Ou encore dans le registre développement durable : « Le fournisseur d’une solution d’IA intègre dans ses formations, une information claire et facile à comprendre sur les bonnes pratiques d’utilisation de la solution d’IA en matière d’écoresponsabilité et met à disposition des utilisateurs (professionnels de santé et patient) une documentation didactique. »