Patient Numérique

Un collectif français, baptisé Impact AI et qui réunit des “acteurs travaillant sur l’intelligence artificielle : grandes entreprises, entreprises numériques, start-ups, sociétés de conseil, écoles”, a rédiger un “plaidoyer” sur l’IA en santé, y ajoutant récemment un nouveau chapitre consacré aux biais “inhérents à la conception même des systèmes proposés”. Des biais de diverses natures, liés au concept de genre, de typologies de populations…

Les risques pointés du doigt: des données qui “ne sont pas toujours, loin s’en faut, représentatives, disponibles et des sources fiables” ; résultats faussés ; augmentation des inégalités en termes d’accès aux soins…

Le collectif vient dès lors de formuler cinq recommandations pour lutter contre ses biais et en atténuer les risques.

Voici ce que le collectif préconise…

Diversification : pour augmenter la représentativité des données, “constitution d’équipe pluridisciplinaire pour tout développement. Les ingénieurs et data analysts doivent s’entourer de spécialistes des disciplines concernées, d’experts métiers pour identifier et se confronter aux différentes réalités terrains afin d’éviter les biais et d’accroitre la diversité des données”. Côté start-ups, le collectif recommande à ces dernier de “nouer une dynamique avec les universités et les grands acteurs”.

Formation. Elle concerne tous les acteurs de l’écosystème : “il est du devoir de tous de pouvoir accompagner et former les équipes sur la compréhension, les développements, les enjeux et les utilisations des solutions utilisant de l’IA en santé”.

Qui à la manoeuvre? Tout à la fois l’Etat, les institutions publiques, les grandes entreprises. Et, comme compas, le concept de “garantie humaine”, qui doit être inculquée lors des formations – qu’elles soient initiales ou continues.

Inclusion. On retrouve ici l’idée de multidisciplinarité déjà évoqué. Mais en étendant la perspective: “permettre/faciliter l’intégration, dans le processus de développement des solutions IA Santé”. Objectif: “des rencontres régulières avec les associations de patients et des sociologues”.

Ajustement. “Les acteurs de la santé ont un rôle à jouer pour garantir la pertinence et le choix des modèles ainsi que dans l’apprentissage du modèle dont l’unique but est d’aboutir à son efficacité”. Il s’agit notamment de penser et de concevoir l’interface homme-machine au travers des yeux et pour les besoins des utilisateurs. Penser et concevoir “pour eux et avec eux”. Repenser les développements davantage dans l’optique d’un service aux utilisateurs.

Accompagnement. Via la “mise en place d’une plateforme de soutien aux entreprises sur les enjeux mal perçus faute de temps”. Sa raison d’être: “accompagner les acteurs sur les questions juridiques, réglementaires passées et à venir (exemple de AI Act)… […] Chaque entreprise devrait avoir un(e) référant(e) dont le rôle est de répondre aux questions mais également de connaître suffisamment ses “clients” pour les alerter régulièrement sur les évolutions d’un univers en évolution permanente.”

Source: ActuIA. 

Plaidoyer “IA et Santé, entre raison et sentiments” du collectif Impact AI, à consulter via ce lien.