Le chatbot médical: avancée ou danger?
publié le 16 avril 2021
Face à l’explosion des volumes de données médicales, générées par de dispositifs et solutions numériques professionnels mais aussi par l’armada des dispositifs connectés de type “quantified self”, l’analyse automatisée par algorithmes semble une aide précieuse pour faire émerger les informations réellement pertinentes, beaucoup plus rapidement que ne pourrait une main ou un oeil humain.
Comparer avec les historiques et/ou la littérature scientifique, intervenir au plus tôt sur le traitement, prévenir des maladies… semblent être des perspectives positives. Les chatbots médicaux, interface nouvelle de relation patient et/ou de consultation médicale, apparaissent donc comme un progrès mais gare aux écueils.
Un article publié sur le site FrenchWeb pose la question : “chatbot médical: avancée ou danger?”
Côté positif: des rôles tels qu’un suivi post-opératoire, gains en personnalisation dans l’accompagnement, optimisation du suivi thérapeutique, assistance plus rapide dans les “déserts médicaux”, conseils pour cas moins critiques allégeant la pression sur les services d’urgence…
Côté potentiellement plus problématique: risques d’erreurs, de mauvaises interprétations, prescriptions douteuses, apprentissage du chatbot laissant à désirer et non validé par des professionnels, non respect de la confidentialité des données…
D’où la définition, en cours, de cadres de gouvernance “pour l’utilisation responsable des chatbots dans la conversation médicale” et la nécessité de “politiques d’implémentation strictement encadrées”. Ou encore les actions qui seront développées dans le cadre de la Global AI Action Alliance afin d’oeuvrer à la promotion et au déploiement d’une Intelligence Artificielle fiable, notamment via boucles de rétroaction pour l’étape d’apprentissage.
Plus d’informations sur la Globak AI Action Alliance sur le site du Forum économique mondial.