Quand l’algorithme entre dans la relation de soin

La déontologie médicale ne date pas d’hier. Le serment d’Hippocrate, dans ses différentes versions modernes, pose depuis des siècles les fondements d’une médecine exercée dans l’intérêt exclusif du patient, dans le respect de son autonomie, avec honnêteté et discrétion. Le Code de déontologie médicale, régi en France par le Conseil national de l’Ordre des médecins (CNOM), décline ces principes en obligations concrètes applicables à tout médecin en exercice.

Mais ce code a été pensé pour un médecin qui décide, qui prescrit, qui engage sa responsabilité. Que se passe-t-il lorsqu’un algorithme s’insère dans ce processus ? Lorsqu’une IA suggère un diagnostic, propose un traitement, ou détecte une anomalie que le clinicien n’avait pas remarquée ? Qui est responsable si l’algorithme se trompe, et que le médecin l’a suivi sans questionner ? Ces questions ne sont pas hypothétiques. Elles se posent aujourd’hui, concrètement, dans des services qui déploient des outils d’IA clinique.

Le principe cardinal : la responsabilité médicale reste humaine

Commençons par le point le plus fondamental, celui sur lequel toutes les instances ordinales, toutes les autorités réglementaires et tous les textes éthiques convergent sans ambiguïté : l’utilisation d’un outil d’IA en médecine ne transfère pas la responsabilité du médecin vers la machine.
L’article 69 du Code de déontologie médicale est explicite : le médecin ne peut pas déléguer à un tiers, humain ou non, sa responsabilité clinique et éthique. Il reste l’auteur de la décision médicale, même lorsque cette décision s’appuie sur des informations produites par un algorithme.

Cela signifie concrètement que :

• Si un système d’IA suggère qu’un nodule pulmonaire est bénin, et que le médecin valide cette suggestion sans exercer son propre jugement clinique, puis que le nodule se révèle malin, c’est le médecin qui verra sa responsabilité engagée pour défaut d’analyse critique.
• Si un algorithme de prescription automatisée propose une posologie, et que le médecin la valide sans vérifier sa cohérence avec les paramètres physiologiques du patient, c’est le médecin qui répond d’une erreur médicamenteuse éventuelle.

L’IA est un outil. Et comme tout outil médical — un stéthoscope, un
électrocardiographe, un scanner —, c’est le professionnel qui l’utilise qui engage sa responsabilité dans l’usage qu’il en fait.

Le devoir d’indépendance professionnelle

L’article 5 du Code de déontologie médicale garantit l’indépendance professionnelle du médecin. Il doit exercer son art en toute liberté, sans se laisser influencer par des considérations extérieures à l’intérêt du patient.

Ce principe prend une dimension nouvelle avec l’IA. Un algorithme intégré dans un logiciel de consultation qui suggère systématiquement certains examens complémentaires ou certains médicaments peut, s’il n’est pas utilisé avec discernement, créer une forme de dépendance cognitive ou d’influence
commerciale déguisée.

L’automation bias, le biais cognitif qui pousse à faire confiance à un système automatisé plutôt qu’à son propre jugement, est un phénomène documenté en médecine, notamment en anesthésie et en radiologie. Des pilotes d’avion très expérimentés ont raté des alarmes humaines parce qu’un système automatisé indiquait que tout allait bien. Des cliniciens expérimentés ont ignoré des signes cliniques évocateurs parce que l’algorithme avait conclu à un faible risque.

La déontologie exige que le médecin maintienne en toutes circonstances sa
capacité de jugement indépendant. Utiliser une IA ne dispense pas de penser : elle doit nourrir la réflexion clinique, pas la remplacer.

Le consentement éclairé à l’ère de l’IA

L’article 35 du Code de déontologie médicale impose au médecin de donner au patient une information loyale, claire et appropriée sur son état de santé et les traitements envisagés.

L’intégration de l’IA dans le processus de soin soulève une question nouvelle : le patient doit-il être informé qu’un algorithme a participé à son diagnostic ou à la proposition de traitement ?

La réponse des instances ordinales et des juristes de la santé est convergente : oui, dans de nombreuses situations, l’information est due. Non pas parce que l’IA doit être signalée comme un danger, mais parce que le respect de l’autonomie du patient implique qu’il comprenne comment les décisions qui le concernent sont prises.

Cette obligation est d’autant plus forte lorsque l’IA joue un rôle substantiel dans la décision, lorsque le patient pourrait légitimement s’y opposer s’il en était informé, ou lorsque l’outil utilise ses données personnelles à des fins d’analyse ou d’entraînement.

Le secret médical et la confidentialité des données

Le secret médical, consacré par l’article 4 du Code de déontologie médicale, est
absolu. Il couvre « tout ce qui est venu à la connaissance du médecin dans
l’exercice de sa profession ». Il ne souffre d’exceptions que dans les cas
expressément prévus par la loi.

Or, utiliser un outil d’IA dont les conditions générales autorisent le traitement des données saisies à des fins d’amélioration du modèle, de transfert à des tiers ou de stockage hors Union européenne constitue une possible violation du secret médical, indépendamment des considérations RGPD.

La déontologie ne se satisfait pas de la légalité formelle. Un médecin
peut théoriquement être en règle avec le RGPD tout en manquant à ses
obligations déontologiques si le traitement des données de son patient
n’est pas strictement limité à la finalité du soin. Le Conseil de l’Ordre
peut être saisi indépendamment des autorités de contrôle des données.

Ce point est particulièrement important pour les médecins libéraux qui utilisent desoutils d’IA grand public sans avoir vérifié leurs conditions d’utilisation : la
responsabilité ordinale est individuelle et ne peut pas être transférée à l’éditeur du logiciel.

Non-malfaisance et évaluation critique des outils

Le principe de non-malfaisance, primum non nocere, est l’un des piliers fondateurs de l’éthique médicale. Appliqué à l’IA, ce principe génère une obligation active d’évaluation critique.

Concrètement, cela suppose de se poser plusieurs questions avant d’adopter un outil :

• Sur quelle population a-t-il été validé ? Un algorithme validé sur une population hospitalière américaine jeune peut avoir des performances très différentes sur vos patients âgés et polymorbides en secteur libéral.
• Quelle est la nature de ses erreurs ? Un algorithme très sensible produira beaucoup de faux positifs, entraînant des examens complémentaires inutiles. Un algorithme très spécifique manquera des vrais cas.
• A-t-il été évalué en conditions réelles ou seulement en conditions expérimentales ? Les performances mesurées en laboratoire sur des données rétrospectives bien nettoyées sont systématiquement supérieures aux performances observées lors d’un déploiement réel.

La justice et l’équité : les biais algorithmiques comme problème déontologique

Le principe de justice impose de traiter les patients de façon équitable, sans
discrimination liée à l’origine, au sexe, à l’âge ou à la condition sociale. Les
algorithmes d’IA peuvent violer ce principe de façon invisible, en reproduisant et amplifiant les biais présents dans leurs données d’entraînement.

Des exemples documentés dans la littérature médicale internationale illustrent ce risque :

• Un algorithme de triage des douleurs thoraciques moins sensible pour les femmes, car les données d’entraînement historiques sous-représentaient les présentations atypiques féminines de l’infarctus.
• Un système de recommandation de soins qui désavantageait systématiquement les patients afro-américains, parce qu’il utilisait les coûts historiques des soins comme proxy de la charge de morbidité — or ces coûts reflétaient un accès inégal aux soins plutôt que l’état de santé réel.
• Un outil de dépistage dermatologique moins performant sur les peaux foncées, parce que les bases d’images d’entraînement manquaient de diversité.

La déontologie impose une vigilance active sur ce point, notamment pour les
praticiens qui soignent des populations diversifiées ou vulnérables.

La formation continue : une obligation déontologique face à l’IA

L’article 11 du Code de déontologie médicale impose au médecin de maintenir ses compétences et d’actualiser ses connaissances tout au long de sa carrière. Un médecin qui utilise un outil d’IA sans avoir reçu une formation minimale sur son fonctionnement, ses limites et les risques liés à son usage manque potentiellement à cette obligation.

Le CNOM l’a clairement formulé dans son rapport de 2022 sur l’IA en médecine : les médecins ont la responsabilité de se former aux outils d’IA qu’ils utilisent, et les établissements ont la responsabilité de leur en donner les moyens.

Ce que dit le Conseil national de l’Ordre des médecins

Le CNOM a publié en 2022 un rapport de référence intitulé « Médecins et patients dans le monde des data, des algorithmes et de l’intelligence artificielle ». Ce document fondateur formule plusieurs positions claires :

• L’IA doit rester un outil au service du médecin et du patient, sans jamais se substituer au jugement clinique humain.
• Transparence vis-à-vis des patients quant à l’utilisation d’algorithmes dans leur prise en charge.
• Évaluation rigoureuse et indépendante des outils d’IA avant leur déploiement clinique.
• Association des médecins à la conception et à l’évaluation de ces outils, pour garantir leur pertinence clinique réelle.

Pour les autres professionnels de santé : des principes équivalents

Le Code de déontologie des infirmiers (décret de 2016) impose le respect de la dignité du patient, la responsabilité dans les actes de soin et l’obligation de
formation continue. Le Code de déontologie des chirurgiens-dentistes, des sages-femmes, des masseurs-kinésithérapeutes ou des pharmaciens posent tous des principes de responsabilité, d’indépendance professionnelle et de respect du patient qui s’appliquent intégralement à l’usage de l’IA.

Aucun professionnel de santé réglementé ne peut considérer que la déontologie de son exercice s’arrête là où commence l’algorithme.

L’IA ne change pas les valeurs, elle les met à l’épreuve

La déontologie médicale n’a pas été conçue pour l’ère de l’intelligence artificielle. Mais ses principes fondateurs — responsabilité, indépendance, bienfaisance, non-malfaisance, justice, respect de l’autonomie du patient, confidentialité — sont précisément ceux dont on a besoin pour encadrer un usage éthique de l’IA en santé.

Un professionnel de santé qui a intégré les fondements déontologiques de son
exercice dispose déjà du cadre de pensée nécessaire pour utiliser l’IA de façon
responsable. Ce qui lui manque parfois, c’est la connaissance technique minimale pour appliquer ce cadre à des outils qu’il ne comprend pas encore suffisamment.

C’est précisément le rôle d’une formation adaptée : non pas remplacer la déontologie par la technique, mais donner aux professionnels de santé les clés pour exercer leur responsabilité déontologique dans un environnement technologique en mutation rapide. Découvrez nos formations.

Sources et références

1. Code de déontologie médicale. Articles R. 4127-1 à R. 4127-112 du Code de la santé publique.
2. Conseil national de l’Ordre des médecins (CNOM). « Médecins et patients dans le monde des data, des algorithmes et de l’intelligence artificielle. » Rapport, 2022.
3. Parasuraman, R. & Manzey, D. H. (2010). « Complacency and bias in human use of automation: An attentional integration. » Human Factors, 52(3), 381–410. [Automation bias]
4. Goddard, K., Roudsari, A. & Wyatt, J. C. (2012). « Automation bias: a systematic review of frequency, effect mediators, and mitigators. » Journal of the American Medical Informatics Association, 19(1), 121–127.
5. Obermeyer, Z. et al. (2019). « Dissecting racial bias in an algorithm used to manage the health of populations. » Science, 366(6464), 447–453. [Biais racial dans un algorithme de santé]
6. Adamson, A. S. & Smith, A. (2018). « Machine learning and health care disparities in dermatology. » JAMA Dermatology, 154(11), 1247–1248.
7. Article L. 1111-2 du Code de la santé publique — Droit à l’information du patient.
8. Décret n° 2016-1605 du 25 novembre 2016 portant Code de déontologie des infirmiers.
9. Règlement (UE) 2024/1689 — Artificial Intelligence Act. Journal officiel de l’Union européenne, 2024. [Obligations de transparence et supervision humaine]
10. Char, D. S., Shah, N. H. & Magnus, D. (2018). « Implementing machine learning in health care — Addressing ethical challenges. » New England Journal of Medicine, 378(11), 981–983.