Le digital bouleverse la médecine : quand l’erreur survient, qui répond ?

Dans nos cabinets, aujourd’hui, un ECG transmis par montre connectée interpelle parfois plus vite le patient que le soignant. L’intelligence artificielle promet une aide remarquable : diagnostic en dermatologie, orientation des urgences, analyse d’images… Les algorithmes s’invitent à nos côtés, et parfois auprès du patient, bien avant notre première consultation.

Mais si l’algorithme fait fausse route, si l’objet connecté loupe un signal vital, “qui doit rendre des comptes ?”. À l’heure où la santé numérique pénètre chaque pan de la pratique, soignants, patients, éditeurs, industriels et assureurs se renvoient une responsabilité qu’aucun ne souhaite voir peser seul sur ses épaules.

Poser cette question, ce n’est pas s’opposer à l’innovation. C’est la rendre digne de confiance. Explorons ensemble cette nouvelle frontière où éthique, droit, et réalité du soin se trouvent bousculés.

Le cadre : comment l’IA et les objets connectés redessinent les possibles… et les risques

  • Marché en pleine expansion : Le marché global des dispositifs médicaux connectés devrait atteindre 260 milliards de dollars en 2027 (Statista).
  • Usage croissant : En France, plus de 12% des médecins déclaraient utiliser l’IA pour l’aide au diagnostic dès 2021 (source : DREES).
  • Du micro au macro : L’électrocardiogramme d’une Apple Watch, le diagnostic automatisé d’une rétinopathie, ou le suivi du rythme cardiaque d’un insuffisant cardiaque par télésurveillance sont désormais monnaie courante.

Mais leur introduction soulève des zones grises :

  • L’outil peut participer à, ou remplacer une décision médicale.
  • Les données (et la confiance) changent de main.
  • L’erreur, autrefois humaine, pourrait être logicielle, algorithmique, ou organisationnelle.

Nous sommes face à une réalité hybride, où l’acte soignant s’hybride avec la technologie, diluant parfois les responsabilités.

Typologie des erreurs : illustration concrète et retours de terrain

Que disent les faits ? Quelques retours pour comprendre de quoi l’on parle :

  • Mésinterprétation algorithmique : Un outil d’IA de radiologie estime à tort l’absence de fracture sur une radio du poignet. Le médecin, pressé, ne remet pas le diagnostic en question. La patiente développe des complications. Qui est fautif ? L’éditeur ? Le médecin ? Les deux ?
  • Défaillance d’un objet connecté : Un patient diabétique utilise une pompe intelligente à insuline régulée par un algorithme. Un bug logiciel, non anticipé, provoque un surdosage. Ni l’utilisateur, ni son médecin n’auraient raisonnablement pu prévenir cette erreur.
  • Données faussées ou non transmises : Un infarctus chez une personne surveillée à distance n’est pas détecté : la montre connectée était mal rechargée, ou le signal transmis trop tardivement. À qui la faute : le patient ? Le fabricant ? Le centre de télésurveillance ?

L’introduction massive du numérique redistribue la logique de responsabilité collective qui, jusqu’ici, s’organisait autour du patient, du professionnel et du système (hôpital, assurance, etc.). Elle fait émerger les “failles partagées”.

Cadrage juridique : ce que dit la loi… et ce qu’elle ne dit pas

En France : incertitudes et jurisprudence en formation

  • Responsabilité du professionnel : Depuis la jurisprudence “Perruche” (2000), la faute médicale est appréciée selon la norme du “bon praticien”. L’irruption de l’IA déplace la norme : écouter l’algorithme ou son intuition ? (Jurisprudence Perruche).
  • Responsabilité de l’éditeur : Logiciel médical = dispositif médical : selon le règlement européen MDR 2017/745, un fabricant d’IA ou d’objet connecté médical engage sa responsabilité en cas de défaut de sécurité ou de non-conformité de la marque CE (texte MDR).
  • Cas de la télémédecine : Plusieurs décisions récentes (La Médecine Légale, 2022) montrent que la responsabilité civile du médecin ne s’efface pas face à la médiation technologique. Mais comment apprécier une faute si la donnée fournie par l’outil est fausse ou incomplète ?
  • Patient acteur et responsabilité : Avec l’“auto-surveillance” et l’usage domestique des objets connectés, la responsabilité du patient se pose si un usage inadapté cause un dommage, mais le rapport est déséquilibré par l’asymétrie d’expertise face à la technologie (source : HAS).

L’Europe pose les jalons : la proposition d’AI Act

Le règlement sur l’Intelligence Artificielle (AI Act, voté en mars 2024 par l’Union Européenne) classe l’IA médicale comme haut risque, impose transparence, traçabilité, explicabilité, déclaration d’incidents graves. Mais il ne tranche pas sur la chaîne de responsabilité en cas d’erreur de soin (source : Parlement européen).

Soignants face à l’IA : l’indépendance médicale fragilisée ?

Sur le terrain, l’acculturation à ces nouveaux outils n’est ni homogène, ni toujours choisie. Pourtant :

  • La jurisprudence française s’oriente vers une responsabilité partagée : le soignant reste responsable s’il suit aveuglément un algorithme ; il l’est moins s’il démontre une vérification ou la mise en doute du résultat.
  • Mais comment évaluer la véracité d’un “boîte noire” algorithmique dont même les concepteurs maîtrisent mal les arcanes (Science, 2021) ?
  • La formation initiale et continue est en retrait sur l’évaluation critique de ces outils. Les experts soulignent l’urgence d’un savoir numérique solide pour tous les soignants (Inserm, 2023).

Nombreux sont ceux qui témoignent : “Face à l’IA, le doute médical retrouve tout son sens. Mais comment agir, si l’hôpital ou la tutelle nous imposent un algorithme validé ?”. Dans la tension quotidienne entre efficacité et sécurité, notre exigence professionnelle ne doit pas se diluer dans un automatisme aveugle.

Objets connectés grand public : responsabilité diffuse, patient transformé en opérateur

Apple Watch, capteurs de glycémie en continu, pèse-personne intelligent : la frontière entre dispositif médical certifié et gadget devient parfois poreuse. Le patient est sommé d’être “acteur”, voire “vigile” de sa propre santé. Pourtant...

  • La FDA américaine a déjà recensé plus de 1000 incidents graves liés à des objets connectés non médicaux en 2022 (FDA).
  • Ces outils ne sont souvent pas validés pour le diagnostic, seulement pour la surveillance ou le bien-être.
  • Erreur, anxiété, surdiagnostic, fausses alertes : ce foisonnement d’informations brutes surcharge aussi bien le patient que le soignant, brouillant la responsabilité.

Vers une responsabilité mieux partagée : pistes d’évolution

  • Co-responsabilité formalisée : La HAS (2022) propose de rendre formelle la déclaration d’utilisation d’un outil médical numérique au sein du dossier patient, pour garantir traçabilité et transparence.
  • Mieux former à la supervision algorithmique : Enseignement obligatoire du raisonnement critique face à la donnée algorithmique dans les études de santé. Ne pas abdiquer notre vigilance.
  • Garantir l’explicabilité des IA de santé : Que chaque professionnel puisse comprendre et expliquer, même partiellement, les choix d’un outil numérique majeur (Conseil National de l’Information Statistique).
  • Assurer une veille réglementaire continue : La réglementation tarde souvent sur la réalité. Les outils d’aujourd’hui ne doivent pas échapper à une évaluation éthique et juridique réelle, sous le contrôle de soignants.
  • Placer le patient au centre, mais pas seul : Confronter toute décision d’IA à l’expertise clinique, et rappeler que la finalité du soin demeure humaine, pas algorithmique.

Pour une innovation digne de confiance : l’exigence d’un collectif vigilant

À l’heure du triomphe annoncé de l’IA, croyons-le : la qualité du soin se mesurera à la façon dont nous répondrons, ensemble, à l’incertitude. La médecine de demain ne sera pas celle du renoncement déresponsabilisé, mais du discernement renouvelé. Pour chaque algorithme adopté, chaque donnée connectée intégrée, exigeons d’interroger : qui répond, qui protège, qui répare ?

La réponse n’est ni le soignant isolé, ni un éditeur lointain, ni un patient laissé seul face à son écran. C’est par le dialogue, la formation, la vigilance, et la capacité collective à apprendre de nos erreurs — techniques et humaines — que la confiance s’instaurera. C’est ce contrat éthique, au cœur du soin, que nous continuerons d’exiger, d’explorer, et de défendre.

En savoir plus à ce sujet :