{"id":46944,"date":"2023-09-01T15:24:01","date_gmt":"2023-09-01T13:24:01","guid":{"rendered":"https:\/\/gestions-hospitalieres.fr\/?p=46944"},"modified":"2023-09-18T09:59:21","modified_gmt":"2023-09-18T07:59:21","slug":"vers-une-consultation-medicale-endormie","status":"publish","type":"post","link":"https:\/\/www.ricom-web8.com\/gestions\/vers-une-consultation-medicale-endormie\/","title":{"rendered":"Vers une consultation m\u00e9dicale endormie\u2009?"},"content":{"rendered":"Temps de lecture\u00a0: <\/span> 11<\/span> minutes<\/span><\/span>

Au d\u00e9partement d\u2019anesth\u00e9sie-r\u00e9animation de l\u2019h\u00f4pital Lariboisi\u00e8re \u00e0 l\u2019AP-HP, l\u2019\u00e9quipe du Pr\u202fFabrice\u00a0Vall\u00e9e travaille \u00e0 la r\u00e9alisation d\u2019un dispositif de m\u00e9decine pr\u00e9dictive\u2009: la consultation m\u00e9dicale endormie (CME). Les donn\u00e9es normalement collect\u00e9es durant l\u2019anesth\u00e9sie sont trait\u00e9es pour d\u00e9tecter et pr\u00e9dire d\u2019\u00e9ventuelles vuln\u00e9rabilit\u00e9s\u2009; un bilan m\u00e9dical complet apr\u00e8s une anesth\u00e9sie g\u00e9n\u00e9rale est alors propos\u00e9 au patient. Douze\u00a0millions d\u2019anesth\u00e9sies chaque ann\u00e9e en France pourraient \u00eatre concern\u00e9es par ce dispositif. Gr\u00e2ce \u00e0 ce bilan complet, la CME participerait \u00e0 faire de l\u2019anesth\u00e9sie la \u00ab\u2009m\u00e9decine g\u00e9n\u00e9rale\u2009\u00bb de l\u2019h\u00f4pital. Il s\u2019agirait toutefois d\u2019une m\u00e9decine in silico<\/i>, c\u2019est-\u00e0-dire r\u00e9alis\u00e9e au moyen d\u2019un ordinateur, en r\u00e9f\u00e9rence au silicium dont sont constitu\u00e9es les puces informatiques. Plus exactement, deux signaux sont crois\u00e9s, l\u2019\u00e9lectroenc\u00e9phalogramme (EEG) et la pression art\u00e9rielle, avant d\u2019\u00eatre pond\u00e9r\u00e9s par la dose m\u00e9dicamenteuse administr\u00e9e au patient. \u00c0 partir de ce traitement de donn\u00e9es, la CME \u00e9tablit des pr\u00e9dictions de risques de d\u00e9velopper des maladies neurod\u00e9g\u00e9n\u00e9ratives ou cardiovasculaires, comme un Alzheimer ou un infarctus du myocarde. Entre\u202f2018 et\u202f2020, deux cents patients hospitalis\u00e9s pour des chirurgies orthop\u00e9diques ou neuro-vasculaires ont \u00e9t\u00e9 int\u00e9gr\u00e9s \u00e0 l\u2019\u00e9tude de cohorte longitudinale de la CME r\u00e9alis\u00e9e \u00e0 l\u2019h\u00f4pital Lariboisi\u00e8re. Environ 20\u2009% ont d\u00e9velopp\u00e9 une maladie cardiovasculaire ou un d\u00e9clin cognitif dans les deux ann\u00e9es ayant suivi leur intervention(1)<\/sup>. Pour pr\u00e9dire l\u2019apparition de ces pathologies du cerveau ou du c\u0153ur, les donn\u00e9es d\u2019anesth\u00e9sie sont trait\u00e9es par des algorithmes dits d\u2019\u00ab\u2009intelligence artificielle\u2009\u00bb, c\u2019est-\u00e0-dire des formules math\u00e9matiques analysant des quantit\u00e9s massives de donn\u00e9es, dont celles du patient anesth\u00e9si\u00e9. Mais pr\u00e9dire, est-ce pr\u00e9venir\u2009? Une pr\u00e9diction est synonyme de proph\u00e9tie ou d\u2019annonce\u2009: elle n\u2019est qu\u2019hypoth\u00e8se plus ou moins probable. Au contraire, pr\u00e9dire reviendrait-il \u00e0 m\u00e9dire, \u00e0 sugg\u00e9rer l\u2019apparition d\u2019un trouble\u2009? Comment s\u2019assurer que ce dispositif pr\u00e9vienne les maladies, sans les engendrer\u2009? \u00c0 cette fin, le consentement de la personne semble primordial, d\u2019une part \u00e0 la r\u00e9utilisation de ses donn\u00e9es d\u2019anesth\u00e9sie, d\u2019autre part \u00e0 la r\u00e9ception de ces pr\u00e9dictions de risques. Or, par des \u00e9volutions normatives tenant \u00e0 la gestion des donn\u00e9es de sant\u00e9 et \u00e0 l\u2019\u00ab\u2009intelligence artificielle\u2009\u00bb, ce consentement appara\u00eet oblit\u00e9r\u00e9. Quelles en sont les cons\u00e9quences et comment la CME y r\u00e9pond-elle\u2009?<\/p>\n

Pr\u00e9dire est-il pr\u00e9venir\u2009?<\/h1>\n

Bien souvent, les d\u00e9bats scientifiques autour de la pr\u00e9diction de risques portent sur la qualit\u00e9 des signaux observ\u00e9s, les risques d\u2019erreurs des algorithmes, etc. Il s\u2019agit de consid\u00e9rations techniques qui m\u00e9ritent d\u2019\u00eatre \u00e9tudi\u00e9es avec minutie car elles peuvent avoir de lourdes cons\u00e9quences pour les patients. Toutefois, avant d\u2019\u00e9tudier les possibles erreurs m\u00e9thodologiques de la m\u00e9decine pr\u00e9dictive in silico<\/i>, interrogeons en premier lieu la pertinence d\u2019une pr\u00e9diction de risques.<\/p>\n

En effet, cette pr\u00e9diction n\u2019est ni un diagnostic ni un pronostic. Elle ne se fonde ni sur des sympt\u00f4mes observ\u00e9s chez le patient, ni sur le d\u00e9veloppement futur de ceux-ci tel que peut en juger le m\u00e9decin. Plut\u00f4t, elle anticipe la probabilit\u00e9 d\u2019un d\u00e9veloppement pathologique \u00e0 partir de signaux faibles. En d\u2019autres termes, elle ne doit pas \u00eatre regard\u00e9e avec le m\u00eame niveau de certitude qu\u2019un diagnostic, ni avec le m\u00eame niveau de probabilit\u00e9 qu\u2019un pronostic. Certes, cette pr\u00e9diction pourrait advenir et se transformer en pronostic, puis en diagnostic. \u00c0 l\u2019inverse, elle pourrait aussi ne pas advenir. Elle n\u2019est qu\u2019un sc\u00e9nario parmi d\u2019autres. Les patients qui re\u00e7oivent cette pr\u00e9diction, comme les personnels soignants qui la d\u00e9livrent, ont-ils conscience de sa moindre force probante\u2009? En raison de son incertitude, la pr\u00e9diction de risques pourrait avoir un effet contraire \u00e0 celui recherch\u00e9. Plut\u00f4t que de pr\u00e9venir l\u2019apparition d\u2019une maladie, elle pourrait l\u2019entra\u00eener par sa simple \u00e9nonciation, dans une forme de proph\u00e9tie autor\u00e9alisatrice ou par psychosomatisation. Les relations entre le cerveau et le corps \u00e9tant bien \u00e9tablies, les standards scientifiques pour mener des \u00e9tudes supposent d\u2019ailleurs un groupe test et un groupe t\u00e9moin pour minimiser les effets placebo et nocebo qui \u00e9maneraient de la connaissance de l\u2019administration d\u2019un traitement. La modification des comportements du patient ou de son entourage r\u00e9sultant d\u2019une pr\u00e9diction pourrait ainsi causer le d\u00e9veloppement d\u2019une pathologie, rest\u00e9e sinon \u00ab\u2009dormante\u2009\u00bb ou en sommeil. La perception de la personne de son environnement, son quotidien, se trouverait chang\u00e9e par la pr\u00e9diction, dans ce cas pour le pire. \u00ab\u2009Pr\u00e9dire, est-ce m\u00e9dire\u2009?\u2009<\/sup>\u00bb, formule ainsi le chercheur en philosophie morale et directeur du p\u00f4le recherche de l\u2019espace de r\u00e9flexion \u00e9thique d\u2019\u00cele-de-France, Paul-Loup Weil-Dubuc(2)<\/sup>.\u00a0<\/span><\/p>\n

La pr\u00e9diction de risques en m\u00e9decine ne serait pas toujours synonyme de pr\u00e9vention\u2009; elle pourrait m\u00eame s\u2019y opposer, la contredire. Comment ne pas enfermer le patient anesth\u00e9si\u00e9 dans un d\u00e9terminisme provoqu\u00e9 par la \u00ab\u2009consultation m\u00e9dicale endormie\u2009\u00bb\u2009?<\/p>\n

\"\"
Le Dr Cyril Touchard, anesth\u00e9siste-r\u00e9animateur \u00e0 l\u2019h\u00f4pital Lariboisi\u00e8re (AP-HP) travaillant \u00e0 la consultation m\u00e9dicale endormie (CME). Extrait de la vid\u00e9o \u00ab\u2009Consultation m\u00e9dicale endormie\u2009: un bilan m\u00e9dical complet apr\u00e8s une anesth\u00e9sie\u2009\u00bb, Fondation AP-HP, Youtube, 23\u202fmars 2022, 2 min 41 s.<\/figcaption><\/figure>\n

Des risques techniques et m\u00e9dicaux<\/h1>\n

Comme toute pr\u00e9diction, la CME peut comporter des erreurs ou des biais dans la conception de ses algorithmes et de ses bases de donn\u00e9es de sant\u00e9. De ces probl\u00e8mes techniques d\u00e9coulent des risques m\u00e9dicaux pour la prise en charge des patients.<\/p>\n

Tout d\u2019abord, des traitements pr\u00e9ventifs qui ne seraient pas appropri\u00e9s pourraient \u00eatre recommand\u00e9s au patient, induisant une d\u00e9t\u00e9rioration de sa sant\u00e9. \u00c0 ces risques de mauvais traitement, s\u2019ajoutent des risques de surtraitement, lorsque la pr\u00e9diction anticiperait de fa\u00e7on trop pr\u00e9coce la potentielle pathologie. De surcro\u00eet, des pathologies qui seraient d\u00e9cel\u00e9es par ces pr\u00e9dictions, telles que certaines maladies neuro\u00add\u00e9g\u00e9n\u00e9ratives, n\u2019ont pas \u00e0 ce jour de traitement efficace. C\u2019est le cas de la maladie d\u2019Alzheimer. Il n\u2019existe pas actuellement de traitement curatif pour cette affection, mais seulement des traitements palliatifs qui en att\u00e9nuent les sympt\u00f4mes. Quel serait l\u2019impact sur la sant\u00e9 mentale du patient d\u2019une pr\u00e9diction de d\u00e9velopper la maladie d\u2019Alzheimer quand elle ne peut \u00eatre gu\u00e9rie\u2009? \u00c9galement, l\u2019essor de la m\u00e9decine pr\u00e9dictive par des dispositifs m\u00e9dicaux reposant sur le traitement informatique de donn\u00e9es n\u2019est pas sans incidence sur la pratique m\u00e9dicale. La philosophe Cynthia Fleury-Perkins et le fondateur du think tank<\/i> Ethik-IA David Gruson pointent le risque de d\u00e9l\u00e9gation du soin \u00e0 la machine(3)<\/sup>. Les personnels soignants s\u2019exposent \u00e0 une d\u00e9pendance croissante \u00e0 l\u2019analyse des algorithmes au d\u00e9triment de leur vigilance propre. Si cette d\u00e9pendance \u00e0 la technique a de longue date \u00e9t\u00e9 analys\u00e9e par des penseurs critiques, tel l\u2019historien Jacques\u00a0Ellul, elle prend des proportions nouvelles avec l\u2019\u00ab\u2009intelligence artificielle\u2009\u00bb. Conf\u00e9rer des qualit\u00e9s humaines comme l\u2019intelligence \u00e0 un ensemble d\u2019algorithmes revient \u00e0 anthropomorphiser la technique. Le danger est de pr\u00eater une qualit\u00e9 de jugement sup\u00e9rieure \u00e0 un programme informatique, quand bien m\u00eame celui-ci serait au premier chef pens\u00e9 par l\u2019humain et donc sujet aux erreurs. Or, comme le montre la juriste Antoinette Rouvroy, la rationalit\u00e9 des algorithmes est purement inductive\u2009: elle \u00ab\u2009renonce \u00e0 la recherche des causes des ph\u00e9nom\u00e8nes et vise tout simplement \u00e0 plus ou moins pr\u00e9voir leur survenue(4)<\/sup>\u00bb. Peut-on \u00e9viter que la m\u00e9decine pr\u00e9dictive in silico<\/i> ne s\u2019\u00e9carte d\u2019une m\u00e9decine d\u00e9ductive\u2009? \u00c0 quoi bon se voir pr\u00e9dire des pathologies sans en rechercher les origines\u2009?<\/p>\n

Pour que pr\u00e9diction rime avec pr\u00e9vention et non mal\u00e9diction, il faut se doter de garde-fous. Fondement de l\u2019\u00e9thique m\u00e9dicale(5)<\/sup>, le consentement de la personne \u00e0 recevoir une pr\u00e9diction de risques s\u2019av\u00e8re primordial pour contrer son effet nocebo. Malheureusement, cette exigence s\u2019efface en mati\u00e8re d\u2019IA et de donn\u00e9es de sant\u00e9.<\/p>\n

Donn\u00e9es et IA\u2009: quid<\/i> du consentement\u2009?<\/h1>\n

Si le consentement de la personne est n\u00e9cessaire avant toute intervention sur le corps humain(6)<\/sup>, la r\u00e9utilisation des donn\u00e9es de sant\u00e9 ou l\u2019usage de l\u2019IA en sant\u00e9 ne sont pas soumis au m\u00eame imp\u00e9ratif.<\/p>\n

Certes, le patient ayant re\u00e7u une information claire, loyale et appropri\u00e9e(7)<\/sup> du personnel soignant doit \u00eatre en mesure d\u2019exprimer ou non, de mani\u00e8re libre et \u00e9clair\u00e9e(8)<\/sup>, son consentement \u00e0 tout acte m\u00e9dical. Pourtant, la r\u00e9utilisation des donn\u00e9es de l\u2019anesth\u00e9sie ne constitue pas un acte m\u00e9dical au sens l\u00e9gal et ne requiert pas d\u2019intervention sur le corps du patient\u2009: elle b\u00e9n\u00e9ficie alors d\u2019un r\u00e9gime juridique propre lui assurant certaines largesses au regard du consentement individuel. Notamment, le R\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es (RGPD) interdit par principe le traitement des donn\u00e9es de sant\u00e9(9)<\/sup>, mais l\u2019autorise au titre de certaines exceptions\u2009: par exemple si la personne consent explicitement \u00e0 ce traitement ou si ces donn\u00e9es sont employ\u00e9es afin d\u2019am\u00e9liorer la qualit\u00e9 des soins et les dispositifs m\u00e9dicaux(10)<\/sup>. Les donn\u00e9es de sant\u00e9 de la personne peuvent ainsi \u00eatre r\u00e9utilis\u00e9es sans qu\u2019elle y consente lorsqu\u2019elles garantissent des normes \u00e9lev\u00e9es de qualit\u00e9 des dispositifs m\u00e9dicaux, servant entre autres \u00e0 la pr\u00e9diction(11)<\/sup>. De plus, depuis la r\u00e9vision de la loi Bio\u00e9thique en 2021, l\u2019usage de l\u2019IA en sant\u00e9 ne requiert plus le consentement explicite du patient(12)<\/sup>. Le m\u00e9decin se doit seulement d\u2019informer le patient (avec une affiche dans son cabinet par exemple) du recours \u00e0 l\u2019IA. Ce droit \u00e0 l\u2019information peut avoir lieu apr\u00e8s l\u2019usage de l\u2019IA pour la sant\u00e9 du patient(13)<\/sup>. Selon le cadre juridique en vigueur, le consentement de la personne n\u2019est pas exig\u00e9, tant \u00e0 la r\u00e9utilisation de ses donn\u00e9es pour \u00e9tablir les pr\u00e9dictions de la CME que pour l\u2019usage de ce dispositif d\u2019IA pour sa sant\u00e9. Au niveau europ\u00e9en, dans un temps proche, la CME pourrait \u00eatre qualifi\u00e9e d\u2019IA \u00e0 \u00ab\u2009haut risque\u2009\u00bb au sens de la proposition de r\u00e8glement sur l\u2019intelligence artificielle(14)<\/sup>. Or, de nouveau, ce r\u00e8glement ne pr\u00e9voit pas pour la personne la possibilit\u00e9 de refuser l\u2019usage d\u2019un dispositif d\u2019IA, tel que la CME. Les fournisseurs de ces syst\u00e8mes ont pour obligation d\u2019informer l\u2019usager qu\u2019il est en interaction avec un syst\u00e8me d\u2019IA, \u00ab\u2009sauf si cela ressort clairement des circonstances et du contexte d\u2019utilisation(15)<\/sup>\u2009\u00bb. Les r\u00e9gimes encadrant la r\u00e9utilisation des donn\u00e9es de sant\u00e9 pour les dispositifs m\u00e9dicaux et le recours \u00e0 l\u2019IA en sant\u00e9 sont donc lacunaires face aux cons\u00e9quences d\u00e9l\u00e9t\u00e8res qu\u2019entra\u00eenerait une pr\u00e9diction non consentie. Tandis que la CME pourrait, \u00e0 terme, concerner chaque anesth\u00e9sie en France, imaginer son d\u00e9ploiement sans le consentement du patient aurait des effets potentiellement dramatiques.<\/p>\n

C\u2019est pourquoi l\u2019encadrement \u00e9thique de la CME suppose le recueil d\u2019un consentement explicite du patient, exprim\u00e9 en deux temps. D\u2019une part, le patient qui sera anesth\u00e9si\u00e9 doit pouvoir refuser ou donner son accord \u00e0 la r\u00e9utilisation de ses donn\u00e9es de sant\u00e9 \u00e9tablissant la pr\u00e9diction et\/ou alimentant la base de donn\u00e9es servant \u00e0 celle-ci. D\u2019autre part, le patient doit pouvoir d\u00e9cliner ou consentir \u00e0 la pr\u00e9diction de risques issue de la r\u00e9utilisation de ses donn\u00e9es. Le consentement explicite du patient \u00e0 l\u2019\u00e9tablissement et \u00e0 la r\u00e9ception de cette pr\u00e9diction constitue donc un premier rempart essentiel \u00e0 ce qu\u2019elle ne se transforme en mal\u00e9diction. Mais est-il suffisant\u2009?<\/p>\n

Quelle recherche \u00e9thique pour la CME\u2009?<\/h1>\n

Pour r\u00e9pondre aux nombreux questionnements soulev\u00e9s par ce dispositif de m\u00e9decine pr\u00e9dictive, la recherche \u00e9thique propre \u00e0 la CME se concr\u00e9tise en plusieurs initiatives, visant \u00e0 faire dialoguer sciences humaines, sciences de l\u2019ing\u00e9nieur et m\u00e9decine, mais aussi chercheurs et soci\u00e9t\u00e9 civile.<\/p>\n

En premier lieu, en partenariat avec la Chaire de Philosophie \u00e0 l\u2019h\u00f4pital, un cycle de s\u00e9minaires compos\u00e9 de cinq s\u00e9ances d\u00e9cryptant les enjeux \u00e9thiques de la CME a \u00e9t\u00e9 organis\u00e9 de novembre\u202f2022 \u00e0 avril\u202f2023, au d\u00e9partement d\u2019anesth\u00e9sie-r\u00e9animation de l\u2019h\u00f4pital Lariboisi\u00e8re. Les chercheurs en philosophie morale et politique, en philosophie des sciences, en \u00e9thique, en sociologie, en neurologie, en radiologie, en anesth\u00e9sie, en droit des nouvelles technologies, en sciences de l\u2019ing\u00e9nieur, en politiques publiques et en \u00e9cologie ont d\u00e9ploy\u00e9 les questionnements soulev\u00e9s par ce dispositif de m\u00e9decine pr\u00e9dictive. Les enregistrements de ces s\u00e9minaires(16)<\/sup> sensibilisent en outre un large public \u00e0 ces enjeux.\u00a0<\/span><\/p>\n

En deuxi\u00e8me lieu, une \u00e9tude en \u00e9thique est men\u00e9e sur la cohorte des patients de la CME. Celle-ci consiste en un questionnaire administr\u00e9 sous forme d\u2019entretien \u00e0 une quarantaine de patients volontaires suivis durant une ann\u00e9e. Elle vise \u00e0 mesurer l\u2019impact dans le temps de la r\u00e9ception d\u2019une information claire, loyale et appropri\u00e9e sur les risques de la m\u00e9decine pr\u00e9dictive, diff\u00e9rente des discours marketing qui trop souvent l\u2019entourent. Cette \u00e9tude en cours donnera lieu \u00e0 une publication scientifique.\u00a0<\/span><\/p>\n

En troisi\u00e8me lieu, une consultation citoyenne a \u00e9t\u00e9 men\u00e9e d\u2019octobre\u202f2022 au 1er<\/sup>\u202ff\u00e9vrier 2023, portant sur les \u00e9volutions en mati\u00e8re d\u2019IA et de gestion publique des donn\u00e9es de sant\u00e9 (encadr\u00e9 ci-dessous<\/i>). Elle a permis de recueillir l\u2019avis de 407\u00a0usagers de l\u2019h\u00f4pital Lariboisi\u00e8re et des services publics des 10e<\/sup> et 18e<\/sup>\u00a0arrondissements de Paris, limitrophes de l\u2019h\u00f4pital. Si ces r\u00e9sultats sont pour le moment exploratoires, ils dressent cependant des tendances remarquables. En particulier, 70\u2009% des r\u00e9pondants estiment que l\u2019\u00ab\u2009intelligence artificielle\u2009\u00bb constitue un apport favorable ou plut\u00f4t favorable \u00e0 la sant\u00e9 publique. Cela \u00e9tant, 83\u2009% des personnes interrog\u00e9es ne savaient pas que le consentement du patient \u00e0 l\u2019usage de l\u2019IA pour sa sant\u00e9 n\u2019est plus requis depuis la r\u00e9vision de la loi Bio\u00e9thique en 2021. Toutefois, 64\u2009% d\u2019entre elles pr\u00e9f\u00e9reraient \u00eatre consult\u00e9es avant que le personnel soignant ait recours \u00e0 l\u2019IA pour leurs soins. Cette exigence de consentement est donc une n\u00e9cessit\u00e9 pour la majorit\u00e9 des personnes interrog\u00e9es, en d\u00e9pit du cadre l\u00e9gal en vigueur. Ce r\u00e9sultat constitue ainsi un appel fort pour la pratique clinique de la CME et son encadrement \u00e9thique.<\/p>\n

Les r\u00e9sultats de la consultation feront ensuite l\u2019objet d\u2019\u00e9tudes compl\u00e9mentaires, aboutissant \u00e0 des publications scientifiques, ainsi qu\u2019\u00e0 la r\u00e9daction d\u2019un livre blanc, pr\u00e9sent\u00e9 lors d\u2019une journ\u00e9e \u00e9thique organis\u00e9e au d\u00e9partement d\u2019anesth\u00e9sie-\u00adr\u00e9animation de l\u2019h\u00f4pital Lariboisi\u00e8re en 2024. \u00c0 cette fin, d\u2019autres tendances mises en exergue lors de cette consultation m\u00e9riteront d\u2019\u00eatre approfondies.<\/p>\n

\"\"
Travaux de J\u00e9r\u00f4me Cartailler, math\u00e9maticien ayant mod\u00e9lis\u00e9 les signaux utiles \u00e0 la consultation m\u00e9dicale endormie (CME). Extrait de la vid\u00e9o \u00ab\u2009Consultation m\u00e9dicale endormie\u2009: un bilan m\u00e9dical complet apr\u00e8s une anesth\u00e9sie\u2009\u00bb, Fondation AP-HP, YouTube, 23\u202fmars 2022, 2 min 41 s..<\/figcaption><\/figure>\n

Quels sont les points d\u2019attention futurs\u2009?<\/h1>\n

Abord\u00e9es lors de la consultation citoyenne et des s\u00e9minaires de recherche, de prochaines dispositions juridiques europ\u00e9ennes, relatives \u00e0 l\u2019\u00ab\u2009altruisme\u2009\u00bb en mati\u00e8re de donn\u00e9es personnelles et au \u00ab\u2009contr\u00f4le humain\u2009\u00bb de l\u2019IA, r\u00e9clameront une attention particuli\u00e8re pour l\u2019encadrement \u00e9thique de la CME.<\/p>\n

L\u2019Acte sur la gouvernance des donn\u00e9es propos\u00e9 par la Commission europ\u00e9enne introduit le concept d\u2019\u00ab\u2009altruisme\u2009\u00bb en mati\u00e8re de donn\u00e9es pour accro\u00eetre leur disponibilit\u00e9 en vue d\u2019innover, d\u2019ici \u00e0 la fin de l\u2019ann\u00e9e 2023. Fond\u00e9 sur la notion d\u2019int\u00e9r\u00eat g\u00e9n\u00e9ral, l\u2019\u00ab\u2009altruisme\u2009\u00bb dans ce texte d\u00e9signe notamment la r\u00e9utilisation des donn\u00e9es de sant\u00e9, \u00ab\u2009\u00e0 des fins commerciales ou non commerciales autres que l\u2019objectif initial de la mission de service public pour lequel les donn\u00e9es ont \u00e9t\u00e9 produites(17)<\/sup>\u2009\u00bb. Par \u00ab\u2009altruisme\u2009\u00bb, ces donn\u00e9es sensibles pourraient certes servir \u00e0 la recherche m\u00e9dicale, mais aussi \u00eatre vendues par l\u2019\u00c9tat. Selon la consultation citoyenne, la plupart des r\u00e9pondants (48\u2009%) se disent favorables \u00e0 la r\u00e9utilisation \u00ab\u2009altruiste\u2009\u00bb des donn\u00e9es de sant\u00e9, en appelant \u00e0 l\u2019importance de l\u2019int\u00e9r\u00eat g\u00e9n\u00e9ral pour la faire valoir. Toutefois, la question ne pr\u00e9cisait pas que l\u2019\u00ab\u2009altruisme\u2009\u00bb selon l\u2019Acte sur la gouvernance des donn\u00e9es favorise \u00e9galement la r\u00e9utilisation des donn\u00e9es \u00e0 des fins commerciales. Les m\u00eames r\u00e9ponses auraient-elles \u00e9t\u00e9 apport\u00e9es si les objectifs en partie mercantiles de l\u2019\u00ab\u2009altruisme\u2009\u00bb avaient \u00e9t\u00e9 mentionn\u00e9s\u2009?<\/p>\n

De fait, une forte d\u00e9fiance envers les acteurs du num\u00e9rique ressort de la consultation citoyenne, particuli\u00e8rement marqu\u00e9e \u00e0 l\u2019\u00e9gard de ceux g\u00e9rant les donn\u00e9es \u00e0 titre marchand. D\u2019apr\u00e8s les personnes interrog\u00e9es, cette d\u00e9fiance s\u2019exprime \u00e0 plus forte raison pour les plateformes \u00e9trang\u00e8res, telles que les GAFAM ou BATX(18)<\/sup> (82\u2009%), et dans une moindre mesure pour les petites et moyennes entreprises fran\u00e7aises (51\u2009%) et la puissance publique (47\u2009%). Pour les entreprises priv\u00e9es, qu\u2019elles soient fran\u00e7aises ou \u00e9trang\u00e8res, cette m\u00e9fiance est le plus souvent expliqu\u00e9e par la r\u00e9utilisation marchande des donn\u00e9es de sant\u00e9. En revanche, pour la puissance publique, la faiblesse des syst\u00e8mes de protection et le manque de transparence sont fr\u00e9quemment invoqu\u00e9s pour justifier cette d\u00e9fiance. \u00c0 l\u2019inverse, la recherche de l\u2019int\u00e9r\u00eat g\u00e9n\u00e9ral est la premi\u00e8re raison avanc\u00e9e par les personnes ayant confiance en la puissance publique pour g\u00e9rer leurs donn\u00e9es. Lorsque l\u2019\u00ab\u2009altruisme\u2009\u00bb rend possible la marchandisation des donn\u00e9es par la puissance publique, il nous faudra \u00e9tudier plus pr\u00e9cis\u00e9ment l\u2019encadrement des donn\u00e9es de la CME pour ne pas nourrir la d\u00e9fiance d\u00e9j\u00e0 exprim\u00e9e \u00e0 ce titre envers les entreprises priv\u00e9es. Car que devient l\u2019altruisme \u2013 cette propension \u00e0 favoriser le bien d\u2019autrui de fa\u00e7on d\u00e9sint\u00e9ress\u00e9e \u2013 lorsqu\u2019il sert des profits\u2009? Pourquoi ne pas employer l\u2019expression \u00ab\u2009int\u00e9r\u00eat g\u00e9n\u00e9ral\u2009\u00bb dans le texte europ\u00e9en si tel est le sens de l\u2019\u00ab\u2009altruisme\u2009\u00bb\u2009? En mati\u00e8re de donn\u00e9es, l\u2019altruisme serait-il un argument marketing\u2009? En effet, ce n\u00e9ologisme forg\u00e9 par le philosophe Auguste Comte dans Cat\u00e9chisme positiviste<\/i> en 1852 conna\u00eet depuis les ann\u00e9es 2000 un regain d\u2019int\u00e9r\u00eat dans la Silicon Valley. Des personnalit\u00e9s telles qu\u2019Elon Musk ou Dustin Moskovitz, cofondateur de Facebook, d\u00e9fendent par exemple un altruisme \u00ab\u2009effectif\u2009\u00bb(19)<\/sup>. Dans ce cadre juridique prochain, les risques li\u00e9s \u00e0 la marchandisation du corps humain par ses donn\u00e9es nous invitent \u00e0 remettre en question les usages altruistes qui s\u2019appliqueraient aux donn\u00e9es de la CME.<\/p>\n

Enfin, inspir\u00e9 de la l\u00e9gislation fran\u00e7aise, le futur r\u00e8glement europ\u00e9en sur l\u2019\u00ab\u2009intelligence artificielle\u2009\u00bb impose un \u00ab\u2009contr\u00f4le humain(20)<\/sup>\u2009\u00bb des syst\u00e8mes d\u2019IA tout au long de leurs cycles de vie. Ce contr\u00f4le humain peut \u00eatre compar\u00e9 au principe de garantie humaine propos\u00e9 par la fondation Ethik-IA et consacr\u00e9 en demi-teinte dans le Code de la sant\u00e9 publique par la r\u00e9vision de la loi Bio\u00e9thique. En effet, si David Gruson et Cynthia Fleury-Perkins avaient sugg\u00e9r\u00e9 la cr\u00e9ation de \u00ab\u2009coll\u00e8ges de garantie humaine(21)<\/sup>\u2009\u00bb, r\u00e9unissant des m\u00e9decins, des soignants et des repr\u00e9sentants des usagers pour auditer plusieurs fois par an les diagnostics de l\u2019IA, cette suggestion n\u2019a pas \u00e9t\u00e9 retenue par la loi fran\u00e7aise et le r\u00e8glement europ\u00e9en. Pourtant, ces coll\u00e8ges de garantie humaine permettraient de minimiser les biais et risques d\u2019erreurs dans la conception des algorithmes et des bases de donn\u00e9es d\u2019entra\u00eenement de l\u2019IA gr\u00e2ce au retour des patients et du personnel soignant. Par cons\u00e9quent, l\u2019encadrement \u00e9thique de la CME pourrait \u00eatre amen\u00e9 \u00e0 instituer un tel coll\u00e8ge en vue de s\u2019assurer de la pertinence de ses pr\u00e9dictions de risques.<\/p>\n

Bien que le consentement de la personne \u00e0 la r\u00e9utilisation de ses donn\u00e9es et \u00e0 la r\u00e9ception d\u2019une pr\u00e9diction de risques de la CME soit n\u00e9cessaire, il n\u2019est pourtant pas suffisant. Contre la marchandisation des donn\u00e9es par \u00ab\u2009altruisme\u2009\u00bb et la d\u00e9l\u00e9gation du soin \u00e0 la machine, une attention particuli\u00e8re devra \u00eatre port\u00e9e \u00e0 la d\u00e9finition des r\u00e9utilisations des donn\u00e9es de la CME et \u00e0 l\u2019auditabilit\u00e9 fr\u00e9quente de ses algorithmes.<\/p>\n

Conclusion<\/h1>\n

Pour que les pr\u00e9dictions de la CME n\u2019\u00e9voluent pas en mal\u00e9dictions pour la personne mais participent de la pr\u00e9vention des maladies, le consentement est capital. Qui plus est, son importance pour la pratique clinique est d\u00e9cupl\u00e9e lorsque celui-ci s\u2019efface dans le droit positif, en mati\u00e8re de r\u00e9utilisations des donn\u00e9es personnelles et d\u2019usage de l\u2019IA. De fait, garantir le recueil du consentement \u00e0 la CME minimise l\u2019effet nocebo d\u2019une pr\u00e9diction de risques agissant comme une proph\u00e9tie autor\u00e9alisatrice n\u00e9faste. Cette exigence est donc fondamentale au d\u00e9veloppement de la m\u00e9decine pr\u00e9dictive en anesth\u00e9sie, malgr\u00e9 le cadre l\u00e9gal en vigueur. Mais elle doit en outre s\u2019accompagner d\u2019une vigilance constante concernant les donn\u00e9es et les algorithmes d\u2019IA qui s\u2019en nourrissent. Comment veiller \u00e0 ce que les donn\u00e9es de la CME ne subissent une marchandisation bient\u00f4t institutionnalis\u00e9e par l\u2019\u00ab\u2009altruisme\u2009\u00bb en la mati\u00e8re\u2009? Et quels seraient les contours d\u2019un \u00ab\u2009contr\u00f4le humain\u2009\u00bb de la CME assurant des allers-retours correctifs entre pr\u00e9dictions de risques et exp\u00e9riences des patients\u2009?<\/p>\n