{"id":42247,"date":"2020-09-01T15:56:59","date_gmt":"2020-09-01T13:56:59","guid":{"rendered":"https:\/\/gestions-hospitalieres.fr\/?p=42247"},"modified":"2020-09-15T14:21:07","modified_gmt":"2020-09-15T12:21:07","slug":"pour-une-ia-de-confiance-en-sante","status":"publish","type":"post","link":"https:\/\/www.ricom-web8.com\/gestions\/pour-une-ia-de-confiance-en-sante\/","title":{"rendered":"Pour une IA de confiance en sant\u00e9"},"content":{"rendered":"Temps de lecture\u00a0: <\/span> 9<\/span> minutes<\/span><\/span>

Dans les travaux sur les enjeux \u00e9thiques, la notion d\u2019intelligence artificielle se pr\u00eate mal \u00e0 une d\u00e9finition unique. Elle gagne \u00e0 \u00eatre d\u00e9clin\u00e9e au pluriel\u00a0 <\/span>tant elle correspond \u00e0 des r\u00e9alit\u00e9s math\u00e9matiques potentiellement diff\u00e9rentes(4)<\/sup> et \u00e0 des risques potentiellement divers. L\u2019environnement juridique dans lequel se situent les IA est lui-m\u00eame divers\u2009: certaines IA sont des \u00e9l\u00e9ments d\u2019aide \u00e0 la d\u00e9cision int\u00e9gr\u00e9s \u00e0 des dispositifs m\u00e9dicaux (DM), d\u2019autres se situent en dehors de ce cadre juridique, le seul moyen pourtant de faire reconna\u00eetre la valeur sant\u00e9 d\u2019une solution digitale.<\/p>\n

Conjuguer l\u2019IA au pluriel<\/h1>\n

De plus en plus d\u2019\u00e9tudes ont montr\u00e9 que les intelligences artificielles ont un potentiel consid\u00e9rable pour transformer la sant\u00e9. Il est frappant de constater que ces \u00e9tudes peuvent se situer dans un cadre correspondant aux crit\u00e8res habituels de l\u2019evidence based medicine <\/i>(EBM), mais ce n\u2019est pas syst\u00e9matique. On peut notamment remarquer que les IA qui am\u00e9liorent les capacit\u00e9s diagnostiques, en utilisant notamment l\u2019analyse d\u2019images, ob\u00e9issent \u00e0 des crit\u00e8res compatibles avec les crit\u00e8res de l\u2019EBM. Elles concernent notamment l\u2019appui aux radiologues pour le d\u00e9pistage du cancer du sein(5)<\/sup>, la r\u00e9tinopathie diab\u00e9tique(6)<\/sup> ou la classification de l\u00e9sions cutan\u00e9es(7)<\/sup>. Une \u00e9tude publi\u00e9e dans le JAMA<\/i> en d\u00e9cembre\u202f2017 a pr\u00e9sent\u00e9 une analyse r\u00e9trospective des donn\u00e9es issues de 110 patientes avec des m\u00e9tastases de cancer du sein et de 160 avec un cancer du sein sans m\u00e9tastases, montrant que l\u2019utilisation d\u2019algorithmes de deep learning<\/i> faisait aussi bien que les pathologistes pour la d\u00e9termination de l\u2019existence de m\u00e9tastases(8)<\/sup>.\u00a0<\/span><\/p>\n

La capacit\u00e9 \u00e0 r\u00e9pondre aux exigences sp\u00e9cifiques de l\u2019EBM est moins facilement remplie pour les IA, qui reposent sur l\u2019\u00e9laboration de strat\u00e9gies th\u00e9rapeutiques compl\u00e8tes ou pr\u00e9tendent interpr\u00e9ter la litt\u00e9rature m\u00e9dicale, comme c\u2019est le cas par exemple pour les projets tels que Watson.<\/p>\n

L\u2019utilisation de l\u2019IA pour trier les patients ou segmenter un groupe de malades est ancienne, notamment dans le secteur des services d\u2019assurance. Elle gagne aussi les \u00e9quipes hospitali\u00e8res.<\/p>\n

Une \u00e9tude publi\u00e9e en 2017 a par exemple \u00e9valu\u00e9 l\u2019apport d\u2019une technique de triage des patients informatis\u00e9e avec une approche d\u2019apprentissage machine(9)<\/sup>. Cette \u00e9tude a montr\u00e9 que cette orientation des patients bas\u00e9e sur un algorithme \u00e9lectronique \u00e9tait plus performante que le calcul du score ESI, qui repose de fa\u00e7on importante sur le jugement du clinicien et dont le calcul est donc sujet \u00e0 de nombreuses variations.<\/p>\n

Les risques de discrimination syst\u00e9mique<\/h1>\n

La question des risques de discrimination li\u00e9s \u00e0 l\u2019utilisation de l\u2019IA a \u00e9merg\u00e9 en 2017, suite \u00e0 une premi\u00e8re publication par la revue Science<\/i>\u2009(10)<\/sup> qui a montr\u00e9 que l\u2019apprentissage machine classique peut acqu\u00e9rir des biais \u00e0 partir de donn\u00e9es textuelles qui refl\u00e8tent la culture humaine quotidienne. Cette question a pris une dimension internationale fin\u00a0 <\/span>2019, apr\u00e8s la publication d\u2019une enqu\u00eate syst\u00e9matique dans la m\u00eame revue le 24\u202foctobre 2019. Cette enqu\u00eate a montr\u00e9 qu\u2019un des algorithmes de stratification des patients les plus utilis\u00e9s dans le syst\u00e8me de sant\u00e9 am\u00e9ricain produit des discriminations massives \u00e0 l\u2019\u00e9gard des personnes de couleur(11)<\/sup>. Cet algorithme, commercialis\u00e9 par une filiale du plus gros assureur sant\u00e9 am\u00e9ricain, UnitedHealth Optum, vise \u00e0 d\u00e9finir l\u2019\u00e9ligibilit\u00e9 \u00e0 des services personnalis\u00e9s de sant\u00e9 pour les patients complexes (high risk care management<\/i>) et repose sur un mod\u00e8le probabiliste, entra\u00een\u00e9 par des donn\u00e9es de remboursements.<\/p>\n

Mettre en \u00e9vidence ce type de biais n\u2019est pas chose ais\u00e9e. Les algorithmes d\u00e9ploy\u00e9s \u00e0 large \u00e9chelle font le plus souvent l\u2019objet d\u2019un droit de propri\u00e9t\u00e9 intellectuelle qui emp\u00eache de simuler leurs effets ou de les d\u00e9cortiquer. La meilleure option pour les tester est de reconstituer un contrefactuel externe (dataset<\/i> de contr\u00f4le) et de proc\u00e9der \u00e0 des exercices de testing<\/i> al\u00e9atoires. Cela est \u00e9videmment rarement r\u00e9alis\u00e9, car peu de personnes ont une incitation objective \u00e0 assurer de tels contr\u00f4les.<\/p>\n

Les \u00e9quipes du Pr Obermeyer \u00e0 Berkeley se sont attaqu\u00e9es \u00e0 un mod\u00e8le de stratification des patients, qui est au c\u0153ur de l\u2019allocation des services de gestion du risque (managed care<\/i>) des assureurs sant\u00e9 am\u00e9ricains. Pour tester ce mod\u00e8le, ils ont collect\u00e9 49\u2009710 dossiers m\u00e9dicaux sur une p\u00e9riode allant de\u202f2013 \u00e0\u202f2015. Ils ont distingu\u00e9 ces dossiers selon la couleur de peau et l\u2019origine des patients, \u00e9tablies sur une base d\u00e9clarative. L\u2019\u00e9tude distingue ainsi les personnes noires (6\u2009079), blanches (42\u2009539) et les autres types de patients (hispaniques par exemple). Elle compare la classification des patients op\u00e9r\u00e9e par l\u2019algorithme d\u2019Optum avec une classification fond\u00e9e sur une appr\u00e9ciation du risque \u00e0 partir des donn\u00e9es m\u00e9dicales sources de ces patients. Ce contrefactuel est notamment con\u00e7u \u00e0 travers le calcul de scores de comorbidit\u00e9s ou, pour les principales maladies chroniques concern\u00e9es, l\u2019analyse de biomarqueurs m\u00e9dicaux (par exemple l\u2019h\u00e9moglobyne glyqu\u00e9e pour les patients diab\u00e9tiques).<\/p>\n

Le r\u00e9sultat de l\u2019\u00e9tude est particuli\u00e8rement net\u2009: seuls 17,7\u2009% des patients identifi\u00e9s comme \u00e0 risque par l\u2019algorithme \u00e9taient noirs, alors que la proportion aurait d\u00fb \u00eatre quasiment trois fois plus \u00e9lev\u00e9e (46,5\u2009%) si l\u2019algorithme n\u2019avait pas \u00e9t\u00e9 biais\u00e9.<\/p>\n

Quelques jours apr\u00e8s la publication de Science<\/i>, le Department of Financial Services et l\u2019\u00c9tat de New York (NY Department of Health) ont \u00e9crit au groupe UnitedHealth pour lui demander des comptes et notamment d\u2019apporter la preuve du respect de la l\u00e9gislation f\u00e9d\u00e9rale contre les discriminations(12)<\/sup>. \u00c9videmment, l\u2019algorithme en question n\u2019a pas \u00e9t\u00e9 con\u00e7u d\u00e9lib\u00e9r\u00e9ment pour \u00eatre discriminatoire. \u00c0 aucun moment il ne s\u2019appuie sur le crit\u00e8re de la couleur de peau. Il ignore simplement cette dimension dans sa construction et n\u2019a op\u00e9r\u00e9 aucune mesure de contr\u00f4le de ses effets en la mati\u00e8re.<\/p>\n

L\u2019IA est-elle en cause dans ce r\u00e9sultat\u2009? Les biais introduits dans l\u2019algorithme d\u2019Optum ne sont pas la cons\u00e9quence d\u2019un redressement math\u00e9matique, mais tr\u00e8s certainement le reflet d\u2019un biais massif existant dans les processus de soins et leur remboursement. L\u2019\u00e9tude d\u2019Obermeyer est \u00e0 cet \u00e9gard int\u00e9ressante\u2009: elle estime qu\u2019\u00e0 niveau de sant\u00e9 \u00e9quivalent, les personnes noires re\u00e7oivent pour 1\u2009801\u202fdollars de soins en moins que les personnes blanches par an.<\/p>\n

Il existe deux types d\u2019explication de cette discrimination\u2009:<\/p>\n

    \n
  • la premi\u00e8re est de nature sociale\u2009: elle serait li\u00e9e aux difficult\u00e9s d\u2019acc\u00e8s aux soins pour des patients en moyenne plus pauvres, ce qui est sans doute le cas de la population afro-am\u00e9ricaine\u2009; on notera toutefois que la population couverte par l\u2019\u00e9tude exclut par d\u00e9finition celle des personnes ne disposant pas d\u2019assurance sociale\u2009;<\/li>\n
  • la deuxi\u00e8me porte sur les choix r\u00e9alis\u00e9s par les patients eux-m\u00eames (taste-based<\/i>, discrimination) dans le cadre du colloque singulier avec leurs professionnels de sant\u00e9\u2009: ces choix ob\u00e9issent \u00e0 de multiples d\u00e9terminants qui, pour certains, tiennent \u00e0 la projection que les m\u00e9decins ont de leur patient\u2009; il existe notamment une litt\u00e9rature importante sur les diff\u00e9rences de choix des patients afro-am\u00e9ricains dans leur traitement, li\u00e9es \u00e0 la diff\u00e9rence de perception des professionnels sur la tol\u00e9rance de la douleur, sur leur capacit\u00e9 de financement et sur le niveau d\u2019\u00e9ducation th\u00e9rapeutique possible.<\/li>\n<\/ul>\n

    Finalement, si l\u2019algorithme d\u2019Optum est discriminatoire, c\u2019est vraisemblablement parce que l\u2019ensemble de la soci\u00e9t\u00e9 am\u00e9ricaine est travers\u00e9 par des st\u00e9r\u00e9otypes.<\/p>\n

    Les syst\u00e8mes d\u2019IA doivent \u00eatre utilis\u00e9s pour soutenir des \u00e9volutions sociales positives et r\u00e9pondre \u00e0 un objectif de sobri\u00e9t\u00e9 \u00e9nerg\u00e9tique.<\/p><\/blockquote>\n

    R\u00e9unir les principes d\u2019une IA de confiance<\/h1>\n

    En r\u00e9ponse \u00e0 ces \u00e9tudes, un effort international visant \u00e0 d\u00e9finir une \u00e9thique de l\u2019IA a conduit \u00e0 une assez nette convergence autour de six principes, qui forment le c\u0153ur d\u2019une IA dite \u00ab\u2009de confiance\u2009\u00bb\u2009:<\/p>\n

      \n
    • le maintien du contr\u00f4le et de la responsabilit\u00e9 humaine\u2009: l\u2019IA doit rester au service d\u2019objectifs assign\u00e9s par des personnes, sans restreindre ou d\u00e9voyer l\u2019autonomie humaine\u2009;<\/li>\n
    • la robustesse\u2009: les algorithmes doivent \u00eatre suffisamment s\u00fbrs, fiables et robustes pour g\u00e9rer les erreurs ou les incoh\u00e9rences dans toutes les phases du cycle de vie des produits\u2009;<\/li>\n
    • la ma\u00eetrise des donn\u00e9es personnelles par les citoyens\u2009;<\/li>\n
    • la transparence\u2009: ce qui impose la tra\u00e7abilit\u00e9 des op\u00e9rations, mais aussi potentiellement des d\u00e9marches visant \u00e0 assurer l\u2019explicabilit\u00e9 des algorithmes\u2009;<\/li>\n
    • la non-discrimination et l\u2019\u00e9quit\u00e9\u2009: les syst\u00e8mes d\u2019IA devraient prendre en compte tout l\u2019\u00e9ventail des capacit\u00e9s, aptitudes et \u00e9viter de cr\u00e9er des diff\u00e9rences de traitement syst\u00e9matiques qui seraient contraires \u00e0 nos lois ou \u00e0 nos valeurs\u2009;<\/li>\n
    • la contribution au bien-\u00eatre soci\u00e9tal et environnemental\u2009: les syst\u00e8mes d\u2019IA doivent \u00eatre utilis\u00e9s pour soutenir des \u00e9volutions sociales positives et r\u00e9pondre \u00e0 un objectif de sobri\u00e9t\u00e9 \u00e9nerg\u00e9tique.<\/li>\n<\/ul>\n

      Un garde-fou contre le risque de discriminations massives li\u00e9es \u00e0 l\u2019utilisation d\u2019intelligences artificielles est le maintien de la responsabilit\u00e9 finale du praticien utilisateur de la machine. Ce garde-fou, dont la port\u00e9e pratique m\u00e9rite d\u2019\u00eatre interrog\u00e9e, est en train d\u2019\u00eatre r\u00e9cemment renforc\u00e9 dans la l\u00e9gislation fran\u00e7aise.<\/p>\n

      L\u2019article\u00a010 de la loi du 6\u202fjanvier 1978 pr\u00e9voyait d\u00e9j\u00e0 qu\u2019aucune d\u00e9cision produisant des effets juridiques \u00e0 l\u2019\u00e9gard d\u2019une personne ne peut \u00eatre prise sur le seul fondement d\u2019un traitement automatis\u00e9 des donn\u00e9es. L\u2019article \u202f22 du R\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es indique que \u00ab\u2009la personne concern\u00e9e a le droit de ne pas faire l\u2019objet d\u2019une d\u00e9cision fond\u00e9e exclusivement sur un traitement automatis\u00e9, y compris le profilage, produisant des effets juridiques la concernant ou l\u2019affectant de mani\u00e8re significative de fa\u00e7on similaire\u2009<\/i>\u00bb.<\/p>\n

      Le projet de loi bio\u00e9thique adopt\u00e9 le 24\u202fjuillet 2019 en Conseil des ministres propose de pr\u00e9ciser son application aux IA. Il pose en son article \u202f11 le principe d\u2019une garantie humaine des IA en sant\u00e9. Cette garantie humaine repose sur une obligation d\u2019informer la personne de l\u2019utilisation d\u2019un tel traitement algorithmique. Elle impose l\u2019intervention d\u2019un professionnel du service public pour le param\u00e9trage d\u2019un tel traitement et pr\u00e9cise que ce param\u00e9trage peut \u00eatre modifi\u00e9 par le professionnel de sant\u00e9. La garantie humaine impose enfin la tra\u00e7abilit\u00e9 des donn\u00e9es utilis\u00e9es par ces dispositifs et l\u2019acc\u00e8s \u00e0 ces informations des professionnels de sant\u00e9 concern\u00e9s.<\/p>\n

      Elle concerne pour l\u2019instant l\u2019ensemble des \u00ab\u2009traitements algorithmiques de donn\u00e9es massives\u2009\u00bb embarqu\u00e9s dans des \u00ab\u2009actes \u00e0 vis\u00e9e pr\u00e9ventive, diagnostique ou th\u00e9rapeutique\u2009\u00bb. Mais leur port\u00e9e va \u00eatre probablement \u00e9tendue, car ces r\u00e8gles viennent donner corps \u00e0 des principes constitutionnels qui concernent tous les services publics (Conseil constitutionnel n\u00b0\u202f2018-765 DC du 12 \u202fjuin 2018(13)<\/sup>.\u00a0<\/span><\/p>\n

      La port\u00e9e pratique de cette nouvelle l\u00e9gislation pose question\u2009: comment mettre le professionnel en situation d\u2019assurer r\u00e9ellement et de fa\u00e7on op\u00e9rante sa responsabilit\u00e9 \u00e0 l\u2019\u00e9gard d\u2019une IA\u2009? Renvoyer sur lui la responsabilit\u00e9 juridique est-il une option efficace pour r\u00e9duire les discriminations\u2009?<\/p>\n

      L\u2019IA de confiance, une question technologique<\/p>\n

      Derri\u00e8re ces principes se trouvent un grand nombre d\u2019incertitudes et de malentendus. \u00c0 l\u2019occasion du s\u00e9minaire organis\u00e9 \u00e0 Sciences-Po le 10\u202fjanvier 2020, plusieurs exemples ont pu en \u00eatre donn\u00e9s\u2009:<\/p>\n

        \n
      • premi\u00e8re id\u00e9e fausse\u2009: les IA, dans leur diversit\u00e9, seraient par nature source d\u2019une r\u00e9gression \u00e9thique<\/i>. Le CCNE a fort justement remis les choses en perspective dans son avis 129(14)<\/sup>, en rappelant que compte tenu des gains pour la sant\u00e9 que peuvent g\u00e9n\u00e9rer le d\u00e9ploiement de certaines IA (notamment dans le domaine du diagnostic), ne pas y donner acc\u00e8s est en soi une probl\u00e9matique \u00e9thique\u2009; le cadre \u00e9thique des IA est ainsi celui de l\u2019evidence based medicine<\/i> (EBM) en g\u00e9n\u00e9ral, balan\u00e7ant des gains pour la sant\u00e9 et des risques, selon la capacit\u00e9 que nous avons \u00e0 objectiver les uns et les autres conform\u00e9ment aux r\u00e8gles qui rendent la science reproductible\u2009; comme l\u2019a rappel\u00e9 Jacques Lucas, lors du s\u00e9minaire, \u00ab\u2009la probl\u00e9matique \u00e9thique principale de l\u2019IA en France est qu\u2019il n\u2019y en a pas assez\u2009\u00bb\u2009;<\/li>\n
      • deuxi\u00e8me id\u00e9e fausse\u2009: il serait impossible d\u2019assigner des objectifs d\u00e9finitifs \u00e0 la programmation des IA sans faire un choix de valeurs, ce qui rendrait les IA sp\u00e9cifiques aux d\u00e9terminants culturels de la soci\u00e9t\u00e9 dans laquelle elles sont d\u00e9velopp\u00e9es<\/i>. Les objectifs donn\u00e9s aux algorithmes d\u2019apprentissage supervis\u00e9 s\u2019inscrivent en effet n\u00e9cessairement dans un cadre \u00e9thique, qui n\u2019est jamais universel et refl\u00e8te une hi\u00e9rarchie de valeurs propre \u00e0 une soci\u00e9t\u00e9 donn\u00e9e\u2009; un champ prometteur des IA compl\u00e8te ainsi le machine learning <\/i>en d\u00e9veloppant des techniques ouvertes d\u2019apprentissage (dites \u00ab\u2009par renforcement\u2009\u00bb). Mais ces techniques qui fonctionnent in\u00a0silico<\/i> sont peu adapt\u00e9es au monde r\u00e9el, dans lequel la masse d\u2019interactions li\u00e9es \u00e0 l\u2019environnement devient consid\u00e9rable. La question de l\u2019agr\u00e9gation des r\u00e9sultats se pose alors de fa\u00e7on redoutable, \u00e0 moins qu\u2019une v\u00e9ritable interdisciplinarit\u00e9 s\u2019installe d\u00e8s la conception m\u00eame des algorithmes\u2009;<\/li>\n
      • troisi\u00e8me id\u00e9e fausse\u2009: les IA seraient par nature porteuses de biais, g\u00e9n\u00e9rant des risques de discriminations massives<\/i>. Ce sujet des biais m\u00e9rite une analyse plus approfondie(15)<\/sup>, les biais sont le lot commun des d\u00e9cisions de sant\u00e9 et la clinique a d\u00e9velopp\u00e9 une s\u00e9rie de techniques pour les ma\u00eetriser(16)<\/sup>; la discrimination est bien souvent le r\u00e9sultat de leur effet cumul\u00e9\u2009; si elle se r\u00e9v\u00e8le \u00e0 travers les IA, dans des conditions qui rendent leur industrialisation impossible, c\u2019est d\u2019abord parce que les donn\u00e9es en vie r\u00e9elle sont charg\u00e9es de ces biais. La difficult\u00e9 que posent les d\u00e9ploiements de l\u2019IA est qu\u2019ils risquent de rendre ces biais syst\u00e9miques. Mais cela veut dire \u00e9galement que le d\u00e9veloppement de l\u2019IA offre une formidable opportunit\u00e9 pour transformer positivement le syst\u00e8me de sant\u00e9 en faisant la chasse aux biais en vie r\u00e9elle. Cet enjeu vient potentiellement \u00ab\u2009charger\u2009\u00bb les projets d\u2019IA d\u2019un lourd fardeau, qu\u2019il faut aborder avec pragmatisme dans le cycle de conception des algorithmes, en cr\u00e9ant une fois encore une dynamique interdisciplinaire tels que les proposent les \u00ab\u2009coll\u00e8ges de garantie humaine\u2009\u00bb\u2009;<\/li>\n
      • quatri\u00e8me id\u00e9e fausse\u2009: les IA seraient par nature des bo\u00eetes noires. <\/i>Cela les rendrait non seulement peu explicables, mais aussi extr\u00eamement vuln\u00e9rables \u00e0 de petites modifications des donn\u00e9es (deepfake<\/i>). En r\u00e9alit\u00e9, ne sont des bo\u00eetes noires que certains types d\u2019IA, dites de machine learning<\/i>, qui ont la particularit\u00e9 de d\u00e9finir des programmes ayant une capacit\u00e9 d\u2019\u00ab\u2009apprentissage\u2009\u00bb propre \u00e0 partir de donn\u00e9es, c\u2019est-\u00e0-dire d\u2019am\u00e9liorer leurs performances \u00e0 r\u00e9soudre des t\u00e2ches sans \u00eatre explicitement programm\u00e9s pour chacune. D\u2019autres formes d\u2019IA n\u2019ont pas ces limitations et tout l\u2019enjeu du d\u00e9veloppement d\u2019IA dites \u00ab\u2009hybrides\u2009\u00bb est justement de pr\u00e9server l\u2019explicabilit\u00e9 des mod\u00e8les tout en b\u00e9n\u00e9ficiant des capacit\u00e9s exceptionnelles du machine learning<\/i>. Par ailleurs, un champ de recherche s\u2019est d\u00e9velopp\u00e9, qui emprunte des m\u00e9thodologies issues de la th\u00e9orie des jeux, tels que les valeurs de Shapley, pour restituer l\u2019explicabilit\u00e9 des algorithmes. La seule fatalit\u00e9 de la bo\u00eete noire des IA est la m\u00eame que celle qui, depuis Epicure, freine la capacit\u00e9 de l\u2019intelligence humaine \u00e0 concevoir un syst\u00e8me complet d\u2019explication du monde.<\/li>\n<\/ul>\n

        La seule fatalit\u00e9 de la bo\u00eete noire des IA est la m\u00eame que celle qui, depuis Epicure, freine la capacit\u00e9 de l\u2019intelligence humaine \u00e0 concevoir un syst\u00e8me complet d\u2019explication du monde.<\/p><\/blockquote>\n

        Il est frappant de constater que ces faux d\u00e9bats sur l\u2019encadrement de l\u2019IA entrent en r\u00e9sonance avec les faux d\u00e9bats qui rendent de plus en plus d\u00e9licate l\u2019application des principes de l\u2019EBM. La crise de la reproductibilit\u00e9 en est notamment le fil conducteur. Depuis les travaux fondateurs de J. Ioannidis en 2005(17)<\/sup>, une prise de conscience est \u00e0 l\u2019\u0153uvre que les conditions de r\u00e9alisation des recherches m\u00e9dicales rendent syst\u00e9matiquement improbable l\u2019atteinte d\u2019un taux de validit\u00e9 des r\u00e9sultats de 100\u2009% dans la litt\u00e9rature publi\u00e9e. Une \u00e9tude r\u00e9alis\u00e9e aupr\u00e8s de 1\u2009500 scientifiques(18)<\/sup> a montr\u00e9 que plus de 70\u2009% des chercheurs affirment avoir \u00e9t\u00e9 incapables de reproduire l\u2019exp\u00e9rience scientifique d\u2019un autre chercheur et plus de la moiti\u00e9 affirment avoir \u00e9chou\u00e9 \u00e0 reproduire leur propre exp\u00e9rience. Cette \u00ab\u2009trag\u00e9die des erreurs\u2009\u00bb(19)<\/sup> a des causes multiples\u2009:<\/p>\n

          \n
        • la complexification croissante de la recherche biom\u00e9dicale, avec l\u2019augmentation trop rapide du nombre de traitements voulant pr\u00e9tendre au stade du d\u00e9veloppement clinique(20)<\/sup>,<\/li>\n
        • la non-publication des recherches inabouties,<\/li>\n
        • la puissance des liens d\u2019int\u00e9r\u00eats<\/li>\n
        • l\u2019opacit\u00e9 dans l\u2019acc\u00e8s aux donn\u00e9es sources.<\/li>\n<\/ul>\n

          De ce point de vue, la crise de reproductibilit\u00e9 des IA, qui fait aujourd\u2019hui l\u2019objet d\u2019une prise de conscience mondiale(21)<\/sup>, est le reflet d\u2019une probl\u00e9matique plus ancienne, qui impose de repenser de conserve la capacit\u00e9 \u00e0 d\u00e9velopper une intelligence collective autour de la recherche clinique, les conditions d\u2019avancement de l\u2019EBM et le d\u00e9placement de la fronti\u00e8re technologique.<\/p>\n