{"id":42231,"date":"2020-09-01T15:30:48","date_gmt":"2020-09-01T13:30:48","guid":{"rendered":"https:\/\/gestions-hospitalieres.fr\/?p=42231"},"modified":"2020-09-15T14:19:33","modified_gmt":"2020-09-15T12:19:33","slug":"quelle-regulation-positive-de-lia-en-sante","status":"publish","type":"post","link":"https:\/\/www.ricom-web8.com\/gestions\/quelle-regulation-positive-de-lia-en-sante\/","title":{"rendered":"Quelle r\u00e9gulation positive de l\u2019IA en sant\u00e9\u2009?"},"content":{"rendered":"Temps de lecture\u00a0: <\/span> 3<\/span> minutes<\/span><\/span>

Depuis pr\u00e8s de deux ans et demi, Ethik-IA porte dans le d\u00e9bat public l\u2019importance d\u2019une r\u00e9gulation positive du d\u00e9ploiement de l\u2019intelligence artificielle en sant\u00e9.<\/p>\n

L\u2019entr\u00e9e en vigueur du R\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es (RGPD) a fait de la France et l\u2019Union europ\u00e9enne le territoire o\u00f9 le niveau de protection juridique des donn\u00e9es de sant\u00e9 est le plus \u00e9lev\u00e9 au monde. Les porteurs de la d\u00e9marche ont alors identifi\u00e9 deux risques majeurs li\u00e9s \u00e0 une r\u00e9glementation compl\u00e9mentaire trop contraignante en mati\u00e8re d\u2019intelligence artificielle\u2009: d\u2019une part le recours \u00e0 des solutions d\u2019intelligence artificielle con\u00e7ues hors d\u2019Europe, d\u2019autre part le blocage du d\u00e9veloppement de l\u2019innovation en Europe.<\/p>\n

Ethik-IA a ainsi introduit le concept de \u00ab\u2009garantie humaine\u2009\u00bb de l\u2019intelligence artificielle en sant\u00e9. Cette proposition avait \u00e9t\u00e9 int\u00e9gr\u00e9e au rapport de C\u00e9dric Villani sur l\u2019intelligence artificielle ainsi que dans le cadre de l\u2019avis 129 du rapport d\u00e9di\u00e9 \u00e9mis par le Comit\u00e9 consultatif national d\u2019\u00e9thique dans le cadre du processus de pr\u00e9paration de la r\u00e9vision bio\u00e9thique.<\/p>\n

Ce principe avait \u00e9t\u00e9 repris dans l\u2019expos\u00e9 des motifs et l\u2019\u00e9tude d\u2019impact du projet de loi bio\u00e9thique. Il \u00e9tait ensuite int\u00e9gr\u00e9 \u00e0 l\u2019article\u202f11 du texte adopt\u00e9 \u00e0 l\u2019unanimit\u00e9 en premi\u00e8re lecture \u00e0 l\u2019Assembl\u00e9e nationale. Tr\u00e8s r\u00e9cemment pass\u00e9 au S\u00e9nat, ce projet de loi de bio\u00e9thique reprend le principe g\u00e9n\u00e9ral de r\u00e9gulation positive de l\u2019IA en sant\u00e9, autour de deux principes fondateurs, l\u2019information et la garantie humaine\u2009:<\/p>\n

    \n
  • l\u2019information du patient sur le recours \u00e0 l\u2019IA est r\u00e9affirm\u00e9e. Deux utiles exceptions \u00e0 cette information sont am\u00e9nag\u00e9es\u2009: l\u2019\u00ab\u2009urgence\u2009\u00bb et l\u2019\u00ab\u2009impossibilit\u00e9\u2009\u00bb d\u2019informer. Ces d\u00e9rogations devront, on le comprend ais\u00e9ment, \u00eatre concr\u00e8tement d\u00e9finies\u2009;<\/li>\n
  • le principe g\u00e9n\u00e9ral d\u2019une garantie humaine de l\u2019intelligence est d\u00e9clin\u00e9 de mani\u00e8re pragmatique en trois leviers op\u00e9rationnels\u2009:
    \n\u2022 une norme de garantie humaine dans la d\u00e9clinaison op\u00e9rationnelle de l\u2019algorithme pour un patient d\u00e9termin\u00e9\u2009: \u00ab\u2009La saisie d\u2019informations relatives au patient dans le traitement algorithmique se fait sous le contr\u00f4le du professionnel de sant\u00e9 qui a recours audit traitement\u2009\u00bb\u2009;
    \n\u2022 une garantie humaine dans la d\u00e9cision elle-m\u00eame\u2009: \u00ab\u2009Aucune d\u00e9cision m\u00e9dicale ne peut \u00eatre prise sur le seul fondement d\u2019un traitement algorithmique\u2009\u00bb\u2009;
    \n\u2022 une garantie humaine sous forme de pilotage qualit\u00e9 de l\u2019algorithme en vie r\u00e9elle. Ce pilotage qualit\u00e9 inclut les concepteurs et les utilisateurs de l\u2019algorithme\u2009: \u00ab\u2009Les concepteurs d\u2019un traitement algorithmique mentionn\u00e9 au premier alin\u00e9a s\u2019assurent de la transparence du fonctionnement de l\u2019outil pour ses utilisateurs.\u2009\u00bb<\/li>\n<\/ul>\n

    Par ailleurs, un d\u00e9cret en Conseil d\u2019\u00c9tat est d\u00e9sormais pr\u00e9vu pour la mise en \u0153uvre de l\u2019article\u202f11.<\/p>\n

    Concr\u00e8tement, le d\u00e9ploiement de la garantie humaine de l\u2019IA consiste en la mise en place d\u2019une supervision humaine \u00e0 des points critiques identifi\u00e9s par les professionnels, les utilisateurs de l\u2019algorithme, les patients et les concepteurs d\u2019innovation\u2026 Il ne s\u2019agit bien \u00e9videmment pas de la faire intervenir \u00e0 chaque \u00e9tape, au risque de bloquer le d\u00e9veloppement de l\u2019innovation.<\/p>\n

    Sa mise en \u0153uvre peut prendre plusieurs formes. Un niveau minimal de supervision, fr\u00e9quemment mis en place, consiste en la pr\u00e9sence d\u2019un regard m\u00e9dical au sein du producteur de l\u2019algorithme. N\u00e9anmoins, cette disposition semble insuffisante, au regard de la pluridisciplinarit\u00e9 et d\u2019\u00e9ventuels liens d\u2019int\u00e9r\u00eat. La forme de \u00ab\u2009coll\u00e8ges de garantie humaine\u2009\u00bb associant m\u00e9decins, professionnels param\u00e9dicaux et repr\u00e9sentants des usagers lui est pr\u00e9f\u00e9r\u00e9e.<\/p>\n

    Leur vocation est d\u2019assurer a\u00a0posteriori <\/i>une r\u00e9vision de dossiers m\u00e9dicaux pour porter un regard humain sur les options th\u00e9rapeutiques conseill\u00e9es ou prises par l\u2019algorithme. Cela permet ainsi de s\u2019assurer que le d\u00e9veloppement de l\u2019algorithme reste efficace m\u00e9dicalement et responsable \u00e9thiquement. Les dossiers \u00e0 auditer peuvent \u00eatre d\u00e9finis \u00e0 partir d\u2019\u00e9v\u00e9nements ind\u00e9sirables constat\u00e9s, de crit\u00e8res pr\u00e9d\u00e9termin\u00e9s ou d\u2019une s\u00e9lection al\u00e9atoire. La mise en place d\u2019une telle supervision sera d\u2019autant plus concr\u00e8te et n\u00e9cessaire que l\u2019admission aux remboursements prend en compte l\u2019existence d\u2019une garantie humaine dans le proc\u00e9d\u00e9. Cette d\u00e9marche a d\u2019ores et d\u00e9j\u00e0 \u00e9t\u00e9 initi\u00e9e par l\u2019Union fran\u00e7aise pour la sant\u00e9 bucco-dentaire (UFSBD) \u2013 voir article ci-dessous<\/i> \u2013et une m\u00e9thodologie similaire a \u00e9t\u00e9 mobilis\u00e9e dans des travaux men\u00e9s par l\u2019IHU Imagine et par DRIM France IA.<\/p>\n

    Ce principe de garantie humaine a une r\u00e9sonance d\u2019autant plus importante qu\u2019il se concr\u00e9tise actuellement dans deux autres cadres tr\u00e8s significatifs\u2009:<\/p>\n

      \n
    • la garantie humaine devrait, ainsi qu\u2019Isabelle Adenot, membre du coll\u00e8ge de la Haute Autorit\u00e9 de sant\u00e9 l\u2019a annonc\u00e9 dans le cadre d\u2019un colloque d\u00e9di\u00e9 au principe par la chaire Sant\u00e9 de Sciences-Po le 14 \u202fjanvier dernier, \u00eatre int\u00e9gr\u00e9e \u00e0 la grille d\u2019auto\u00e9valuation des dispositifs m\u00e9dicaux int\u00e9grant de l\u2019IA pr\u00e9alablement \u00e0 leur admission au remboursement\u2009;<\/li>\n
    • le principe de garantie humaine fait actuellement l\u2019objet de discussions et prolongements dans le cadre de la task-force<\/i> d\u00e9di\u00e9e par l\u2019OMS \u00e0 la r\u00e9gulation de l\u2019IA en sant\u00e9 en vue de l\u2019\u00e9mission d\u2019une recommandation.\u00a0<\/span><\/li>\n<\/ul>\n

      Enfin, la notion de garantie humaine a \u00e9t\u00e9 reprise dans le livre blanc de la Commission europ\u00e9enne sur l\u2019intelligence artificielle, publi\u00e9 le 19\u202ff\u00e9vrier 2020.<\/p>\n

      Le principe d\u2019une garantie humaine de l\u2019IA fait d\u00e9sormais l\u2019objet d\u2019une reconnaissance \u00e9thique, juridique et sur le plan international. Pionni\u00e8re dans son \u00e9laboration, la France doit pouvoir conserver ce temps d\u2019avance en d\u00e9ployant r\u00e9solument des m\u00e9thodologies de r\u00e9gulation positive de l\u2019IA sur le terrain aux c\u00f4t\u00e9s des patients, des professionnels et des porteurs d\u2019innovation.<\/p>\n