{"id":42224,"date":"2020-09-01T15:17:31","date_gmt":"2020-09-01T13:17:31","guid":{"rendered":"https:\/\/gestions-hospitalieres.fr\/?p=42224"},"modified":"2020-09-15T14:18:56","modified_gmt":"2020-09-15T12:18:56","slug":"lia-en-sante-les-enjeux-pour-esl-professionels-et-les-etablissements","status":"publish","type":"post","link":"https:\/\/www.ricom-web8.com\/gestions\/lia-en-sante-les-enjeux-pour-esl-professionels-et-les-etablissements\/","title":{"rendered":"L\u2019IA en sant\u00e9"},"content":{"rendered":"Temps de lecture\u00a0: <\/span> 3<\/span> minutes<\/span><\/span>

\u00ab\u2009Les approches num\u00e9riques s\u2019apparentent [\u2026] \u00e0 une bo\u00eete noire, incapable de justifier ses d\u00e9cisions\u2009: nul ne sait ce que fait l\u2019algorithme. Comment, d\u00e8s lors, endosser la responsabilit\u00e9 de la d\u00e9cision m\u00e9dicale\u2009?\u2009\u00bb<\/i>(1)<\/sup>\u00a0<\/span><\/p>\n

Qui est responsable lorsque l\u2019intelligence artificielle commet une erreur et cause un pr\u00e9judice\u2009? Terrible question qui semble br\u00fbler toutes les l\u00e8vres et bouleverser le monde juridique et le monde m\u00e9dical\u2009: qui est responsable lorsque l\u2019intelligence artificielle commet une erreur et cause un pr\u00e9judice\u2009? L\u2019intelligence artificielle\u2009? Doit-on consid\u00e9rer qu\u2019elle dispose de la personnalit\u00e9 juridique\u2009?<\/p>\n

Nombreux sont ceux qui ont pu appeler \u00e0 la cr\u00e9ation d\u2019un nouveau droit consacr\u00e9 aux robots, aux machines int\u00e9grant des solutions algorithmiques, \u00e0 l\u2019intelligence artificielle\u2009; et un tel droit se fonderait sur la reconnaissance de la personnalit\u00e9 juridique de cette derni\u00e8re (ce qui signifie des obligations bien \u00e9videmment, mais encore et surtout des droits\u2009!) aux fins de pouvoir r\u00e9soudre la seule probl\u00e9matique de la responsabilit\u00e9 juridique.<\/p>\n

Or, nous disposons d\u00e9j\u00e0 d\u2019un droit en France et en Europe (int\u00e9grant un syst\u00e8me de responsabilit\u00e9 pour faute et un syst\u00e8me de responsabilit\u00e9 sans faute) permettant d\u2019appr\u00e9hender la probl\u00e9matique de la responsabilit\u00e9 juridique dans le cadre des dommages caus\u00e9s par l\u2019intelligence artificielle.<\/p>\n

Deux r\u00e9gimes se combinent parfaitement en droit fran\u00e7ais\u2009:<\/p>\n

    \n
  • le r\u00e9gime de la responsabilit\u00e9 du fait des choses, qui pr\u00e9cise que le responsable est le gardien de la chose, celui qui en a la ma\u00eetrise. La responsabilit\u00e9 est celle de celui qui utilise la solution algorithmique traitant des donn\u00e9es massives de sant\u00e9 dans son activit\u00e9\u2009: le professionnel de sant\u00e9 ou l\u2019\u00e9tablissement de sant\u00e9\u2009;<\/li>\n
  • le r\u00e9gime de la responsabilit\u00e9 des produits d\u00e9fectueux (dysfonctionnement de l\u2019algorithme). Il est possible de se retourner contre le concepteur de la solution algorithmique si le dysfonctionnement du code est la cause du dommage. Et encore, est-il possible d\u2019exciper de la notion de \u00ab\u2009risque de d\u00e9veloppement\u2009\u00bb \u2013 exon\u00e9ratoire de la responsabilit\u00e9 du concepteur \u2013 d\u00e8s lors qu\u2019il est fait la d\u00e9monstration que le code s\u2019est transform\u00e9, au terme d\u2019un temps certain d\u2019apprentissage, bien au-del\u00e0 de ce que permettaient d\u2019appr\u00e9hender les connaissances scientifiques dont le concepteur disposait au moment de la mise sur le march\u00e9 de la solution algorithmique\u2009? Le concepteur pourra alors s\u2019exon\u00e9rer de sa responsabilit\u00e9 s\u2019il met en \u00e9vidence qu\u2019il ne pouvait pas anticiper le risque de d\u00e9veloppement au regard du degr\u00e9 de transformation du code.<\/li>\n<\/ul>\n

    Et alors seulement, verra-t-on na\u00eetre, un jour, un r\u00e9gime europ\u00e9en de responsabilit\u00e9 sans faute pour couvrir le dommage caus\u00e9 par les machine learning<\/i> pures.<\/p>\n

    L\u2019attachement si important \u00e0 la question de la responsabilit\u00e9 juridique de l\u2019intelligence artificielle cache en r\u00e9alit\u00e9 une autre probl\u00e9matique, plus profonde. Le sujet est celui du positionnement de l\u2019intelligence artificielle dans un processus d\u00e9cisionnel\u2009: la solution algorithmique se substitue \u00e0 une d\u00e9cision humaine. Il y a une forme de d\u00e9l\u00e9gation du pouvoir de d\u00e9cision. Et la probl\u00e9matique rel\u00e8ve alors plus de l\u2019\u00e9thique que du droit.<\/p>\n

    Il ne peut donc y avoir de responsabilit\u00e9 autonome de la solution algorithmique. La r\u00e9gulation ne peut se faire qu\u2019au regard du r\u00e9sultat rendu\u2009: l\u2019out-come <\/i>m\u00e9dical.<\/p>\n

    Et c\u2019est exactement ce qui pourrait\/devrait \u00eatre introduit en droit fran\u00e7ais\u2009: le principe de garantie humaine. Il s\u2019agit de l\u2019article\u202f11 du projet de loi relatif \u00e0 la bio\u00e9thique(2)<\/sup> qui vise \u00e0 instaurer un principe de garantie humaine lorsqu\u2019un traitement algorithmique de donn\u00e9es massives (intelligence artificielle) est utilis\u00e9 \u00e0 l\u2019occasion d\u2019un acte de soins. Il s\u2019agirait d\u2019appliquer les principes de r\u00e9gulation en amont et en aval de l\u2019algorithme en \u00e9tablissant des points de supervision humaine. Non pas \u00e0 chaque \u00e9tape, sinon l\u2019innovation serait bloqu\u00e9e, mais sur des points critiques identifi\u00e9s dans un dialogue entre les professionnels de sant\u00e9, les patients et les concepteurs.<\/p>\n

    Et le patient\u2009?<\/h1>\n

    En mai\u202f2014, d\u00e9j\u00e0, la Commission nationale de l\u2019informatique et des libert\u00e9s(Cnil) a publi\u00e9 un rapport intitul\u00e9 \u00ab\u2009Le corps, nouvel objet connect\u00e9\u2009?(3)<\/sup> Dans un tel contexte, qu\u2019en est -il du consentement\u2009? Le patient n\u2019est-il pas conduit lui-m\u00eame \u00e0 le d\u00e9l\u00e9guer\u2009? L\u00e0 encore, la probl\u00e9matique n\u2019est pas juridique mais bien plut\u00f4t \u00e9thique.<\/p>\n

    Et on peut s\u2019appuyer, en ce sens, sur l\u2019avis n\u00b0\u202f130 du Conseil consultatif national d\u2019\u00e9thique (CCNE) en date du 29\u202fmai 2019 dont le titre exact est le suivant\u2009: \u00ab\u2009Donn\u00e9es massives et sant\u00e9\u2009: une nouvelle approche des enjeux \u00e9thiques\u2009\u00bb. Le consentement, rappelle le CCNE, est l\u2019une des bases juridiques possibles du traitement des donn\u00e9es personnelles relatives \u00e0 la sant\u00e9, mais ce n\u2019est pas la seule, sauf pour les donn\u00e9es g\u00e9nomiques pour lesquelles un consentement expr\u00e8s est toujours n\u00e9cessaire (sauf le cas tr\u00e8s particulier pr\u00e9vu par l\u2019article L.\u20091131-1 du code de la sant\u00e9 publique).<\/p>\n

    Et c\u2019est bien le sens l\u2019article\u202f11 du projet de loi relatif \u00e0 la bio\u00e9thique visant \u00e0 s\u00e9curiser la bonne information du patient lorsqu\u2019un traitement algorithmique de donn\u00e9es massives (\u00ab\u2009intelligence artificielle\u2009\u00bb) est utilis\u00e9 \u00e0 l\u2019occasion d\u2019un acte de soins.<\/p>\n

    Ainsi, pour la premi\u00e8re fois en France, serait-il fait le choix d\u2019un cadre antir\u00e9glementariste.<\/p>\n

    Et \u00e0 trop se pr\u00e9occuper de la responsabilit\u00e9 encourue en cas d\u2019utilisation de l\u2019intelligence artificielle, ne passerait-on pas \u00e0 c\u00f4t\u00e9 du r\u00e9el nouveau risque juridique\u2009: celui, demain, de la non-utilisation du traitement algorithmique de donn\u00e9es massives de sant\u00e9 d\u00e8s lors o\u00f9 une ou des solutions existent sur le march\u00e9 et qu\u2019elles auraient, tr\u00e8s probablement, permis un meilleur r\u00e9sultat ou, assur\u00e9ment, permis d\u2019\u00e9viter une erreur\u2026<\/p>\n