{"id":45976,"date":"2023-01-01T11:26:10","date_gmt":"2023-01-01T10:26:10","guid":{"rendered":"https:\/\/gestions-hospitalieres.fr\/?p=45976"},"modified":"2023-01-31T10:54:18","modified_gmt":"2023-01-31T09:54:18","slug":"le-fardeau-de-la-decision-a-lepreuve-de-lia","status":"publish","type":"post","link":"https:\/\/www.ricom-web8.com\/gestions\/le-fardeau-de-la-decision-a-lepreuve-de-lia\/","title":{"rendered":"Le fardeau de la d\u00e9cision \u00e0 l\u2019\u00e9preuve de l\u2019IA"},"content":{"rendered":"Temps de lecture\u00a0: <\/span> 4<\/span> minutes<\/span><\/span>

Les soignants sont quotidiennement confront\u00e9s \u00e0 des situations imposant une prise de d\u00e9cision. Concr\u00e8tement, pour exemple, on estime qu\u2019un m\u00e9decin r\u00e9animateur prend environ une dizaine de d\u00e9cisions par heure au cours de sa journ\u00e9e de travail(2)<\/sup>. Dans une autre \u00e9tude, toujours en r\u00e9animation, le nombre total de d\u00e9cisions prise dans une matin\u00e9e par un m\u00e9decin d\u00e9passe la centaine(3)<\/sup>. Il existe, par ailleurs, de nombreux facteurs pouvant influencer ces d\u00e9cisions telles que les biais cognitifs ou les biais implicites. Ces biais, bien d\u00e9crit par Sibony impactent consid\u00e9rablement l\u2019orientation d\u00e9cisionnelle(4)<\/sup>. D\u2019autres facteurs, non pas psychiques mais physiques, peuvent entrer en jeu, tel que le degr\u00e9 de fatigue, le moment de journ\u00e9e ou les \u00e9motions personnelles. Pour nombre de ces d\u00e9cisions, les cons\u00e9quences peuvent \u00eatre importantes, g\u00e9n\u00e9rant alors une charge mentale non n\u00e9gligeable, et justifiant ainsi qu\u2019on utilise le qualificatif de fardeau.\u00a0<\/span><\/p>\n

Le terme \u00ab\u2009fardeau\u2009\u00bb, s\u2019il correspond \u00e0 une charge ou poids \u00e0 porter (issu du mot \u00ab\u2009fardel\u2009\u00bb d\u00e9signant une botte d\u2019herbe), pr\u00e9sente aussi un sens figur\u00e9 de ce qui est difficile \u00e0 supporter moralement. La responsabilit\u00e9, \u00e9voqu\u00e9e pr\u00e9c\u00e9demment, participe \u00e0 ce poids moral.<\/p>\n

Si le choix est issu d\u2019un calcul, proche d\u2019une formule math\u00e9matique, la d\u00e9cision comporte une part d\u2019intuition. Il existe ainsi une nuance subtile entre choix et d\u00e9cision, celle de l\u2019incertitude. Charles\u00a0P\u00e9pin, philosophe contemporain, relate cette diff\u00e9rence dans Les Vertus de l\u2019\u00e9chec<\/i>\u2009: \u00ab Si d\u00e9cision et choix pourraient para\u00eetre synonymes, ils ne le sont pas et il faut comprendre leur diff\u00e9rence pour approcher le secret de l\u2019audace.(5)\u2009<\/sup>\u00bb<\/p>\n

Afin de se soulager partiellement de celui-ci, a \u00e9t\u00e9 mis en place progressivement, dans les unit\u00e9s de soins, des r\u00e9unions permettant des prises de d\u00e9cisions coll\u00e9giales. Cette derni\u00e8re reste cependant sujet \u00e0 caution tant on sait que m\u00eame en groupe, les d\u00e9cisions prises ne refl\u00e8tent pas forc\u00e9ment la somme des individualit\u00e9s(6)<\/sup>. Si la d\u00e9cision partag\u00e9e soulage le praticien sur la charge qu\u2019elle repr\u00e9sente, cela interroge aussi sur l\u2019ambigu\u00eft\u00e9 qu\u2019elle g\u00e9n\u00e8re en termes de diminution de sa responsabilit\u00e9 individuelle. Par ailleurs, il n\u2019est pas toujours possible de convoquer cette coll\u00e9gialit\u00e9 dans le monde hospitalier, notamment dans l\u2019urgence (imp\u00e9ratif temporel) ou la nuit (moins de personnel) par exemple.<\/p>\n

La cons\u00e9quence premi\u00e8re est la potentielle erreur, de moins en moins accept\u00e9e par une soci\u00e9t\u00e9 cultivant l\u2019espoir d\u2019un risque z\u00e9ro. Les erreurs m\u00e9dicales restent malheureusement encore bien plac\u00e9es dans les causes de mortalit\u00e9(7)<\/sup>. Pour r\u00e9pondre \u00e0 cette exigence, se met en place progressivement des syst\u00e8mes d\u2019aide \u00e0 la d\u00e9cision ayant recours \u00e0 une intelligence artificielle (IA). On retrouve ces solutions dans de nombreuses \u00e9tapes de la prise en charge des patients allant du diagnostic, du choix des examens \u00e0 des propositions th\u00e9rapeutiques. L\u2019objectif principal est de pouvoir r\u00e9pondre \u00e0 une question pos\u00e9e et orienter ainsi le praticien dans son processus d\u00e9cisionnel. Si l\u2019intention initiale est d\u2019apporter une aide, il ne faut pas en n\u00e9gliger les cons\u00e9quences. En effet, l\u2019argument souvent mis en avant, par les thurif\u00e9raires de ces technologies, est la libert\u00e9 laiss\u00e9e au d\u00e9cideur de suivre ou non la recommandation formul\u00e9e par l\u2019IA \u00ab\u2009ce n\u2019est qu\u2019une aide, il reste le seul d\u00e9cisionnaire\u2009\u00bb. C\u2019est cette libert\u00e9 qu\u2019il faut analyser avec une approche philosophique : si le praticien n\u2019a aucune possibilit\u00e9 d\u2019avoir une lecture critique du r\u00e9sultat d\u00e9livr\u00e9 par l\u2019entit\u00e9 virtuelle, il se retrouve dans une position d\u2019ali\u00e9nation \u00e0 cette technologie. Descartes nous alerte sur la libert\u00e9 tr\u00e8s restreinte qui est celle d\u2019avoir le choix entre deux options sans avoir d\u2019argument fort pour l\u2019une ou l\u2019autre \u00ab\u2009de fa\u00e7on que cette indiff\u00e9rence que je sens, lorsque je ne suis pas emport\u00e9 vers un c\u00f4t\u00e9 plut\u00f4t que vers un autre par le poids d\u2019aucune raison, est le plus bas degr\u00e9 de la libert\u00e9, et fait plut\u00f4t apparaitre un d\u00e9faut de connaissance, qu\u2019une perfection dans la volont\u00e9(8)<\/sup>\u2009\u00bb. L\u2019indiff\u00e9rence est ainsi la preuve de notre ignorance. Il ne suffit pas de pouvoir choisir pour \u00eatre libre, il faut aussi savoir pour pouvoir bien choisir. Seule la connaissance, permettant de justifier sa d\u00e9cision, est, pour l\u2019homme, l\u2019expression de sa libert\u00e9. Le soignant risque ainsi de voir s\u2019amenuiser progressivement sa libert\u00e9 si, d\u00e9pouill\u00e9 de sa connaissance, il n\u2019a plus de capacit\u00e9 critique face aux r\u00e9sultats algorithmiques d\u2019une IA positionn\u00e9e initialement comme une aide \u00e0 la d\u00e9cision. De plus, l\u2019opacit\u00e9 intrins\u00e8que au fonctionnement de certains r\u00e9seaux de neurones (sous la d\u00e9nomination \u00ab\u2009blackbox\u2009\u00bb) ajoute une difficult\u00e9 suppl\u00e9mentaire pour les cliniciens \u00e0 interpr\u00e9ter les r\u00e9sultats d\u00e9livr\u00e9s.\u00a0<\/span><\/p>\n

Ainsi, d\u00e8s lors qu\u2019aura \u00e9t\u00e9 d\u00e9montr\u00e9e la sup\u00e9riorit\u00e9 d\u2019une IA pour r\u00e9pondre \u00e0 une question, il sera difficile pour l\u2019humain de formuler une r\u00e9ponse diff\u00e9rente, ce d\u2019autant que, le plus souvent, la d\u00e9marche aboutissant \u00e0 ce r\u00e9sultat lui sera inconnue. Le risque sera alors d\u2019\u00e9voluer vers une soumission du m\u00e9decin \u00e0 une technologie dominante.\u00a0<\/span><\/p>\n

L\u2019IA pourrait d\u00e9lester le clinicien du fardeau de la d\u00e9cision. Les b\u00e9n\u00e9fices, pour les patients, devraient \u00eatre consid\u00e9rables. Il est cependant urgent de s\u2019int\u00e9resser au risque d\u2019une telle strat\u00e9gie, pouvant aboutir \u00e0 une d\u00e9gradation durable de la relation singuli\u00e8re qui jusque-l\u00e0 liait le soignant au soign\u00e9. Il est imp\u00e9ratif, pour les soignants, de se former \u00e0 ces nouvelles technologies afin de participer activement \u00e0 leur int\u00e9gration dans un syst\u00e8me de sant\u00e9 en pleine mutation.<\/p>\n

\"\"
Illustration cr\u00e9\u00e9e sous Dall-E, un g\u00e9n\u00e9rateur d’images artificielles \u00a9 Cyril Goulenok<\/figcaption><\/figure>\n