Devant une assistance nombreuse et attentive, le professeur Serge UZAN nous a
présenté sa conférence : « Les
algorithmes et l’intelligence artificielle vont-ils détrôner la médecine
conventionnelle ? ».
Il est actuellement conseiller spécial du président de
Sorbonne Université, conseiller national de l’Ordre des Médecins et président de
la commission de recertification des médecins ainsi que directeur de l’institut
universitaire de cancérologie.
Il va exposer les
questions qui feront la trame de ses
propos : vers quelles évolutions disruptives
va-t-on ; atteindront-elles leurs promesses ; comment faire évoluer la formation des
médecins et que restera –t-il de la relation entre le médecin le patient et
surtout que souhaitent les patients eux-mêmes.
Définitions
essentielles pour la compréhension:
Compte tenu de la nouveauté du thème, Serge UZAN a commencé par définir des mots l’humanisme actuel
qui sera suivi d’un trans-humanisme de progrès utilisant une intelligence
artificielle faible s’appuyant sur les algorithmes et les robots puis un trans
humanisme de rupture avec un risque d’
eugénisme, de bio totalitarisme en rapport avec une intelligence artificielle
forte imposant des décisions logiques sans humanité et peut-être une médecine
d’augmentation (puce dans le cerveau, par exemple).
Les algorithmes,
ce sont des séquences prédéfinies d’instruction qui permettent au cas par cas
de classer et de procéder à des calculs. Le
Deep Learning, c’est l’utilisation d’algorithmes complexes constitués de
plusieurs couches de réseau neuronaux, permettant un auto-apprentissage et de créer des liens et
des notions qui n’ont pas été fournies à la machine. Le système expert : un système d’intelligence artificielle
correspondant un domaine spécifique comme la médecine. La machine Learning étend la capacité d’un système expert et
l’entraîne à s’améliorer elle-même au fur et à mesure de son fonctionnement.
Cela peut conduire à la création de blacks box ou boîtes noires où un système de Deep Learning aboutit à un résultat
sans que l’on sache comment identifier la procédure le permettant.
L’intelligence
artificielle faible est la science de programmer des ordinateurs pour
qu’ils réalisent des tâches qui nécessitent l’intelligence quand elles sont réalisées par des êtres humains).
L’intelligence artificielle forte correspond
à une automatisation d’activité que nous associons à la pensée
humaine comme la prise de décision, la résolution de problèmes et surtout
l’apprentissage. Il est évident que les boites noires présentes un danger
puisque la machine donne des réponses sans fournir d’explications rationnelles.
C’est pourquoi, le Sénat veut imposer que, sans mention relative aux
algorithmes ayant abouti à une décision
administrative, celle-ci soit nulle.
Le facteur différenciateur dans l’intelligence artificielle
réside davantage dans les données et les hommes que dans les algorithmes ;
d’où l’importance majeure que
constituent des bases de données et la véritable guerre d’acquisition de ces
données que se livrent les GAFAM (Google, Amazone, Facebook, ?? Microsoft).
Une diapositive été
particulièrement troublante : Celle de la reconnaissance d’une banane par un ordinateur. Si l’objet est isolé,
aucune erreur. Mais si on y associe un
autre objet, voire sa reproduction photographique, les erreurs se multiplient,
jusqu’à effacer la reconnaissance du premier objet. . Cela pose le problème de la fiabilité de la
conduite autonome dont la prise de
contrôle avec un usage malveillant pourrait avoir des conséquences dramatiques.
Serge UZAN a terminé
cette partie concernant l’évolution de l’intelligence artificielle par le post
humanisme et le principe de la singularité s’appuyant le très beau livre de
Jean Gabriel GANASCIA « Le mythe de
la Singularité » : quelles que soient les modalités d’apprentissage
des algorithmes, les machines n’acquièrent pas pour autant d’autonomie au sens
philosophique du terme car elles restent soumises aux finalité imposées par
ceux qui auront annoté les exemples dans la phase d’apprentissage (du moins
pour l’instant).
Dès maintenant, l’intelligence artificielle ou les robots ont
permis des réussites au-delà de ce qu’on pensait réalisable comme la réparation du génome, le cœur artificiel, la rétine artificielle, la
thérapie génique, les greffes d’organes nouveaux comme l’utérus.
Il a parlé d’Emmanuelle
Charpentier et de Jennifer Dounda qui
ont inventé le ciseau génétique (le CRISPR cas 9). C’est ainsi que des
chercheurs ont réussi à corriger dans 42 embryons de laboratoire sur 58 un gène
porteur d’une maladie cardiaque. Mais
cela peut entraîner des risques « d’impact
erratique » avec des effets délétères tout à fait majeurs. (Le lien avec
le thème de son exposé ne m’a pas paru évident, mais parler de probables futurs
prix Nobel n’était pas sans intérêt).
Compte tenu de ses activités en cancérologie, le professeur UZAN
a pris l’exemple de la médecine personnalisée avec les progrès entraînés dans
cette spécialité que ce soit pour les cancers du sein ou les cancers de la peau
qui sont reconnus de façon plus rapide que par un dermatologue entraîné.
Il a évoqué la recherche inversée permise par l’IA.
C’est à partir des résultats que l’on pourra formuler des hypothèses, alors
qu’auparavant l’on formulait des hypothèses dont on validait la justesse par
l’expérimentation, exemple du curare :
Claude Bernard a hésité entre localiser l’action du curare au niveau du nerf ou
au niveau du muscle. Sans pouvoir évoquer la bonne réponse puisque le site d’action
était la plaque neuromusculaire dont on ignorait encore l’existence. Pour Serge
UZAN, l’analyse des résultats aurait évoqué l’existence de ce lieu avant que
l’on ne la découvre au microscope.
Les risques de l’IA
La prise de pouvoirs de machines incontrôlables appartient
aux mythes de la science-fiction.
La soumission de l’individu à la décision prise par un décideur
(l’IA) qu’il estime supérieur à
lui ; avec un renoncement à son esprit critique.
Et c’est là que les boites noires seraient particulièrement
inquiétantes. Une diapositive été particulièrement troublante : Celle de
la reconnaissance d’une banane par un
ordinateur. Si l’objet est isolé, aucune erreur. Mais si on y associe un autre objet, voire sa
reproduction photographique, les erreurs se multiplient, jusqu’à effacer la
reconnaissance du premier objet.
. Cela pose le problème de la fiabilité de la décision comme celle de la
conduite autonome dont la prise de
contrôle par un malveillant pourrait
avoir des conséquences dramatiques.
Les bénéfices de l’IA
Grâce au traitement des données extrêmement larges comme
celles dont on dispose en France avec la sécurité sociale entre autre l’on pourrait
voir apparaître précocement des signaux sanitaires profanes issus des
réseaux sociaux, entraînant une meilleure sécurité pour les
médicaments.
Il est revenu au
patient et à la médecine. L’important est l’adhésion
du patient à la stratégie qui leur
sera proposée. Si on peut accepter un diagnostic et un traitement envisagés par
un médecin en qui l’on a confiance, est-ce qu’on le pourra avec un robot, même
si on est convaincu qu’il a été alimenté par les données les plus
récentes ? Ainsi un robot
pourrait-il intégrer les sentiments du patient dans son
« raisonnement » Il est fréquent qu’un patient exprime les termes « je ne comprends pas », «
je ne veux pas », « je préférerais », « je vais réfléchir »,
etc. et surtout poser une des questions des plus: « que feriez-vous si j’étais votre mère
votre sœur, votre fille, etc. »
La construction de la décision médicale reposera sur des
paramètres établis scientifiquement par les voies de la biologie, des
mathématiques en ayant recours aux algorithmes.
La question primordiale : la
prise de décision doit-elle être assistée
par l’analyse de données ou doit-elle être dirigée
par ces algorithmes issus de ces données ?
Pour Serge UZAN, t la bonne décision sera le résultat de la
confrontation des solutions proposées par les données (data Systems) et de la
discussion en réunion de concertation
pluridisciplinaire avec une décision partagée par des médecins.
Par rapport à nos premières années d’exercice, le médecin ne peut plus être seul face à la maladie.
C’est un ensemble de soignants, qui se concertent pour combiner tous les aspects de la prise en charge, biologie, psychologie et de l’éthique à la chirurgie
pour optimiser le soin.
L’on ne doit pas
avoir peur de l’intelligence artificielle.
La médecine pourra être encore plus humaine grâce à l’aide
de l’intelligence artificielle, des algorithmes et de la prise en compte de l’écologie
: en libérant du temps médical, ils pourront l’aider à un partage de la décision avec le patient et en réduisant le
stress de l’erreur ou de l’oubli, lui
permettre un exercice de la médecine plus serein.
C’est l’essentiel à savoir la parole, l’écoute, l’échange,
la compassion, l’empathie et surtout la capacité de particulariser la décision
ou plus simplement de respecter le choix des patients et finalement le doute.
Reste la possibilité
de transgression, parfois dangereuse, parfois bien utile. Ainsi la volonté d’une
patiente atteinte d’un cancer a conduit Serge UZAN à lui administrer une
chimiothérapie alors qu’elle était enceinte. Ce geste totalement interdit à
l’époque, pour des raisons de prudence est devenu de pratique courante, dans
certains cas et avec certaines molécules. Cette transgression aurait-elle été
facilité par l’analyse des BIG DATA ou au contraire strictement interdite par
les mêmes ? Le Pr UZAN n’a pas discuté ce point.
Les conclusions du
professeur UZAN sont très positives.
Le temps sera libéré pour la relation humaine.
La formation des médecins en e-médecine va devenir un temps
fort tout au long de l’exercice.
L’apprentissage par simulation va devenir un temps essentiel
de la formation des médecins. Le Pr UZAN
Serge a déjà développé l’adage : « jamais la première fois sur un patient »
en permettant de simuler certaines actions thérapeutiques avant de les mettre
en œuvre pour pouvoir en apprécier les conséquences et optimiser leur
réalisation.
Parmi les messages forts, il devient indispensable
d’enseigner aux étudiants de travailler au sein d’une même équipe,
d’enseigner la transgression, l’éthique, le médico-légal. Il sera toujours nécessaire d’intégrer le
partage de décision avec le patient. À ce titre le maintien d’une relation
humaine soignant soigné forte sera capable de transgresser loyalement les
recommandations habituelles et d’adapter
les stratégies thérapeutiques aux souhaits et choix des patients.
Le Pr UZAN a insisté sur la nécessité dans la recertification
(une de ses missions au sein du Conseil National de l’Ordre) d’une formation à
la télémédecine, véritable culture du
partage d’informations qu’il faut enseigner à tous les acteurs de santé afin d’offrir
ensuite un suivi continu auquel le patient correctement formé pourra lui-même accéder
Le patient sera intégré à un nouvel écosystème de démocratie
sanitaire avec un rôle de plus en plus important des associations de patients.
L’émergence de pathologies nouvelles, comme le SIDA, ont conduit à cette prise en compte de plus en
plus importante du rôle du patient. C’est
ainsi que dans l’université Pierre et Marie Curie a été créée une université de patient délivrant un diplôme.
En conclusion, même si cette prise en charge couplée médecin(s)
machine et patient peut faire peur, le Pr UZAN pense que des médecins mieux
formés au dialogue, à la discussion stratégique, pourront utiliser les BIG-DATA
et l’IA pour le bien commun des patients, sans soumission à la machine. Et pour
cela apprendre aux étudiants, esprit critique, respect de la parole du patient
et humanité.
Comme la langue d’Ésope, l’IA peut être la meilleure, comme
la pire des choses.
Confiance réciproque
entre le médecin et son patient leur servira à tous deux de conscience commune.
La conférence sera suivie de questions auquel le Pr UZAN
répondra avec précision, confiance en l’avenir, humanité et sens éthique. La
dernière aura trait à donner confiance, au patient, aux étudiants, aux
praticiens.
