Le Docteur Jean-Michel Verret dresse le compte-rendu de la conférence du Professeur Serge UZAN.

Devant une assistance nombreuse et  attentive, le professeur Serge UZAN nous a présenté sa conférence : « Les algorithmes et l’intelligence artificielle vont-ils détrôner la médecine conventionnelle ? ».

Il est actuellement conseiller spécial du président de Sorbonne Université, conseiller national de l’Ordre des Médecins et président de la commission de recertification des médecins ainsi que directeur de l’institut universitaire de cancérologie.

Il va  exposer   les questions qui feront la trame  de ses propos : vers quelles  évolutions disruptives  va-t-on ;  atteindront-elles leurs promesses ;  comment faire évoluer la formation des médecins et que restera –t-il de la relation entre le médecin le patient et surtout que souhaitent les patients eux-mêmes.

Définitions essentielles pour la compréhension:

Compte tenu de la nouveauté du thème, Serge UZAN a  commencé par définir des mots l’humanisme actuel qui sera suivi d’un trans-humanisme de progrès utilisant une intelligence artificielle faible s’appuyant sur les algorithmes et les robots puis un trans humanisme de rupture avec  un risque d’ eugénisme, de bio totalitarisme en rapport avec une intelligence artificielle forte imposant des décisions logiques sans humanité et peut-être une médecine d’augmentation (puce dans le cerveau, par exemple). 

Les algorithmes, ce sont des séquences prédéfinies d’instruction qui permettent au cas par cas de classer et de procéder à des calculs. Le Deep Learning, c’est l’utilisation d’algorithmes complexes constitués de plusieurs couches de réseau neuronaux, permettant  un auto-apprentissage et de créer des liens et des notions qui n’ont pas été fournies à la machine. Le système expert : un système d’intelligence artificielle correspondant un domaine spécifique comme la médecine. La machine Learning étend la capacité d’un système expert et l’entraîne à s’améliorer elle-même au fur et à mesure de son fonctionnement. Cela peut conduire à la création de  blacks box ou boîtes noires où un système de Deep Learning aboutit à un résultat sans que l’on sache comment identifier la procédure le permettant.

L’intelligence artificielle faible est  la science de programmer des ordinateurs pour qu’ils réalisent des tâches qui nécessitent l’intelligence quand elles  sont réalisées par des êtres humains). 

L’intelligence artificielle forte correspond à  une automatisation  d’activité que nous associons à la pensée humaine comme la prise de décision, la résolution de problèmes et surtout l’apprentissage. Il est évident que les boites noires présentes un danger puisque la machine donne des réponses sans fournir d’explications rationnelles. C’est pourquoi,  le Sénat veut  imposer que, sans mention relative aux algorithmes ayant abouti à  une décision administrative, celle-ci  soit nulle.

Le facteur différenciateur dans l’intelligence artificielle réside davantage dans les données et les hommes que dans les algorithmes ;  d’où l’importance majeure que constituent des bases de données et la véritable guerre d’acquisition de ces données que se livrent les GAFAM (Google, Amazone, Facebook, ?? Microsoft).

Une diapositive été particulièrement troublante : Celle de la reconnaissance d’une banane  par un ordinateur. Si l’objet est isolé, aucune erreur.  Mais si on y associe un autre objet, voire sa reproduction photographique, les erreurs se multiplient, jusqu’à  effacer la  reconnaissance du premier objet.  . Cela pose le problème de la fiabilité de la conduite autonome dont la  prise de contrôle avec un usage malveillant pourrait avoir des conséquences dramatiques.

Serge UZAN  a terminé cette partie concernant l’évolution de l’intelligence artificielle par le post humanisme et le principe de la singularité s’appuyant le très beau livre de Jean Gabriel GANASCIA « Le mythe de la Singularité » : quelles que soient les modalités d’apprentissage des algorithmes, les machines n’acquièrent pas pour autant d’autonomie au sens philosophique du terme car elles restent soumises aux finalité imposées par ceux qui auront annoté les exemples dans la phase d’apprentissage (du moins pour l’instant).

Dès maintenant, l’intelligence artificielle ou les robots ont permis des réussites au-delà de ce qu’on pensait réalisable  comme la réparation du génome,  le cœur artificiel, la rétine artificielle, la thérapie génique, les greffes d’organes nouveaux comme l’utérus.

 Il a parlé d’Emmanuelle Charpentier et  de Jennifer Dounda qui ont inventé le ciseau génétique (le CRISPR cas 9). C’est ainsi que des chercheurs ont réussi à corriger dans 42 embryons de laboratoire sur 58 un gène porteur d’une maladie cardiaque.  Mais cela peut  entraîner des risques « d’impact erratique » avec des effets délétères tout à fait majeurs. (Le lien avec le thème de son exposé ne m’a pas paru évident, mais parler de probables futurs prix Nobel n’était pas sans intérêt).

Compte tenu de ses activités en cancérologie, le professeur UZAN a pris l’exemple de la médecine personnalisée avec les progrès entraînés dans cette spécialité que ce soit pour les cancers du sein ou les cancers de la peau qui sont reconnus de façon plus rapide que par un dermatologue entraîné.

Il a évoqué  la recherche inversée permise par l’IA. C’est à partir des résultats que l’on pourra formuler des hypothèses, alors qu’auparavant l’on formulait des hypothèses dont on validait la justesse par l’expérimentation, exemple du curare : Claude Bernard a hésité entre localiser l’action du curare au niveau du nerf ou au niveau du muscle. Sans pouvoir évoquer la bonne réponse puisque le site d’action était la plaque neuromusculaire dont on ignorait encore l’existence. Pour Serge UZAN, l’analyse des résultats aurait évoqué l’existence de ce lieu avant que l’on ne la découvre au microscope. 

Les risques de l’IA

La prise de pouvoirs de machines incontrôlables appartient aux mythes de la science-fiction.

La soumission de l’individu à la décision prise par un  décideur  (l’IA)  qu’il estime supérieur à lui ; avec un renoncement à son esprit critique.

Et c’est là que les boites noires seraient particulièrement inquiétantes. Une diapositive été particulièrement troublante : Celle de la reconnaissance d’une banane  par un ordinateur. Si l’objet est isolé, aucune erreur.  Mais si on y associe un autre objet, voire sa reproduction photographique, les erreurs se multiplient, jusqu’à  effacer la  reconnaissance du premier objet.  . Cela pose le problème de la fiabilité de la décision comme celle de la conduite autonome dont la  prise de contrôle par un  malveillant pourrait avoir des conséquences dramatiques.

Les bénéfices de l’IA

Grâce au traitement des données extrêmement larges comme celles dont on dispose en France avec la sécurité sociale entre autre l’on pourrait voir apparaître précocement  des signaux sanitaires profanes issus des réseaux sociaux,    entraînant une meilleure sécurité pour les médicaments.

 Il est revenu au patient et à la médecine. L’important est l’adhésion du patient à  la stratégie qui leur sera proposée. Si on peut accepter un diagnostic et un traitement envisagés par un médecin en qui l’on a confiance, est-ce qu’on le pourra avec un robot, même si on est convaincu qu’il a été alimenté par les données les plus récentes ?  Ainsi un robot pourrait-il intégrer les sentiments du patient dans son « raisonnement » Il est fréquent qu’un patient  exprime les termes « je ne comprends pas », « je ne veux pas », « je préférerais », « je vais réfléchir », etc. et surtout poser une des  questions  des plus:  « que feriez-vous si j’étais votre mère votre sœur, votre fille,  etc. »

La construction de la décision médicale reposera sur des paramètres établis scientifiquement par les voies de la biologie, des mathématiques en ayant recours aux algorithmes.  La question primordiale : la prise de décision doit-elle être assistée par l’analyse de données ou doit-elle  être dirigée par ces algorithmes issus de ces données ?

Pour Serge UZAN, t la bonne décision sera le résultat de la confrontation des solutions proposées par les données (data Systems) et de la discussion   en réunion de concertation pluridisciplinaire avec une décision partagée par des médecins.

Par rapport à nos premières années d’exercice,  le médecin  ne peut plus être seul face à la maladie. C’est un ensemble de soignants, qui se concertent pour combiner  tous les aspects de la prise en charge, biologie,  psychologie et de l’éthique à la chirurgie pour optimiser le soin. 

L’on ne doit pas avoir peur de l’intelligence artificielle.

La médecine pourra être encore plus humaine grâce à l’aide de l’intelligence artificielle, des algorithmes et de la prise en compte de l’écologie : en libérant du temps médical, ils pourront l’aider à un  partage de  la décision avec le patient et en réduisant le stress de l’erreur ou de l’oubli,  lui permettre un exercice de la médecine plus serein.

C’est l’essentiel à savoir la parole, l’écoute, l’échange, la compassion, l’empathie et surtout la capacité de particulariser la décision ou plus simplement de respecter le choix des patients et finalement le doute.

 Reste la possibilité de transgression, parfois dangereuse,  parfois bien utile. Ainsi la volonté d’une patiente atteinte d’un cancer a conduit Serge UZAN à lui administrer une chimiothérapie alors qu’elle était enceinte. Ce geste totalement interdit à l’époque, pour des raisons de prudence est devenu de pratique courante, dans certains cas et avec certaines molécules. Cette transgression aurait-elle été facilité par l’analyse des BIG DATA ou au contraire strictement interdite par les mêmes ? Le Pr UZAN n’a pas discuté ce point. 

Les conclusions du professeur UZAN  sont très positives. 

Le temps sera libéré pour la relation humaine.

La formation des médecins en e-médecine va devenir un temps fort tout au long de l’exercice.

L’apprentissage par simulation va devenir un temps essentiel de la formation  des médecins. Le Pr UZAN  Serge a déjà développé l’adage : « jamais la première fois sur un patient » en permettant de simuler certaines actions thérapeutiques avant de les mettre en œuvre pour pouvoir en apprécier les conséquences et optimiser leur réalisation.

Parmi les messages forts, il devient  indispensable  d’enseigner aux étudiants de travailler au sein d’une même équipe, d’enseigner la transgression, l’éthique, le médico-légal.  Il sera toujours nécessaire d’intégrer le partage de décision avec le patient. À ce titre le maintien d’une relation humaine soignant soigné forte sera capable de transgresser loyalement les recommandations habituelles  et d’adapter les stratégies thérapeutiques aux souhaits et choix des patients.

Le Pr UZAN a insisté sur la nécessité dans la recertification (une de ses missions au sein du Conseil National de l’Ordre) d’une formation à la télémédecine,  véritable culture du partage d’informations qu’il faut enseigner à  tous les acteurs de santé afin d’offrir ensuite un suivi continu auquel le patient correctement formé pourra  lui-même accéder

Le patient sera intégré à un nouvel écosystème de démocratie sanitaire avec un rôle de plus en plus important des associations de patients. L’émergence de pathologies nouvelles, comme le SIDA,  ont conduit à cette prise en compte de plus en plus importante du rôle du patient.  C’est ainsi que dans l’université Pierre et Marie Curie a été créée une université de patient délivrant un diplôme.

En conclusion, même si cette prise en charge couplée médecin(s) machine et patient peut faire peur, le Pr UZAN pense que des médecins mieux formés au dialogue, à la discussion stratégique, pourront utiliser les BIG-DATA et l’IA pour le bien commun des patients, sans soumission à la machine. Et pour cela apprendre aux étudiants, esprit critique, respect de la parole du patient et humanité.

Comme la langue d’Ésope, l’IA peut être la meilleure, comme la pire des choses. 

Confiance réciproque entre le médecin et son patient leur servira à tous deux de conscience commune.

La conférence sera suivie de questions auquel le Pr UZAN répondra avec précision, confiance en l’avenir, humanité et sens éthique. La dernière aura trait à donner confiance, au patient, aux étudiants, aux praticiens.