IA et Santé : pourquoi l’action publique ne peut plus attendre

Une technologie en manque de politique publique ?

L’intelligence artificielle constitue un enjeu de plus en plus fort de mobilisation des politiques publiques. La publication, au mois de mars 2024, du rapport de la « Commission IA » réunie sous l’égide de la Première ministre[1] a ainsi constitué une forte illustration de la volonté de la France d’inscrire les enjeux de cette révolution technologique au cœur des priorités publiques. Le sigle « IA » est maintenant un vocable entré dans le langage courant dans les différents champs d’action publique et, plus largement, auprès du grand public.

Rappelons que selon la définition classique de Marvin Lee Minsky[2], l’intelligence artificielle correspond à « la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisante par des êtres humains car elles demandent des processus mentaux de haut niveau tels que : l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique ». Les termes « Informatique Heuristique » sont parfois considérés comme plus appropriés, l’heuristique renvoyant, selon le Littré, à « l’art d’inventer, de faire des découvertes ». Nous ne reviendrons pas ici sur les débats terminologiques mais précisons d’emblée que la focale sera mise davantage sur les outils d’algorithmiques d’aide à la décision que sur la robotique[3].

Le déploiement des outils d’intelligence artificielle en santé a fait l’objet récemment de nombreux travaux et publications. La percée technologique constatée depuis début 2023 avec la diffusion rapide de l’intelligence artificielle générative (IAG) a encore accentué l’intérêt pour les usages de l’IA en matière de santé. Certains travaux récents – comme le rapport très important récemment publié par le think tank santé des Echos[4] – ont notamment permis de souligner la démultiplication des cas d’usage, effectifs ou encore potentiels, dans de nombreuses aires thérapeutiques, et le potentiel majeur d’innovations et de création de valeur au sein du système de santé qui leur sont associés. 

Tout en les rappelant synthétiquement, l’objectif de la présente note n’est pas de reprendre ces constatations mais plutôt de les réinterroger à la lumière des politiques publiques : au-delà du constat que les usages sont en pleine expansion, au-delà de l’observation des progrès de la régulation nationale et européenne, quel rôle attribuer aujourd’hui à l’action publique ? L’urgence est à la définition d’une politique publique qui soutienne le déploiement des outils d’IA en santé de façon à ce qu’il soit conforme aux intérêts des patients, au carrefour des principes cardinaux que sont l’équité d’accès, la qualité et la sécurité des pratiques médicales, et la souveraineté. 

Dans une étude globale publiée en 2023, la Chaire Santé de Sciences Po Paris avait montré l’étendue du champ des possibles et l’intérêt de principe de l’action publique dans le domaine de l’IA en santé[5]. Le constat aujourd’hui est cependant celui d’un manque – ou a minima d’un retard de structuration – de cette politique publique. Dans un contexte d’engagement majeur des pouvoirs publics sur le numérique en santé depuis 2017–2018, le champ de l’IA reste paradoxalement moins abordé sous l’angle des leviers d’action publique à utiliser pour améliorer la prévention et l’accès aux soins dans le réel des territoires. 

Ce retrait relatif des politiques publiques a certes aussi ses vertus. L’absence de cadrage national sur le recours à l’IA comme levier d’accès aux soins a laissé de facto une liberté aux initiatives de terrain et aux créateurs d’innovations en santé. Nous sommes ici au fond devant une problématique classique : le dilemme courant d’une action publique qui cherche à combiner la promotion d’une innovation avec la nécessité de la réguler, au risque de la freiner.

Cette problématique du juste curseur éthico-politique de la régulation en matière d’innovation a constitué un enjeu très fort du débat public sur l’IA en santé depuis 2017 et elle a guidé l’engagement du processus de réexamen de la loi de bioéthique française.

Aujourd’hui cependant, mi-2024, l’accélération de la technologie décale le champ du débat public : en pratique, ce dilemme et les outils de sa résolution sont déjà à maturité. Professionnels de santé, chercheurs et patients s’approprient déjà sur le terrain à la fois les outils d’IA et les outils de sa régulation notamment par le principe de garantie humaine reconnu dans la loi de bioéthique française de 2021 et le nouveau règlement européen AI Act. Nous n’en sommes plus à des questions de principe mais à une problématique d’embrayage, de mise à l’échelle du déploiement de ces nouveaux instruments dans un cadre d’action publique conforme aux valeurs des systèmes de santé en France et en Europe.

La présente note ne traitera pas spécifiquement la question majeure de « l’amont » de l’intelligence artificielle, à savoir les modalités de collecte et de traitement des données de santé. Le rapport récemment publié par le Healthcare Data Institute donne une vision d’ensemble de cette thématique en soulignant la nécessité d’un meilleur accès aux données de santé pour l’innovation tout en préservant la confiance des professionnels de santé et des patients[6]. Des moyens ont été consacrés par les pouvoirs publics à ce sujet notamment dans le cadre des appels à projets dédiés mis en œuvre par le Health Data Hub pour soutenir le développement des entrepôts de données de santé (EDS)[7]. Ces leviers doivent naturellement être consolidés. Comme le montrent des démarches transversales comme celles portées dans le cadre du chantier des « datas transformeurs »[8], nous avons à la fois une dynamique réelle à soutenir sur le data management en santé et encore beaucoup de chemin à parcourir pour en tirer tout le potentiel. Nous aurons notamment l’occasion de revenir dans cette note sur la notion de « responsabilité populationnelle » en santé : si l’intelligence artificielle peut en être un adjuvant utile par l’émergence de parcours territorialisés dans plusieurs spécialités médicales, une véritable dynamique de santé populationnelle impliquera une forte structuration des outils de connaissance et de pilotage par les données de santé au plus proches des territoires.

L’objectif de ce travail est donc plutôt d’apporter une contribution sur les usages effectifs et potentiels de l’IA en matière de prévention et d’accès aux soins. Elle s’efforce ainsi d’intégrer des éléments de synthèse de nombreux travaux très utiles et approfondis conduits récemment sur la thématique de l’IA en santé. Mais cette note vise aussi à montrer que le moment est maintenant venu de construire une politique publique de soutien durable à la diffusion de l’IA en santé. Cette étude recense trois types de signaux qui témoignent de l’urgence qu’il y a à se saisir aujourd’hui de cet enjeu. Premier signal, sur la souveraineté : l’accélération de l’innovation technologique et numérique a aussi pour effet de rendre plus poreuses les frontières entre systèmes de santé. Sans initiative forte pour soutenir l’IA en santé dans un cadre d’affirmation de la souveraineté numérique française et européenne, le risque serait grand d’un dépassement voire d’une perte de capacité d’action pour construire l’avenir de notre système de santé. Deuxième signal, sur la qualité et la sécurité des usages : si un cadre juridique – français et européen – est désormais en vigueur autour de l’obligation de supervision humaine des systèmes d’IA par les professionnels de santé et les représentants des patients, nous observons, en l’état, une hétérogénéité des modalités de diffusion de l’IA et des pratiques de contrôle humain. Enfin, dernier signal d’urgence : à voir l’actuelle accélération des usages d’IA génératives, un déficit d’accompagnement public risque d’avoir pour corollaire le développement d’initiatives privées et payantes corrosives pour l’équité d’accès.

Ce document présente les principales opportunités pour l’IA d’améliorer les résultats de santé, les risques critiques à aborder dans son déploiement en santé, et propose des actions politiques pratiques pour opérationnaliser une IA responsable qui respecte les valeurs du système de soins et améliore les résultats de santé. Ces actions bénéficieront de principes communs et de garde-fous qui sont déjà à maturité.

Dans cette perspective, nous montrerons l’ampleur de la diffusion de l’IA dans notre système de santé et de maintien en autonomie, dont la rapidité se combine avec une relative inorganisation (1.).

Pour autant, trois stimuli majeurs peuvent être identifiés pour marquer l’intérêt d’une politique publique de soutien à la diffusion de l’IA en santé : des gains de santé publique à portée de main, une course contre-la-montre pour éviter une perte de souveraineté ainsi qu’un cadre juridique de déploiement désormais à maturité (2.).

Dès lors, une fois reconnue l’urgence de cette politique publique pour soutenir une IA de confiance en santé peuvent être dégagés des leviers d’action à court et moyen terme (3.).

1. Une diffusion de l’IA en santé rapide mais peu organisée

1.1 Une percée majeure et en forte accélération de l’IA en santé

Depuis deux à trois ans, notre pays est entré dans une phase d’accélération majeure des intentions de recours aux outils d’IA par les professionnels de santé. Une littérature analytique et académique en pleine croissance le démontre déjà.

Ce phénomène n’est pas propre à notre pays mais constitue une véritable lame de fond transformant les systèmes de santé en Europe, aux Etats-Unis ou en Chine.

Alors que la première vague de déploiement a surtout concerné les dispositifs de reconnaissance d’image par apprentissage machine (1.1.1.), on assiste à présent à une accélération du recours à des outils d’IA générative (1.1.2.). La focale mise désormais sur ChatGPT semble en quelque sorte décomplexer les acteurs de santé sur le recours aux dispositifs d’IA de la « génération d’avant ».

1.1.1 Première étape : l’extension rapide des usages des systèmes apprenants d’analyse d’images

Le déploiement de l’IA en santé a d’abord concerné le champ du diagnostic et de la lecture d’images. Il s’agit ici principalement de traumatologie aux urgences, radiologie générale, dermatologie, ophtalmologie : tous ces champs de spécialités à haut niveau de requérance en interprétation d’images connaissent une phase sans précédent de diffusion de solutions d’IA sur le terrain. La diffusion rapide de ces solutions donne des opportunités majeures de rapprochement de l’accès au diagnostic de spécialités dans la ruralité ou dans les quartiers urbains en difficulté.

Ces innovations deviennent un objet de régulation publique : en 2023, plus de 700 systèmes d’intelligence artificielle appliqués au diagnostic médical ont été approuvés par l’agence nord-américaine Food and Drug Administration (FDA).

En France, le premier acteur public à s’emparer des enjeux de cette accélération a été le Comité consultatif national d’éthique (CCNE), et singulièrement de son comité pilote sur le numérique[21] : l’avis commun 141 du CCNE (avis n°4 du Comité national pilote d’éthique du numérique) adopté en novembre 2022[22] a permis d’établir un premier tableau global des différents cas d’utilisation de l’IA observés ou en construction dans le système de santé en France. Se concentrant sur les systèmes d’intelligence artificielle appliqués au diagnostic médical (SIADM) visant l’amélioration des performances techniques des praticiens, cet avis (voir encadré ci-dessous) part du constat suivant : « Le secteur de la santé et de la médecine apparaît particulièrement concerné par le développement de systèmes d’intelligence artificielle. Leur application au champ médical induit une transformation de la relation entre médecins et patients et ouvre de nombreuses questions sur l’avenir des systèmes de santé ». Il représente un document de référence précieux pour constater l’ampleur de la cinétique en cours pour la diffusion de l’IA dans notre système de santé.

1.1.2 De la lecture apprenante d’images à la révolution de l’IA générative

L’IA en santé ne relève donc plus, on l’aura compris, de la science-fiction mais bien d’une réalité majeure des systèmes de santé. Ces premiers éléments évoqués n’intègrent pourtant pas le fait de rupture majeure que constitue la percée de l’IA générative, véritable game changer pour la diffusion de l’IA en santé dans son ensemble.

Les systèmes d’intelligence artificielle générative (SIAgen) sont définis notamment par l’avis 7 du Comité National Pilote d’Éthique[34] comme étant des modèles génératifs capables de produire de multiples sorties (outputs ou résultats) : comme du texte ou des images. Ces modèles génératifs peuvent servir de fondation à d’autres systèmes et répondent à des invitations ou requêtes (appelées prompts) en produisant de nouvelles données. Le système peut être unimodal ou multimodal : un système unimodal n’accepte qu’un seul type d’entrée (par exemple, du texte), tandis qu’un système multimodal peut accepter plusieurs types d’entrées (par exemple du texte et des images).

Dans son rapport sur cette question en mars 2024, l’Académie nationale de médecine a montré toute la profondeur des changements en cours. Elle a assumé une position particulièrement forte, affirmant : « L’usage des Systèmes d’Intelligence Artificielle Générative par les professionnels de santé doit se généraliser ; il serait contraire à l’éthique de se passer de l’aide de ces outils ». Pour autant, elle a aussi souligné que « ces systèmes présentent des risques avérés de leur conception à leur utilisation et à leurs évolutions », et recommandé instamment que « tous les professionnels de santé doivent être formés à leur usage ».

Parmi les usages émergents qui sont analysés par l’Académie (voir encadré ci-dessous), ceux qui retiendront ici plus particulièrement l’attention permettent d’améliorer les pratiques des professionnels, l’organisation des établissements, et donc la qualité des soins. Il s’agit par exemple des outils de production de contenus à partir de textes : courriers de liaison entre professionnels, synthèses de dossiers médicaux, comptes-rendus d’hospitalisation sont en passe de connaître une révolution qui aura un impact majeur sur l’emploi du temps des personnels de santé. Les Académiciens appellent de leurs vœux les bénéfices que ces outils apportent pour le travail en réseau des professionnels et soulignent « l’amélioration de la coordination des soins au sein des équipes multidisciplinaires, grâce à des outils de communication intelligents qui pourront mettre à la disposition des professionnels les informations pertinentes pour permettre une prise de décision multidisciplinaire éclairée et rapide ». Ils évoquent aussi, en miroir, la révolution qui s’annonce dans la répartition des tâches et des métiers : « des nouvelles compétences pourront être créées, d’autres disparaitront, la plupart devront s’adapter aux nouvelles technologies ».

Autre élément de disruption dans les pratiques, déjà identifié par l’Académie : la transformation des relations entre usagers et hôpital. Deux voies de transformation sont engagées : d’une part, l’automatisation du suivi des parcours patients, facilitée grâce aux SIAgen, peut permettre d’adapter les plannings en temps quasi réel (prise de rendez-vous) ; d’autre part, les agents conversationnels déjà opérationnels dans certains établissements, peuvent guider et informer les patients à travers les procédures hospitalières tout en réduisant la charge sur le personnel.

1.1.3 L’extension du périmètre applicatif de l’IA en santé : les exemples de la santé mentale et du vieillissement

En phase majeure d’accélération technologique, l’IA en santé étend, par ailleurs, son spectre applicatif avec des avancées tout à fait notables des cas d’usages susceptibles d’être mobilisés dans les domaines de la santé mentale et du vieillissement. Dans des secteurs essentiels pour l’avenir des systèmes de santé et d’autonomie, l’intelligence artificielle présente de réelles perspectives applicatives.

Dans le domaine de la santé mentale, l’intelligence artificielle donne la perspective d’une détection précoce des pathologies et ouvre de nouvelles modalités d’accès aux dispositifs de prise en charge avec le recours à des agents conversationnels sous contrôle humain en première ligne, sans doute plus adaptés à certaines catégories de populations comme les jeunes. A titre d’exemple, le projet PsyCare[36] à l’initiative du GHU Paris Psychiatrie & Neurosciences met en œuvre une solution d’IA pour la détection précoce et l’aide au diagnostic des troubles psychiques afin de faciliter l’accès aux soins et déployer des programmes thérapeutiques personnalisés. Le CHU de Bordeaux a également élaboré un programme “Julia” sous la forme d’un agent conversationnel pour une aide au diagnostic des addictions.

S’agissant de la prise en charge du vieillissement, des démarches de forte mobilisation du recours à l’IA sont également à souligner comme la mobilisation de robots de stimulation cognitive ou la mise en œuvre de programmes de reconnaissance d’image pour détecter plus précocement l’émergence de pathologies neuro-dégénératives. Cette dynamique d’innovations se retrouve dans la labellisation en 2023 de l’Institut Hospitalo-Universitaire (IHU) HealthAge dédié au vieillissement et porté par le CHU de Toulouse[37].

Ces outils d’IA peuvent aussi être utilisés pour améliorer la qualité de vie des personnes en perte d’autonomie en évitant les séjours hospitaliers inutiles. Ils peuvent ainsi venir en aval des évaluations ICOPE (Integrated Care for Older People), programme de santé publique conçu par l’Organisation mondiale de la Santé (OMS) permettant d’expérimenter une nouvelle approche préventive des soins en ciblant les capacités fonctionnelles des personnes. Ces articulations potentielles ont fait l’objet de communications récentes dans le cadre des Journées du Vieillissement et du Maintien de l’Autonomie de Tours[38]. Le CHU de Limoges a, par ailleurs, engagé une étude innovante en intégrant un double diagnostic envoyé à une intelligence artificielle qui par la suite partagera son propre diagnostic à un médecin à distance qui n’a pas besoin de se déplacer. L’objectif principal est de prévenir les hospitalisations susceptibles d’être évitées. Sur un autre segment applicatif, une solution innovante provient de la startup OSO-AI portée par des entrepreneurs brestois depuis 2018. Placé directement dans les chambres des patients et résidents, que ce soit en Ehpad ou à domicile, cette “oreille augmentée des soignants” se présente sous la forme d’un petit boîtier non invasif qui opère une analyse sonore en temps réel grâce à l’intelligence artificielle. Grâce à ce dispositif, les soignants sont alertés sur leur smartphone en cas de situation de détresse chez un patient – comme des chutes, des cris ou des problèmes respiratoires – et peuvent évaluer le risque détecté. Cette solution est mise en œuvre par le CHU de Brest.

Même si ce mouvement n’est pas homogène dans tous les pays et les spécialités médicales, l’intelligence artificielle arrive donc à maturité opérationnelle dans de nombreux domaines en santé. Pour autant, cette accélération technologique ne s’est pas accompagnée d’une structuration corollaire des politiques publiques pour en dégager tout le potentiel en termes de renforcement de la prévention et de l’accès aux soins.

1.2 IA et accès aux soins : un angle mort de la politique de santé ?

La France a mis en œuvre depuis 2017–2018 une stratégie puissante d’accélération dans le domaine de la santé numérique, sous l’impulsion initiale d’Agnès Buzyn alors Ministre chargée de la Santé et de Dominique Pon et Laura Letourneau, copilotes de la nouvelle Délégation ministérielle au numérique en santé (DNS). Dans le cadre d’une première Feuille de route du numérique en santé, des axes forts ont été posés comme la réalisation de « Mon Espace Santé », la montée en charge du DMP, le rattrapage infrastructurel numérique pour les acteurs de soins en ville ou en établissement de santé ou encore le traitement des enjeux – essentiels – d’interopérabilité. Dès cette première étape, cette feuille de route intégrait un axe fort sur l’éthique du numérique en santé.

La mise en œuvre d’une gouvernance nationale du numérique en santé est affichée comme priorité depuis 2019. Le ministère de la santé l’écrivait lui-même en 2023 : « Historiquement, le retard de la France dans le champ du numérique en santé s’explique en partie par l’éparpillement des initiatives et l’absence de stratégie claire et partagée ». L’un des enjeux de la feuille de route du numérique en santé Ma Santé 2022 était de structurer ce millefeuille, notamment en renforçant la Délégation au numérique en santé (DNS) au sein du ministère de la santé. Missionnée par le ministre chargé de la santé en avril 2022, une mission de l’Inspection générale des Affaires sociales (IGAS) a rendu en septembre 2022 un bilan d’étape sur l’action de cette délégation, désignée comme pilote de la politique publique de développement et de régulation numérique en santé. Corroborant le bilan 2019–2022 “FAIT(S)” publié en août 2022 par la DNS et saluant un bilan de quatre années d’action de la délégation, l’IGAS a recommandé la pérennisation de la DNS, entérinée par un décret, publié le 15 mai 2023 qui l’élève au rang de direction d’administration centrale et lui confie le pilotage de la gouvernance avec l’ensemble des parties prenantes du numérique en santé (patients, entreprises, professionnels et établissements, opérateurs, etc.), la conduite de la définition du cadre applicable et des modalités pour s’assurer de la conformité à ce cadre, le suivi des financements publics consacrés au numérique en santé, la responsabilité, la participation ou le concours à certains projets numériques en santé portés par la puissance publique, et la représentation de l’État dans la gouvernance de l’Agence du Numérique en santé (ANS). Le même mois, la DNS a publié la nouvelle feuille de route 2023–2027 “Mettre le numérique au service de la santé”[39].

Pourtant, les enjeux du déploiement de l’IA dans le secteur de la santé ne sont pas réductibles aux problématiques du numérique en santé. Ainsi, là où l’approche numérique en santé met l’accent sur l’intégration et l’interopérabilité des systèmes d’information, ainsi que sur la transformation des pratiques de santé grâce aux outils numériques, les enjeux de l’IA se concentrent sur l’utilisation de technologies avancées pour améliorer les diagnostics, les traitements et la recherche. De même, quand l’IA cherche à personnaliser les soins et à améliorer la précision des traitements grâce à des analyses de données avancées, les problématiques du numérique en santé visent plutôt à assurer que les données soient accessibles et partagées efficacement. Enfin, le numérique en santé se concentre sur la mise en place d’une infrastructure numérique robuste alors que le développement de l’IA est axé sur l’innovation technologique et le développement de nouvelles applications et algorithmes.

Par ailleurs, depuis le rapport remis au Président de la République en 2018 par Cédric Villani[40], une orientation majeure est portée sur le développement de l’intelligence artificielle. Cette stratégie a été encore déclinée et approfondie dans le cadre des travaux de la Commission sur l’intelligence artificielle[41]. Ces deux documents mettent fortement en exergue l’intérêt de l’IA dans le champ de la santé.

En dépit de l’intérêt majeur de l’IA en santé souligné dans ces rapports, la décantation ne s’est, cependant, à ce stade, pas encore pleinement opérée en termes de structuration de politique publique.

Le débat public sur ces sujets s’est pour le moment principalement focalisé sur les enjeux de collecte de données de santé et singulièrement sur la question des modalités d’hébergement de la plateforme nationale des données de santé (le Health Data Hub). Ce n’est évidemment pas le lieu ici de revenir sur le fond de ce débat si ce n’est pour à nouveau souligner l’intérêt essentiel, sur le principe, d’une plateforme nationale d’aide à la collecte et au traitement des données de santé placée sous l’égide des pouvoirs publics. Pour autant, il convient de souligner le fait que cette hyper-focalisation sur ce sujet a, d’une certaine manière, déporté la réflexion sur l’IA en santé de la question essentielle, à savoir le développement rapide de ces outils au service de l’amélioration de l’accès aux soins pour les patients et de la qualité et de la sécurité du système de santé dans son ensemble.

Or, cet effet de « stand-byisation » du débat public sur la mobilisation de l’IA au service de l’accès aux soins a un prix. Les risques qu’il y aurait à ne pas bâtir dès 2024 une politique publique de promotion et de régulation éthique de l’IA en santé en France et en Europe sont, en effet, majeurs. Dans un contexte où l’IA se développe à un rythme accéléré au plan mondial, c’est une véritable course contre-la-montre qui est engagée si nous voulons conserver la maîtrise de l’avenir de notre système de santé.

Comment expliquer ce retard relatif de structuration des politiques publiques de recours à l’IA dans les domaines de la prévention et de l’accès aux soins, alors que les outils et les usages se diffusent pourtant de façon extrêmement rapide ? Et que l’importance des enjeux est soulignée par des institutions professionnelles majeures de la réflexion stratégique en santé, comme l’Académie de médecine et le CCNE.

La littérature en science politique s’interroge de longue date sur les leviers qui expliquent qu’un enjeu devienne public, qu’une vérité du moment s’impose à un moment donné sur certains objets pour organiser, dans l’agenda de l’action publique, les différents instruments d’une politique publique capable d’ordonner leur usage. De cette littérature, on peut retenir à gros traits que ce qui motive généralement l’émergence d’un problème public sur l’agenda politique et la structuration des instruments d’une politique à son sujet, c’est l’arrivée à maturité conjointe de trois processus : un corpus suffisant de connaissances qui ordonnent le diagnostic (quel est le problème ?) ; l’alignement des valeurs qui ordonnent son interprétation (en quoi nos principes fondamentaux sont impliqués ?) ; et la structuration des acteurs et des intérêts en jeu (qui porte quelles solutions et pourquoi ?).

S’agissant de l’IA en santé, ces processus arrivent aujourd’hui à maturité. Ordonner une politique publique est donc possible, nécessaire et même urgent.

  Du côté des acteurs et des intérêts en jeu, le constat est que les professionnels eux-mêmes s’emparent du sujet avec un degré d’adhésion singulièrement élevé et des usages variés de plus en plus répandus sur le terrain. Dans un sondage fin 2023 auquel ont répondu 500 médecins français, le think tank Healthcare Data Institute a montré que 70% déclarent se sentir à l’aise pour collaborer avec l’IA dans le soin[49]. Signe de cet intérêt croissant des professionnels de santé, la CSMF a pris position pour que la thématique de l’intelligence artificielle soit intégrée dans le cadre de la négociation conventionnelle récemment conclue avec l’assurance-maladie.

De même, l’écosystème des acteurs de la conception et du développement des outils a acquis très rapidement un degré de maturité. Les pouvoirs publics et les acteurs économiques ont structuré des écosystèmes pilotes comme PariSanté Campus et Future4Care pour accompagner cette dynamique.

Pour l’analyste des politiques publiques, il est surprenant de constater que cette maturité des réseaux d’acteurs – concepteurs, développeurs ou professionnels utilisateurs – n’ait pas eu à ce jour l’effet d’un déclencheur pour structurer concrètement l’action publique dans le domaine du recours pratique à l’IA sur la prévention et l’accès aux soins.

De même, si l’on suit la grille d’analyse des politiques publiques exposée par Bruno Palier, dite des « Trois I »[50] pour « Intérêts » (des acteurs), « Idées » et « Institutions », le décalage relatif que l’on observe dans la mobilisation des acteurs publics institutionnels est paradoxal au regard de la maturité du cadre scientifique des « Idées », c’est-à-dire du référentiel cognitif d’utilisation de l’IA en santé. En effet, le cadre scientifique d’évaluation des bénéfices du recours à l’IA dans le soin est en pleine expansion, avec un socle de connaissances « proof of concept » déjà mûr dans la littérature internationale.

Le cadre d’interprétation scientifique de l’IA en santé est en passe d’être défini et largement partagé sur la valeur cardinale de notre système de soins : la qualité des soins, qui inclut trois dimensions normatives :

• Leur efficacité d’abord, en termes de résultats cliniques comme le montrent les travaux analytiques précités du CCNE ou de l’Académie nationale de médecine ;
• Leur bienveillance ensuite, en lien avec les préférences des patients pour un soin empathique. De ce point de vue, il convient de relever l’engagement majeur de France Assos Santé pour soutenir la diffusion des outils numériques et d’intelligence artificielle au service des patients et son engagement pour en assurer la supervision dans de nouveaux cadres de démocratie sanitaire en émergence ;
• Et ensuite leur efficience, au sens d’une amélioration de la pertinence des soins dans un cadre de contraintes pesant sur les finances publiques.

Sur chacune de ces dimensions fondamentales de la qualité des prises en charge, le recours à l’IA dispose aujourd’hui dans la littérature scientifique internationale de données qui font office de « proof of concept ». Le cadre cognitif d’interprétation arrive à maturité suffisante pour ordonner la construction d’une politique publique dédiée.

La finalisation du cadre normatif de régulation qu’appelle l’usage de l’IA en santé constitue également une brique importante de la construction d’une politique publique. Cette dynamique est, pour autant, encore à relayer et amplifier pour accompagner la conduite du changement par les acteurs de terrain.

En la matière, c’est naturellement l’adoption de l’AI Act européen qui marque la maturité de l’écosystème normatif, on y reviendra plus loin. Les risques qu’il y aurait à ne pas en déduire dès 2024 une politique publique opérationnelle dédiée à l’IA en santé en France sont clairs et documentés. L’IA peut aider à résoudre certains des plus grands défis de la santé, comme l’épuisement du personnel, les menaces futures pour la santé publique, le vieillissement de la population et la complexité croissante des soins due à la multiplicité des maladies chroniques.

Ne pas transformer les principes généraux de régulation en instruments opérationnels de déploiement encadré induit des risques significatifs. Ceux-ci incluent l’aggravation des inégalités numériques et de santé, le développement possiblement anarchique d’usages non-sécurisés de données privées, la perte de confiance des utilisateurs, ou encore un déséquilibre de souveraineté.

Des applications d’IA sur mesure, sans capacité ou intention de se développer à grande échelle (par exemple, en raison d’incompatibilités de système ou de manque de ressources techniques), risquent de créer un ensemble fragmenté d’innovations en IA construites et maintenues par des organisations de santé riches, accessibles uniquement aux segments aisés du public. Des fondations solides et coordonnées au plan des data, des contraintes techniques et des instruments politiques de déploiement sont nécessaires pour libérer de façon qualitative et équitable la valeur ajoutée que l’IA peut offrir pour le système de santé et de maintien en autonomie.

1.3 Des inégalités de diffusion déjà constatées

L’absence de structuration d’une politique de mobilisation de l’IA pour soutenir l’accès aux soins induit un risque d’apparition de phénomènes d’inégalités de diffusion de l’innovation. La question reste, en l’état, trop peu étudiée et ne peut être identifiée qu’à l’aune des missions conduites sur le terrain. De ce point de vue, la taille des structures ou la présence en proximité d’un écosystème technologique structuré ne constituent pas nécessairement des gradients cohérents avec le déploiement effectif d’une stratégie de mobilisation de l’IA au service de l’accès aux soins pour les patients.

1.3.1 Inégalités territoriales

En l’état, nous constatons une forte disparité d’appropriation de l’IA en santé selon les territoires. Certaines régions restent à l’écart du mouvement. Dans la plupart des territoires, l’IA se diffuse, à ce stade, plutôt au coup par coup en devenant standard sur certains segments comme l’apprentissage machine par reconnaissance d’image en traumatologie. Dans certains territoires en avance de phase comme l’Aveyron, l’IA peut être utilisée comme un véritable vecteur de structuration de parcours territoriaux de santé par aires thérapeutiques.

Le domaine de la radiologie est particulièrement illustratif de ce constat. Sous l’effet de l’augmentation des besoins en santé en raison du vieillissement de la population et de l’augmentation avec l’âge de l’incidence des pathologies chroniques, le nombre d’examens radiologiques en 2050 sera probablement multiplié par deux. Le conseil professionnel de la radiologie française (G4) évoque « un vrai problème de démographie de la spécialité », qui indique que l’augmentation des effectifs et du nombre de radiologues par habitant ne compense pas la hausse croissante de la demande d’examens.

Ces besoins croissants d’accès aux diagnostics vont encore accroître des disparités territoriales d’ores et déjà préoccupantes selon la Cour des Comptes. Les Atlas de la démographie médicale publiés par l’Ordre des médecins mettent, en effet, en évidence une répartition hétérogène des radiologues ayant pour conséquence un accès inégal aux services de diagnostic radiologique et des zones sous-desservies.

Cette situation provoque, en l’état, des niveaux différents de conscientisation par les acteurs de santé de l’intérêt du recours à l’IA. A ce stade, le déploiement sur le terrain de l’intelligence artificielle ne répond à aucun modèle médico-économique normé de déploiement. Cette diffusion est fonction directement de l’engagement des acteurs sur l’innovation, de leur créativité et aussi souvent de la proximité avec des écosystèmes technologiques. La pression de la démographie médicale représente aussi un critère très important de l’intérêt porté à l’IA pour aider à l’accès aux soins. A rebours de l’idée reçue selon laquelle l’IA serait avant tout un sujet de structures « de pointe », l’intelligence artificielle de reconnaissance d’image trouve, en l’état, plus facilement son terrain applicatif dans des zones de sous-densité médicale pour répondre à la demande d’accès aux diagnostics de spécialités.

Mais nous constatons également des disparités dans l’usage avec des pratiques très diversifiées en matière de contrôle humain. Par exemple, dans le domaine de la reconnaissance d’image en traumatologie, des établissements de santé peuvent utiliser l’intelligence artificielle sans aucun contrôle de radiologue.

Si nous ne nous mettons pas rapidement en situation d’homogénéiser les pratiques de recours à l’IA et de standardiser les démarches de contrôle humain à mettre en œuvre, nous risquons de voir ces disparités s’élargir aux autres spécialités requérant un niveau élevé de reconnaissance d’image et caractérisées par des tensions significatives de démographie médicale comme la dermatologie ou l’ophtalmologie.

1.3.2 Inégalités selon les revenus

Ces dispositifs sont, dans une très large majorité des cas, non intégrés dans des modèles de remboursement mis à part dans le cadre de financements de projets innovants. Certes, la mobilisation du dispositif de financements expérimentaux dits de l’« article 51 » a pu être utile à la diffusion de solutions d’IA sur le terrain comme dans le domaine du recours à l’intelligence artificielle dans le champ bucco-dentaire. Pour autant, nous ne disposons pas encore de modèle systémique de prise en compte de ces innovations par les financements classiques de solidarité fondant notre système de santé.

Or, devant la pression causée par les inégalités de démographie médicale et les attentes de nos concitoyens en matière d’accès aux soins, le risque est grand de voir, à court terme, se déployer une offre alternative hors champ de solidarité. Un vecteur technologique non solvabilisé par la Sécurité sociale pourrait ainsi voir le jour à partir d’une logique de plateformisation extra-européenne. Il proposerait, moyennant paiement direct et sans remboursement solidaire, la mise à disposition d’une batterie d’algorithmes courants d’IA en santé dans une logique d’auto-diagnostic. Une telle configuration serait naturellement dangereuse : porteuse d’un modèle de désintermédiation par les professionnels de santé, elle ferait courir un risque sur la prise en charge des patients quant à la fiabilité des diagnostics et sans doute surtout quant à la continuité du parcours de prise en charge. Sur le plan économique et social, cette « offre » serait sans doute en partie attractive pour ceux de nos concitoyens disposant des moyens matériels pour souscrire une forme d’abonnement non couverte par la Sécurité sociale. Le contrechoc serait très probablement lourd en termes d’inégalités d’accès à l’innovation et porterait en germe la tentation d’un détricotage des solidarités fondatrices de notre système de santé.

1.4 De premières initiatives de structuration dans les domaines de la cybersécurité et l’innovation en santé

« Mettre à l’agenda » des politiques publiques le sujet de l’intelligence artificielle en santé est possible : de premières initiatives sont déjà en cours dans les domaines de la gestion du risque cyber associé à l’IA et de la rénovation des méthodologies d’essais cliniques.

1.4.1 IA et cybersécurité

Dans le domaine de la cybersécurité, nous pouvons constater une mobilisation croissante des pouvoirs publics pour soutenir les efforts d’anticipation, de gestion des risques et de réponses aux crises quand elles surviennent, ce mouvement concernant également le recours à l’intelligence artificielle. Les avancées majeures associées à la diffusion de l’IA en santé sont, en effet, accompagnées de défis en matière de cybersécurité notamment causés par le fait que ces modèles traitent de données médicales, c’est-à-dire sensibles.

Les principaux risques cyber identifiés s’agissant de l’intelligence artificielle sont les suivants :

– La désinformation des patients/professionnels de santé, causée notamment par la génération d’« hallucinations » ou de « confabulation », c’est-à-dire de réponses fausses ou trompeuses présentées comme des faits certains ;

– L’introduction de données biaisées dans le set d’entraînement des algorithmes, menant à des résultats eux-mêmes biaisés ;

– L’attaque des SI médicaux, souvent mal protégés et on-premise, c’est-à-dire hébergés sur site. Ces attaques sont de plus en plus fréquentes et peuvent être menées sous forme de ransomware ;

– La fuite de données/le vol de données médicales, privées et sensibles ;

– La manipulation et la modification des modèles par des personnes tierces ;

– La non-robustesse des SIA médicaux.

  Pour répondre à ces enjeux, des briques de politique publique se mettent en place. Cette thématique peut être ainsi adressée dans le cadre du nouveau plan sur la cybersécurité dans les établissements de santé. Aurélien Rousseau, Ministre de la Santé et de la Prévention, et Jean-Noël Barrot Ministre délégué chargé du Numérique ont présenté ce plan le 18 décembre 2023 au Centre Hospitalier de Versailles, victime d’une cyberattaque lourde en décembre 2022. Ce programme « Cybersécurité accélération et Résilience des Établissements » (Care) doté de 250 M€ jusqu’en 2025 avec un objectif d’investissement total de 750 M€ d’ici 2027 décline ainsi 20 objectifs selon 4 axes : gouvernance et résilience ; ressources et mutualisation ; sensibilisation ; sécurité opérationnelle. Aux côtés du ministère chargé de la Santé, l’Agence nationale de la sécurité des systèmes d’information (ANSSI) est appelée à jouer un rôle déterminant dans l’appui à la mise en œuvre de ce plan.

Des dispositions spécifiques sont, en outre, prévues par l’AI Act européen s’agissant de la cybersécurité des systèmes d’IA à hauts risques : l’article 9 (“Risk-management system”) et l’article 15 (“Accuracy robustness and cybersecurity”).

En application de ces dispositions, des mesures techniques et organisationnelles doivent être mises en œuvre pour garantir la résilience face aux erreurs, aux défauts ou aux incohérences qui peuvent survenir au sein du système ou de l’environnement dans lequel le système fonctionne. Les systèmes à haut risque doivent être résilients aux tentatives d’altération de leurs utilisations, comportements, sorties ou performances par des parties tierces exploitant leurs vulnérabilités.

Les systèmes à apprentissages continus doivent, par ailleurs, être déployés de telle sorte que :

– Des résultats potentiellement biaisés ne puissent influencer des données d’entrée pour de futures opérations ;

– Des données d’entrée ne puissent être manipulées de façon malveillante et utilisées pour l’apprentissage des modèles pendant l’opération.

Les solutions techniques visant à remédier aux vulnérabilités propres à l’IA doivent comprendre des mesures pour prévoir, détecter, résoudre et contrôler des problématiques d’empoisonnement des données (data poisoning), d’empoisonnement du modèle (model poisoning), d’exemples adverses ou d’évasion du modèle (adversarial examples or model evasion), d’attaques de confidentialité ou de failles du modèle.

1.4.2 IA et innovation en santé

Cette mobilisation plutôt récente sur la cybersécurité est intervenue pour l’essentiel après la survenue de crises majeures ayant touché principalement des établissements de santé. Cette aptitude de notre système de santé à répondre aux crises est, en effet, bien documentée par la littérature d’analyse des politiques publiques. Dans son appréhension plus globale sur les enjeux de prévention et d’accès aux soins, le champ de l’IA en santé se prête, cependant, mal à une telle attitude de construction « à réaction » des stratégies publiques.

Ce domaine requiert en effet de l’anticipation, de la vision stratégique à moyen terme et une évaluation continue et précise des effets du déploiement de l’innovation pour notre système de santé. La création de l’Agence de l’innovation en santé (AIS) en 2022 traduit, à cet égard, un effort clair de structuration d’un domaine de politique publique – l’innovation en santé – avec un opérateur identifié sous l’impulsion du Dr Lise Alter, des moyens dédiés dans le cadre du plan France Innovation Santé 2030[51] et une formulation lisible d’objectifs de politique publique.

Comme on le verra, cette approche est déjà avancée s’agissant de la révolution des méthodologies d’essais cliniques par l’IA. Elle montre le potentiel associé à l’engagement d’une démarche de même ordre plus focalisée sur l’IA en matière d’appui à la prévention, d’aide à l’accès aux soins et plus largement de recomposition de notre système de santé.

Cet exemple montre que la France sait aussi se mobiliser pour structurer des domaines de politique publique en bonne intelligence avec les acteurs du système de santé et les concepteurs d’innovation. Pour autant, l’extrapolation de cette approche en termes de politique publique cohérente pour l’ensemble du domaine de l’IA en santé reste loin d’être acquise. Or, dans un contexte de compétition mondialisée sur l’intelligence artificielle, attendre une prochaine crise pour agir reviendrait à coup sûr à faire courir à la France le risque d’un déclassement.

2.  Trois stimuli majeurs pour structurer une politique publique de l’IA pour la prévention et l’accès à la santé

2.1 Des gains majeurs de santé publique à portée de main

Cette percée majeure de l’IA en santé constitue pour les professionnels et pour les patients une opportunité sans précédent de gains de santé publique.

L’IA apporte des bénéfices considérables pour les patients, pour les professionnels de santé, pour le système de santé en matière de prévention, d’accès aux soins. C’est aussi une réponse à la désertification médicale dans certaines zones et sur certaines spécialités, et aux grands enjeux de santé publique des prochaines années.

Ce moment d’accélération ouvre ainsi des potentialités nouvelles d’accès plus précoce aux diagnostics de spécialités. Une vraie révolution dans la prévention du cancer du sein est ainsi à portée de main avec la mise au point de systèmes opérationnels d’interprétation des mammographies.

Les applications de l’IA en santé se retrouvent sur l’ensemble des « segments » de la politique de santé. Les études scientifiques réalisées mais aussi les premières expérimentations conduites sur le terrain ont permis de produire un corpus de connaissances – académiques et pratiques – qui est à maturité pour montrer que l’intelligence artificielle peut réellement changer la donne.

L’IA enrichit d’ores et déjà l’action publique en santé sur les quatre grands axes qui la fondent aujourd’hui (tels que structurés par exemple dans la stratégie nationale de santé 2018–2022[52]) : le renforcement de la prévention ; la lutte contre les inégalités sociales et territoriales d’accès aux soins ; la qualité, la sécurité et la pertinence des prises en charge à chaque étape d’un parcours coordonné et où le temps médical est mieux préservé ; et enfin le renforcement innovant de la place des usagers au cœur de leur santé. 

L’IA peut ainsi apporter un gain majeur pour la santé des femmes aussi bien d’un point de vue de la recherche médicale que des parcours de santé. En effet, de nombreuses solutions sont développées dans le champ de la santé reproductive, la santé sexuelle, la prise en charge et la meilleure connaissance de maladies chroniques comme l’endométriose, mais également le suivi de la maternité et du post partum ou encore l’oncologie. Ces domaines de déploiement de l’IA sont essentiels en matière de santé publique et peuvent permettre de rattraper le retard existant en matière de santé des femmes dans le cadre d’un écosystème FemTech France[53] en structuration rapide.

2.1.1 Quand l’IA révolutionne l’oncologie

Le domaine de l’oncologie constitue l’un des champs les plus avancés dans le recours à l’intelligence artificielle. Le niveau d’opérationnalité technologique des solutions, les avancées en cours et à venir sur les terrains de la recherche, de la prévention et du soin mais aussi la capacité très forte de l’écosystème – établissements de santé et professionnels, industriels et concepteurs d’innovations mais aussi associations de patients – à se fédérer montrent à quel point ces opportunités majeures pour les patients et les professionnels de santé ne peuvent être laissées de côté.

Comme l’ont, en particulier, bien montré les travaux dédiés à l’intelligence artificielle menés dans le cadre de la Convention nationale d’Unicancer 2023[54], l’intelligence artificielle est d’ores et déjà une réalité en oncologie. Les outils de reconnaissance d’image sont déjà fortement développés pour l’interprétation des mammographies, le dépistage du cancer du côlon ou, en dermatologie, du mélanome et du carcinome. En radiothérapie, les outils d’aide au contourage des rayons deviennent désormais standard pour mieux cibler les zones tumorales.

Par ailleurs, les Centres de lutte contre le cancer ont déjà structuré des bases de données essentielles – comme ConSoRe[55] – pour l’entraînement des modèles d’intelligence artificielle à des fins de recherche, de prévention et d’appui à la prise en charge des patients. Ces démarches ont trouvé leur prolongement avec la labellisation de l’entrepôt national d’ONCO-DS[56] dans le cadre de l’appel à projets national déclenché sur les entrepôts de données de santé.

Dans le domaine du pilotage par les données pour améliorer la vie quotidienne des patients, les premiers outils émergent avec, par exemple, l’admission au remboursement par la Sécurité sociale en octobre 2023 de Résilience, dispositif d’aide suivi des chimiothérapies.

L’IA générative ouvre également de nouvelles perspectives dans l’aide à la réponse aux questions des patients et des proches aidants ou encore dans l’observance des traitements et la synthèse des dossiers médicaux pour les professionnels.

Pour capter ces gains majeurs de santé publique, l’oncologie a également su se mobiliser pour structurer un écosystème original rassemblant l’ensemble des acteurs industriels en articulation avec les centres de lutte contre le cancer et l’Institut national du Cancer (INCa) : la Filière intelligence artificielle et Cancer (FIAC). Fruit de deux ans de collaboration entre l’Alliance pour la Recherche et l’Innovation des Industries de Santé (ARIIS) et l’INCa, la création de la FIAC est à ce jour l’une des plus importantes concrétisations du Programme « Intelligence Artificielle et Santé » issu du Contrat Stratégique de Filière des Industries et Technologies de Santé (CSF-ITS)[57].

L’exemple du dépistage du cancer du sein montre que ce potentiel majeur du recours à l’IA dans le domaine de la prévention et de la santé publique ne peut être appréhendé que si l’on pense de façon concomitante la construction de l’innovation et les modalités organisationnelles et pratiques de son déploiement. Dans ce secteur, l’innovation technologique en intelligence artificielle est maintenant portée depuis plusieurs années. La France a été présente fortement dans cette matière avec de nombreux travaux scientifiques et l’élaboration de solutions compétitives au plan mondial comme celle développée par la start-up Therapixel.

Pour autant, la question du déploiement pratique dans le parcours de dépistage de ces systèmes d’IA de reconnaissance de mammographies avait été peu analysée jusqu’ici. La publication récente d’une étude sur des données danoises montre l’importance essentielle du choix des paramètres du protocole de déploiement du système d’intelligence artificielle.

2.1.2 L’IA et l’innovation thérapeutique

L’intelligence artificielle ouvre, par ailleurs, des perspectives considérables d’accélération de l’innovation thérapeutique en France et en Europe. 

Au stade amont, la percée de l’IA générative permet de franchir une étape très importante dans l’identification et la synthèse des publications médicales et scientifiques.

L’IA révolutionne la chaîne de production des médicaments et des dispositifs médicaux en permettant de réaliser virtuellement – in silico – les premières étapes de l’innovation thérapeutique. Le déploiement sur une large échelle de ces nouveaux outils va profondément transformer les modèles de mise en œuvre des essais cliniques, accélérer l’innovation et induire potentiellement d’importantes économies d’échelle dans un contexte dans lequel notre système de santé éprouve de plus en plus de difficultés à financer et rendre accessibles les thérapeutiques nouvelles.

A rebours du constat général sur un certain retard de conception des politiques publiques en matière d’IA, ce vaste champ de la rénovation des méthodologies d’essais cliniques fait l’objet d’une initiative portée l’Agence de l’Innovation en Santé avec F-CRIN[63] dans le cadre des orientations du plan Innovation Santé 2030. Les premières conclusions de ces travaux présentés au mois de mai 2024 et lors de la journée nationale organisée à Lille le 24 juin par l’AIS et F-CRIN[64] montrent que des perspectives fortes de structuration des synergies action publique / initiatives privées peuvent émerger à court terme.

2.2 Une course contre la montre pour éviter une perte de souveraineté et de maître du système de santé : vers un « Netflix de l’IA en santé » ?

L’intelligence artificielle transforme donc d’ores et déjà en profondeur notre système de santé. Le non-déploiement de ces dispositifs d’IA induit a contrario des pertes de chances dans l’accès aux soins mais aussi dans la diffusion de l’innovation dans le système de santé. Ce constat du risque éthique pour les professionnels et les patients associé à un retard de diffusion de l’intelligence artificielle avait été porté par le Comité consultatif national d’éthique dès son avis 129 de 2018 et réitéré dans son avis 141 de 2023 précité et émis conjointement avec le Comité consultatif national pilote d’éthique du numérique. Ces enjeux restent encore sous-jacents aujourd’hui mais sont appelés à devenir de plus en plus visibles.

Par ailleurs, le numérique rend plus poreux entre eux les systèmes de santé, et nos concitoyens ont de moins en moins de réticences à se tourner vers des outils numériques conçus hors de nos frontières. Pour prévenir ce risque d’apparition d’un « Netflix de l’IA en santé », source de désintermédiation par les professionnels de santé, il est urgent de développer des outils d’IA dans un contexte de souveraineté numérique française et européenne.

A cet égard, le potentiel d’applications de nouvelles solutions d’IA générative pour synthétiser les dossiers patients représente sans doute un enjeu clé dans l’année qui vient. En effet, des solutions d’IA arrivent à maturité pour synthétiser ces ensembles de documents et données sur le parcours du patient pour faire gagner du temps aux professionnels de santé et les accompagner dans leurs décisions de prise en charge. La maîtrise de ces systèmes d’IA applicables aux dossiers patients informatisés (DPI) des établissements de santé ou en ville et – plus encore – des dossiers constitués au plan national comme le dossier pharmaceutique (DP) porté par l’Ordre des Pharmaciens et le DMP doit pouvoir constituer une priorité urgente et partagée d’une future politique publique de l’IA en santé. L’exemple du dispositif « DALVIA » récemment présenté par La Poste Santé & Autonomie montre que des initiatives françaises fortes existent déjà en ce sens.  

2.3 Un cadre juridique désormais propice à un déploiement de solutions d’IA de confiance

La finalisation du nouveau Règlement européen sur l’IA – l’AI Act – constitue une étape majeure pour la diffusion de l’IA en santé en France et en Europe.

Ce texte est assorti d’un cadre de régulation global pour l’ensemble des systèmes d’IA quels que soient leurs domaines d’application. Il emporte une série d’obligations – assorties d’un niveau de sanctions financières équivalentes à celles du RGPD – graduées en fonction du niveau de risque des systèmes, classifiés selon leur domaine sectoriel d’application.

Ce projet de règlement de l’Union européenne sur l’intelligence artificielle a pour objectif d’établir des règles harmonisées sur l’intelligence artificielle au sein de l’Union et de faire de l’Europe un précurseur en termes de régulation de l’IA sans toutefois freiner l’innovation.

L’approche privilégiée a été de fonder les exigences sur le niveau de risque engendré par les systèmes d’IA pour la santé, la sécurité ou les droits fondamentaux. Elle prévoit donc quatre niveaux de risque : inacceptable, haut risque, risque limité et risque minime. Les principales exigences du règlement concernent les systèmes d’IA à haut risque, parmi lesquels figure notamment la santé, avec des sanctions associées pouvant aller de 1 à 7% du chiffre d’affaires annuel mondial.

Le Chapitre 2 du titre III inclut des exigences qui devront être respectées par les fournisseurs et utilisateurs de ces systèmes, qui concernent :

– Un système de gestion des risques et de la qualité

– Les données et la gouvernance des données

– Une documentation technique précise

– Un enregistrement des journaux (Record-keeping)

– La transparence et la fourniture d’information

– Le contrôle humain

– La cybersécurité, la robustesse et l’exactitude

Dans cette logique essentielle de qualité et gestion des risques associés à l’intelligence artificielle, la reconnaissance du principe de contrôle humain ou de garantie humaine de l’IA se situe en cohérence avec le cadre déjà introduit en France par la loi de bioéthique d’août 2021.

S’agissant de l’IA générative, l’approche retenue a permis un compromis entre les différentes propositions, en distinguant deux niveaux pour les modèles de fondation et les GPAI. Les modèles emportant des risques systémiques (notamment dépassant un seuil de 10^25 FLOPS[67]) intégreront des obligations supplémentaires (évaluation des risques systémiques, cybersécurité et environnement, codes de bonnes pratiques, transparence…) et les seuils pour les systèmes d’IA génératives dans lesquels ils seront intégrés seront relatifs au nombre d’utilisateurs finaux européens. Pour les systèmes « low tier », les obligations seront bien plus légères. Les systèmes en open source[68] et la R&D sont quant à eux exclus de la règlementation.

  Le Trilogue a également permis de trouver un compromis quant au calendrier : une entrée en application progressive entre 6 et 36 mois :

• 6 mois pour les cas d’usage prohibés
• 12 mois pour les modèles de fondation et l’IA générative
• 24 mois pour les exigences des systèmes à haut risque
• 36 mois pour les réglementations d’harmonisation

Dès 2024, les initiatives de compliance volontaire dans une logique de qualité et gestion des risques sont encouragées. Le co-rapporteur Brando Benifei a ainsi affirmé lors de la conférence de presse clôturant le Trilogue : « We will work on voluntary compliance, and we encourage everyone to start respecting the rules in a gradual way, this will be the big work of 2024 ».

Un cadre de régulation de l’IA a également été posé aux Etats-Unis avec, sur le fond, une convergence assez forte avec l’Europe sur la reconnaissance d’une obligation de supervision humaine des systèmes d’intelligence artificielle. A ce stade, il convient donc de sortir de l’idée que l’Europe aurait « surréglementé » l’IA en santé : c’est plutôt une convergence transatlantique qui se dégage au plan juridique. A la suite des opinions de régulation précédemment émises depuis 2021 par la FDA exigeant une supervision humaine (Human Oversight) des systèmes d’IA, l’Executive Order publié par le Président Biden à la fin du mois d’octobre 2023 établit dans son principe et ses modalités un cadre de régulation au moins aussi contraignant que le règlement européen sur l’IA[69]. Ce texte – de portée globale pour l’ensemble des champs applicatifs de l’IA – demande au « Secretary of HHS »[70] d’établir une task force mettant en œuvre un plan stratégique pour une utilisation responsable de l’IA dans la santé et les services sociaux. Cette démarche doit intégrer la prise en compte d’un contrôle humain approprié des résultats de l’IA.

Pour autant, il convient naturellement de relever que s’il y a bien convergence sur le fond des mesures de régulation, la portée juridique des cadres posés pour la régulation de l’IA en santé dans l’Union européenne et aux Etats-Unis n’est pas la même. En effet, alors que le règlement européen s’impose – sans mesures applicatives nationales complémentaires – aux lois nationales dans l’UE et ne peut être modifié que selon le processus législatif communautaire, ce qu’un Executive Order a fait aux Etats-Unis, un autre Executive Order peut le défaire. Dans ce domaine comme bien sûr dans beaucoup d’autres, il conviendra donc de suivre avec la plus grande attention les résultats des échéances électorales américaines du mois de novembre 2024.

3. L’urgence d’une politique publique de déploiement d’une IA de confiance pour la prévention et à l’accès à la santé

Dans un contexte de demandes fortes de nos concitoyens en matière d’accès aux soins, la diffusion de l’intelligence artificielle ne constituera naturellement pas une réponse globale à toutes les préoccupations. Elle peut, cependant, constituer un adjuvant utile pour renforcer les démarches de prévention, accélérer l’innovation thérapeutique ou encore faciliter l’accès aux diagnostics de spécialités, en particulier dans la ruralité ou dans les quartiers urbains en difficulté.

La pression de la demande d’usages, dans un contexte de recours de plus en large au numérique dans les différents domaines de la vie économie et sociale et de porosité plus grande des systèmes de santé entre eux sous l’effet de la digitalisation, risque pourtant de conduire à une diffusion non maîtrisée de ces outils. Un tel mouvement, assorti de problématiques médicales potentielles évidentes, se doublerait de risques de perte de souveraineté numérique pour notre système de santé et d’un approfondissement des inégalités d’accès à l’innovation (selon les territoires et selon les revenus).

La structuration d’une politique de santé en faveur de l’intégration et du déploiement rapides de dispositifs d’IA de confiance, prenant en compte les enjeux de santé publique et médico-économiques, apparaît donc comme un impératif dont l’urgence se fait de plus en plus ressentir en cette année 2024. Tout ne pourra bien sûr pas se faire du jour au lendemain dans un domaine requérant une combinatoire d’actions opérationnelles et de vision stratégique pour l’avenir de notre système de santé et d’autonomie. A cet égard, il convient donc de distinguer entre les leviers d’action à court et à moyen terme. Par ailleurs, il importe d’insister, dans un contexte de changements si rapides, sur l’importance d’une veille technologique en continu sur les avancées de l’IA en santé.

3.1 Leviers d’action à court terme : donner une impulsion forte pour accélérer l’entrée de l’IA dans le réel de l’accessibilité des soins

• Donner une impulsion politique pour la diffusion de l’IA en santé

Nous l’avons vu, les changements à l’œuvre liés à la diffusion de l’intelligence artificielle au sein de notre système de santé et d’autonomie sont d’ores et déjà considérables et vont continuer à s’accélérer. Ces évolutions se sont, pour l’essentiel, opérées jusqu’ici dans une logique bottom-up, c’est-à-dire à partir du terrain. Ce faisant, cette dynamique est source de créativité dans l’appropriation de ces outils par les acteurs du système de santé. Pour tenter de conjurer les risques d’une diffusion non maîtrisée, chercher à substituer à cette logique un schéma top-down constituerait très probablement une erreur. Tout se passe, en l’état, comme si la question de l’IA d’accès aux soins avait été appropriée d’abord par les acteurs de terrain puis par certaines agences régionales de santé en avance de phase[71] avant maintenant de remonter vers le niveau national. Le ministère de la Santé a, par ailleurs, fait évoluer sa structuration sur le numérique en identifiant un portage politique de ces sujets relatifs à l’IA et à l’accès aux soins par un pilote du numérique auprès de la direction générale de l’offre de soins (DGOS) et en concentrant les moyens de mise en œuvre opérationnelle au sein de la délégation pour le numérique en santé (DNS).

Dans ce contexte et au regard de l’ampleur majeure des enjeux en cause, la structuration d’une politique publique de l’IA en santé gagnerait sans doute à se déployer dans le cadre d’un lieu de portage original, associant pouvoirs publics (représentant le niveau national et les ARS), représentants des patients, acteurs de santé et représentants des innovateurs en IA. La présence dans cette instance des acteurs de la prévention, de la couverture du risque et de l’assurabilité du recours aux systèmes d’IA revêt bien sûr une importance particulière. En outre, la participation de représentants des collectivités territoriales – et notamment des Régions en tant qu’acteurs de la recherche et de l’innovation numérique et des Départements sur les politiques d’autonomie – présenterait un intérêt pour faire émerger et relayer les initiatives du terrain. 

Évidemment, l’objectif ne doit pas être ici d’établir une couche de plus dans l’administration déjà complexe du numérique en santé mais plutôt de s’organiser collectivement en mode gestion de projet pour remporter le contre-la-montre de la compétition mondialisée sur l’IA en santé. La constitution d’un Conseil stratégique de l’IA en santé, présidé par le ou la Ministre chargé de la Santé, doté d’une lettre de mission interministérielle et s’appuyant sur une task-force légère mobilisant la DGOS et les équipes de la DNS pourrait constituer une formule appropriée.

• Observer et documenter la diffusion du recours aux systèmes d’IA comme levier de prévention et d’accès aux soins dans une logique de responsabilité populationnelle[72]

L’ANAP (Agence nationale d’appui à la performance des établissements de santé et médico-sociaux) a été l’une des premières institutions à proposer et diffuser une liste concrète des différents outils d’IA pour la santé, classés en différentes catégories d’usages potentiels. Ce recensement permet aux acteurs de santé de disposer d’un panorama des outils d’IA[73].

L’accélération très rapide de la diffusion de la technologie nécessite, en outre, la mobilisation d’outils de veille permanente. De ce point de vue, la plateforme de veille du recours à l’IA constitué dans le cadre des travaux du think tank Heath&Tech[74], porté par Care Insight, constitue un outil de suivi très précieux.

Pour autant, ces démarches gagneraient à être complétées par la constitution d’un observatoire de la diffusion du recours à l’IA dans des logiques territorialisées de déploiement de programmes pilotes de prévention et de nouvelles initiatives en matière d’accessibilité des soins. Les moyens publics d’observation des politiques de santé doivent pouvoir être mobilisés à cette fin. Un bilan au moins annuel de la diffusion de l’IA pour l’accès aux soins serait présenté par ce futur observatoire devant le Conseil stratégique de l’IA en santé.

• Définir dans le cadre de la prochaine LFSS un modèle médico-économique durable pour la diffusion de l’IA en santé et faire émerger les premiers parcours territoriaux de santé mobilisant le recours à l’IA

  Des moyens très significatifs sont d’ores et déjà mobilisés pour soutenir l’effort d’innovation et de R&D des systèmes d’IA. Cette démarche doit bien sûr être poursuivie et approfondie dans un cadre français et européen.

Une fois développés, labellisés et mis sur le marché, les outils d’IA ne nécessiteront pas nécessairement un apport systématique d’argent public complémentaire pour soutenir leur diffusion. Pour autant, des éléments de cadrage doivent pouvoir être établis pour créer les conditions d’un modèle médico-économique durable pour la diffusion de ces outils. Dans un contexte de tensions fortes sur les finances publiques en général et les finances sociales en particulier, trois cas de figure sont, en effet, sans doute à distinguer :

L’IA génératrice de retours sur investissement directs sur l’administration et le pilotage du système de santé (portant notamment sur les fonctions-supports du système de santé comme l’IA d’appui à l’automatisation des admissions des patients, l’IA d’aide au codage des actes médicaux ou encore l’IA d’aide à l’optimisation des fonctions de documentation, de signalement ou de gestion des dossiers d’autorisations d’activités par les agences régionales de santé) pour lesquels les gains d’efficience doivent permettre à eux seuls de documenter et légitimer le coût d’acquisition des systèmes d’intelligence artificielle ;

L’IA génératrice d’une meilleure organisation médicale et d’une plus grande qualité et sécurité des soins pour laquelle des modèles adaptés de soutien progressif à l’innovation pourront être construits. De ce point de vue, le précédent de l’incubation de la chirurgie ambulatoire au sein de notre système de santé peut être gardé à l’esprit : un processus pluriannuel avait été mis en œuvre de valorisation tarifaire de la modalité organisationnelle innovante (la chirurgie ambulatoire) et de dévalorisation de la modalité organisationnelle ancienne (la chirurgie d’hospitalisation complète substituable). Un dispositif de ce type pourra être utilisé pour soutenir la diffusion de l’IA médicale dès lors que celle-ci devient une modalité quasiment « standard » d’un parcours de soin, comme dans les cas de l’interprétation de traumatologie aux urgences ou du contourage des rayons en radiothérapie (et ce d’autant plus que les séances de radiothérapie viennent de faire l’objet d’une forfaitisation) ;

L’IA de prévention et de santé publique pour soutenir par exemple le dépistage du cancer du sein ou du cancer du côlon ou le diagnostic en amont de spécialités dans la ruralité comme en radiologie ou dans la prévention de l’insuffisance cardiaque. Nous savons que ces logiques de prévention et de Value Based Healthcare[75] se heurtent en partie en France aux logiques de financement à l’acte. Dans ces conditions, des apports de financement public sous la forme d’enveloppes dédiées conditionnées à l’évaluation des gains de santé publique et médico-économiques obtenus pourraient être identifiés.

Comme le montrait le Cercle de Recherche d’Analyse sur la Protection Sociale (CRAPS) dès 2020 dans un rapport consacré à l’impact de l’IA sur la protection sociale[76], cet effort de diffusion durable de l’IA en santé doit pouvoir être co-construit entre l’assurance-maladie et les mutuelles et organismes complémentaires. Ces derniers ont ici un champ majeur et nouveau pour montrer toute leur contributivité en matière de repérage de l’innovation émergente en santé et d’intégration de ces nouveaux dispositifs à leurs formules de contrats pour faire bénéficier ces outils au plus grand nombre.

Dans une logique de responsabilité populationnelle en santé, cinq premiers parcours territoriaux de santé mobilisant l’IA pourraient, en outre, être engagés dès le 1^er janvier 2025.

Cette expérimentation viserait les domaines dans lesquels l’IA a d’ores et déjà fait ses preuves opérationnelles et représenterait un levier d’accès aux soins et de pertinence des actes (traumatologie, dermatologie, mammographie, ophtalmologie gastro-entérologie ou encore santé respiratoire). A la suite des premières orientations favorables au développement de l’IA posées dans la nouvelle convention médicale, ce dispositif pourrait intégrer une valorisation de l’acte de contrôle médical humain et une démarche d’évaluation des effets observés en termes de prévention, accès aux soins et pertinence des actes. Un ordre de grandeur de 300 M€ pour les deux premières années d’engagement de la démarche permettrait de financer une première étape significative.

Ces parcours intégreraient une évaluation médico-économique précise des effets de la diffusion de l’IA en termes d’accès à la prévention et aux soins et de gains d’efficience induits. La liste de ces parcours serait validée en Conseil stratégique de l’IA en santé. Ces programmes seraient engagés sur une durée de trois à cinq ans et feraient l’objet d’une actualisation annuelle. Ces parcours seraient d’abord déployés chacun sur une dizaine de territoires pilotes (dont une partie en zone de difficultés constatées d’accès aux soins) avant, le cas échéant, d’être étendus au plan national.

Nous pouvons donner quelques exemples de parcours susceptibles d’être rapidement déployés. Chacun de ces parcours aurait naturellement à faire l’objet de discussions approfondies avec les représentants des professionnels concernés et des patients quant aux possibles modalités de déploiement qui ne sont ici présentées qu’à titre indicatif.

• Créer la confiance autour de l’IA en santé en mobilisant le levier de la préparation de l’AI Act européen pour diffuser une culture de la Garantie Humaine de l’IA

La création des conditions de la confiance des professionnels et des patients autour du recours à l’IA en santé représente un enjeu prioritaire pour assurer une diffusion durable de cette innovation technologique. A cet égard, il est nécessaire d’accompagner la mise en conformité à l’AI Act auprès des soignants utilisateurs d’IA afin de déployer des écosystèmes de confiance sous l’égide des représentants des spécialités concernés et des représentants des patients. C’est précisément le but de la reconnaissance du principe de Garantie Humaine dans la loi de bioéthique française d’août 2021 et dans le nouveau règlement européen sur l’IA.

Pour piloter cette conformité éthique et juridique, l’intérêt de création de « Collèges de Garantie Humaine » associant représentants des professionnels et représentants des patients a été souligné dès l’avis 129 du Comité consultatif national d’éthique établi dans le cadre de la préparation de la révision de la loi de bioéthique.

Des démarches pilotes ont ainsi déjà été initiées dans plusieurs aires thérapeutiques comme :

– Les soins bucco-dentaires sous l’égide de l’Union française pour la santé bucco-dentaire (UFSBD) ;

– La radiologie sous la supervision depuis 2018 de DRIM France IA[77] qui rassemble les radiologues libéraux et hospitaliers ;

– La biologie sous égide de la Société française d’informatique des laboratoires (SFIL) ;

– Ou encore l’oncologie dans le cadre d’une démarche pilote porté par Unicancer à l’échelle de l’ensemble des Centres de lutte contre le cancer.

L’intérêt de la participation des patients à ces démarches de Garantie Humaine a été très fortement souligné dans le cadre des travaux menés à ce sujet par France Assos Santé, qui fédère les associations représentatives des patients. Ce faisant, cette collégialité en garantie humaine de l’IA peut être analysée comme un nouvel espace de démocratie sanitaire permettant un dialogue régulier associant tiers de confiance professionnels, concepteurs d’innovations en IA et représentants des bénéficiaires finaux.

Il est à souligner que ce principe de Garantie Humaine a également été endossé dès 2018 dans le cadre des travaux de la Mutualité française sur l’intelligence artificielle et le data management en santé conduit par Eric Chenut, désormais Président de la Fédération nationale de la Mutualité française. A la suite de cette démarche, un écosystème de garantie humaine de l’IA dans le champ mutualiste a été initié mi-2023 avec une initiative pilote de la MGEN pour construire et mettre en œuvre un modèle de conformité applicable aux traitements algorithmiques utilisés dans ce domaine.

La Fédération de l’hospitalisation privée (FHP) a fait de la diffusion de l’IA et de régulation éthique à partir du principe de garantie humaine une des orientations mises en œuvre dans le cadre de sa nouvelle démarche d’entreprise à mission. Cette initiative rejoint le déploiement rapide des cas d’usage de l’IA sur le terrain.

La Haute Autorité de Santé a, par ailleurs, soutenu ce processus de reconnaissance en intégrant la Garantie Humaine dès 2020 dans les critères identifiés dans le cadre de sa grille d’évaluation des dispositifs médicaux avec IA préalablement à leur admission par la Sécurité sociale[78]. Lionel Collet, Président de la HAS, a récemment annoncé que les décisions que la HAS seraient amenées à prendre concernant les systèmes d’IA en santé seraient motivées au regard des dispositifs de garantie humaine mis en place.

3.2 Leviers d’action à moyen terme : promouvoir un modèle durable de diffusion de l’IA en santé et en autonomie fondé sur la Garantie Humaine des professionnels de santé et des représentants des patients

Pour accompagner ces transformations, une véritable démarche d’accompagnement à la conduite du changement doit pouvoir être initiée en mobilisant l’ensemble des leviers possibles.

• Doter la France d’une plateforme souveraine d’aide à la mise en œuvre de ces systèmes d’IA au plus proche des professionnels et des patients

Pour permettre la mobilisation de ces systèmes d’IA en cohérence avec les réalités quotidiennes des professionnels, des patients et des proches aidants, la maîtrise du vecteur technologique de distribution de ces outils technologiques dans un cadre de confiance constitue un enjeu-clé.

En effet, les expériences de diffusion d’outils numériques dans le cadre de logiques de plateformisation montrent que la maîtrise de la plateforme représente aussi une condition de maîtrise de l’accès au service numérique dans ses modalités pratiques mais aussi dans la fixation de ses paramètres économiques.

Dans ces conditions, il convient de soutenir le développement et l’hébergement[79] dans un cadre souverain et de confiance de plateformes de distribution de ces systèmes d’IA en établissements de santé, en ville et à domicile au plus près des professionnels et des patients.

Les systèmes d’IA susceptibles d’être distribués par un vecteur de ce type devront faire l’objet, par les processus adaptés de conformité AI Act, labellisation et normalisation, des mécanismes de reconnaissance et de validation utiles.

L’objet ne doit pas être ici de viser une démarche centralisée mais plutôt, par la voie d’un appel à projets national, de favoriser l’éclosion de consortiums traduisant cette logique de souveraineté numérique.

• Engager une véritable démarche stratégique de gestion prévisionnelle des emplois et des compétences dans le recours à l’IA en santé

Dans une étude réalisée en 2019, l’Institut Montaigne[80] préconisait un changement d’approche sur l’accompagnement de ces transformations associées à l’IA pour les métiers de la santé. La proposition d’établir une méthodologie d’évaluation des impacts de l’IA sur l’emploi permet, à cet égard, d’appréhender les effets de création et de transformation des métiers du secteur de la santé. Les pouvoirs publics auraient tout intérêt à créer, en la matière, une plateforme de dialogue entre les différents acteurs impliqués. La méthodologie de chiffrage proposée dans cette note s’articule autour de six étapes clés. La première étape consiste à recenser les effectifs par catégories professionnelles du secteur de la santé, comme par exemple la gestion administrative. Ensuite, il s’agit de répertorier les métiers appartenant aux catégories professionnelles à l’instar de celui de secrétaire médical(e). Sont ensuite identifiées les activités ou tâches correspondant à chaque métier, ce qui permet, lors de la quatrième étape, de déterminer le taux de substitution de chaque activité identifiée. L’étape suivante vise à mesurer le taux de substitution pour chaque métier. Enfin, la dernière étape permet de réaliser des scénarios d’impact. La construction d’un cadre de dialogue associant les représentants des patients, les professionnels de santé, les partenaires sociaux et les acteurs économiques constitue un axe prioritaire pour mener à bien ce chantier.

Dès 2017, Ethik-IA abordait ces enjeux RH dans le cadre de la publication de ses « cinq clés de régulation de l’intelligence artificielle et de la robotisation en santé ». La clé numéro 4 était, ainsi, rédigée : « la mise en œuvre d’un dispositif d’intelligence artificielle ou de robotisation en santé ne doit pas conduire à écarter l’application des principes et règles déontologiques dans l’exercice des professions de santé utilisant ces dispositifs. Les effets du recours à un dispositif d’intelligence artificielle ou de robotisation sur les conditions de cet exercice doivent, dans toute la mesure du possible, faire l’objet de modalités d’anticipation et d’accompagnement. Une partie des gains d’efficience obtenus par le déploiement de l’intelligence artificielle et de la robotisation en santé doit être mobilisée pour le financement de cet accompagnement, la formation – initiale et continue – des professionnels aux enjeux de l’intelligence artificielle et de la robotisation et pour le soutien à l’émergence de nouveaux métiers dans le champ sanitaire et médico-social. » Cette proposition – issue d’un travail approfondi de concertation avec les acteurs de santé – visait à positionner la prise en compte de ces enjeux RH dans une optique résolument positive et anticipatrice. La diffusion de l’IA et de la robotisation peut, en effet, représenter une opportunité pour l’amélioration de la qualité de vie au travail pour autant que ses effets RH soient suivis en continu pour, dans toute la mesure du possible, être anticipés.

Depuis cinq ans, des avancées sont intervenues en ce sens. L’actualisation de l’arrêté sur le développement professionnel continu médical en septembre 2019 a permis de faire de l’IA une orientation prioritaire pour les programmes de formation médicale continue. Un programme pilote de sensibilisation à l’IA pour les élèves des instituts paramédicaux a été initié par la Région Auvergne-Rhône Alpes.

En outre, l’ANFH a déclenché en 2021 un programme de préparation à l’IA pour les établissements de santé de quatre régions pilotes (PACA, Auvergne-Rhône Alpes, Occitanie et Corse) permettant de mettre en œuvre des actions de sensibilisation générales pour les professionnels hospitaliers mais aussi des formations-accompagnement thématiques sur les domaines prioritaires de diffusion de l’IA à l’hôpital public. Ce dispositif constitue le plus important programme d’accompagnement à l’IA mis en œuvre par un organisme de formation professionnelle dans le secteur public. 

Depuis quatre ans, l’Université Paris-Cité a, en outre, structuré une chaire IA pilotée par le Pr Guillaume Assie et mettant en œuvre un diplôme d’université combinant enseignements sur l’IA, ses usages en santé et sa régulation éthique et destiné à un public associant concepteurs de systèmes, professionnels ou managers de santé. D’autres démarches de ce type se sont structurées depuis lors comme à Montpellier ou à Dijon.

En 2023, François Braun, Ministre de la Prévention et de la Santé annonçait la généralisation de la sensibilisation aux enjeux numériques dans le cadre des formations paramédicales. Nous n’en sommes, cependant, pas encore à la généralisation de contenus sur l’intelligence artificielle dans le cadre de ce nouveau dispositif très important.

Par ailleurs, en 2024, des initiatives intéressantes ont été prises dans le domaine du management pour inscrire dans les cursus de l’EHESP et de l’EN3S une première sensibilisation aux enjeux de l’IA dans les domaines de la santé et de l’autonomie.

Il convient, enfin, naturellement de ne pas perdre de vue les besoins de plus en plus importants en formations spécialisées sur les domaines techniques associés à l’IA : directions de système d’information, informatique médicale, métiers du data management en santé. 

• Maitriser les enjeux de responsabilité pour les professionnels de santé et stimuler de véritables démarches de qualité et gestion des risques dans le recours à l’IA

La maîtrise des enjeux de responsabilités et d’assurabilité pour les professionnels de santé dans une logique de qualité et gestion des risques s’avère essentielle pour assurer la confiance dans le recours à l’IA.

La question de l’impact de l’intelligence artificielle sur les régimes de responsabilité des professionnels fait actuellement l’objet de tous les fantasmes. Pour répondre à la révolution technologique, il faudrait d’urgence mettre en place un cadre autonome de responsabilité des robots ou de l’intelligence artificielle. Sur cette question comme sur d’autres enjeux associés à l’intelligence artificielle en santé, il est, en réalité, surtout important de prendre un peu de recul pour mesurer la portée exacte des évolutions en cours.

En réalité, l’appréhension par le droit de l’impact de l’action des machines – et même des robots – sur notre santé ne constitue pas réellement une question juridique nouvelle et trouve en bonne partie sa réponse dans le cadre des principes classiques de la responsabilité du fait des choses prévus par le Code civil. Ces règles générales se complètent de régimes spéciaux de responsabilité dont celui relatif aux produits défectueux, issu d’une directive communautaire du 25 juillet 1985 transposée – tardivement – dans notre droit par une loi du 19 mai 1998. Dans ce régime, en cas de dysfonctionnement du système d’IA, la charge d’indemniser associés à son usage se déplace sur le concepteur du dispositif.

Cependant, l’apparition d’une nouvelle génération d’« IA apprenantes » peut conduire à rendre inopérant le régime de responsabilité des produits défectueux. En effet, la notion de risque de développement constitue un motif d’exonération de responsabilité. Il s’agit d’un risque découlant de produits défectueux que l’on ne pouvait déterminer au moment de la conception du produit, au vu de l’état des connaissances scientifiques et techniques[81]. Nous pourrions tout à fait être dans cette situation dans le cas de dommages causés par des développements « autogénérés » par l’IA au-delà de sa programmation initiale, à partir d’un raisonnement par inférence. Les premières applications pratiques d’IA génératives dans le domaine de la santé ont montré que ces possibilités de dommages n’étaient pas du tout théoriques et sans doute appelées à se développer de façon significative.

Cette évolution appelle donc, en premier lieu, une réponse sur le terrain du cadre juridique applicable, ce qui est précisément l’objet du projet en cours de modification de la directive relative à la responsabilité du fait des produits défectueux. 

Une diffusion durable dans un cadre de sécurité juridique de l’IA pour les professionnels, les patients et les établissements de santé implique, par ailleurs, de réfléchir sur le fond aux enjeux de l’assurabilité du recours à ces systèmes d’intelligence artificielle dans les domaines de la santé et de l’autonomie.

A ce stade, en écho à la question plus large qui vient d’être évoquée pour les régimes de responsabilité, nous ne constatons pas, à ce stade, de déstabilisation associée à la diffusion de l’IA en santé des mécanismes de l’assurance des professionnels et des établissements. Les questions potentielles à traiter à moyen terme sont, cependant, nombreuses et sensibles et notamment la perspective de mise en cause de la responsabilité d’un professionnel ou d’un établissement de santé n’ayant pas utilisé un système d’IA qui se serait progressivement imposé comme un gold standard dans le domaine médical concerné.

Une façon pragmatique d’anticiper ces enjeux consiste à appréhender le sujet dans une logique proactive de qualité et de gestion des risques. C’est le sens des travaux conduits au plan européen sous l’égide de RELYENS, mutuelle issue du secteur hospitalier français et devenue le premier assureur européen des établissements de santé : l’intégration de programmes de qualité et de gestion des risques autour de l’IA en santé est ici associée à une démarche de transformation du métier de l’assurance vers le management des risques[88].

D’un point de vue opérationnel, à l’échelle des structures de santé, la formule du Collège de Garantie Humaine peut être adaptée afin de créer les conditions de cette politique émergente de qualité et gestion des risques autour de l’intelligence artificielle. C’est le sens des initiatives engagées par le Groupe hospitalier Saint-Joseph à Paris et le CHU de Toulouse.

Ces initiatives d’établissements de santé pourraient sans doute être extrapolées en ville à l’échelle des Communautés professionnelles territoriales de santé (CPTS) ou, plus largement, au niveau des territoires de santé en cohérence avec la reconnaissance progressive de parcours territoriaux de santé intégrant le recours à l’IA.

• Encourager l’émergence de nouvelles synergies entre professionnels dans le recours à l’IA

Dans ce contexte de révolution technologique, il ne faut pas craindre la disparition des médecins, et plus généralement des soignants. Au contraire, c’est bien une possibilité majeure de simplification des conditions d’exercice et d’amélioration de la qualité de vie au travail qu’il faut saisir.

Dans ce contexte, le rôle du médecin non seulement n’est pas menacé mais il est appelé à s’élargir significativement. Il a vocation à se positionner de plus en plus en premier agent d’accès à l’IA de spécialité, sous le contrôle humain des spécialistes concernés, en temps réel ou en différé dans le cadre de la nouvelle activité en pleine émergence de télémédecine de garantie humaine de l’IA.

Par ailleurs, le mouvement de diffusion de l’IA en santé entre en synergie avec la volonté affichée par les pouvoirs publics d’étendre les compétences susceptibles d’être dévolues aux pharmaciens et aux professionnels paramédicaux. Au Portugal, l’intelligence artificielle de reconnaissance d’image en dermatologie est ainsi d’ores et déjà utilisée en première ligne par les infirmiers à domicile mobilisant un outil d’IA sur smartphone dans le cadre d’un protocole faisant intervenir en deuxième étape un contrôle à distance par un dermatologue.

  Ces interventions articulées entre professionnels paramédicaux et médicaux ouvrent également des opportunités très significatives pour renouveler les conditions du maintien en autonomie et de la prévention en direction des personnes les plus vulnérables.

Par ailleurs, la mise en œuvre de l’obligation de contrôle humain de l’IA en vie réelle ouvre la voie à l’apparition de pratiques de télémédecine de garantie humaine de l’intelligence artificielle. En radiologie, MEDIN+ s’est ainsi positionné, en partenariat avec Ethik-IA, en avance de phase sur la spécialisation de ses professionnels pour intervenir dans le cadre de protocoles de supervision humaine de l’IA pour permettre un accès renforcé aux soins combiné à un contrôle asynchrone de spécialiste, comme dans le cas du recours à l’intelligence artificielle d’interprétation des images de traumatologie aux urgences. Ces configurations permettent de développer de nouvelles modalités d’accessibilité aux soins en combinant intervention présentielle d’un professionnel de santé en première ligne, mobilisation de l’innovation en IA et contrôle à distance du spécialiste. La création de la confiance autour de ce type d’organisation implique naturellement un point de vigilance quant au mouvement en cours de financiarisation de certains acteurs de téléradiologie.

• Positionner fortement la France et l’Europe sur l’enjeu de la normalisation de l’IA en santé

  Cette compétition mondialisée autour de l’IA en santé implique de relever, outre les défis de l’innovation technologique et de la régulation positive, celui de la normalisation européenne et internationale. En effet, cette vision ouverte d’une IA santé préservant l’humain au cœur d’un système de santé solidaire implique de porter également cette vision dans le cadre de ces travaux techniques qui définiront les modalités internationales de diffusion des technologies.

  Les premiers travaux menés avec l’AFNOR, les acteurs industriels et les représentants des patients montrent à quel point ces enjeux sont décisifs pour la compétitivité de la France et de l’Europe sur ces sujets et pour maintenir dans un contexte mondial une attention aux enjeux éthiques de l’intelligence artificielle. 

Bibliographie

I. OUVRAGES

Bibault, Jean-Emmanuel. (2023). 2041: L’odyssée de la médecine. Éditions Équateur ;

Jérôme Marchand-Arvier et al. (2023). Rapport sur les systèmes d’IA générative en santé.

II. MONOGRAPHIES

Djeddi et al., Advancing drug–target interaction prediction: a comprehensive graph-based approach integrating knowledge graph embedding and ProtBERT pretraining, BMC Bioinformatics (2023), 24, 488 (2023), https://doi.org/10.1186/s12859–023–05593–6 ;

Faqar-Uz-Zaman S.F. et al., (2021), “Study protocol for a prospective, double-blinded, observational study investigating the diagnostic accuracy of an app-based diagnostic health care application in an emergency room setting: the eRadaR trial”, British Medical Journal Open, 11:e041396 ;

McDuff, D., Schaekermann, M., Tu, T., Palepu, A., Wang, A., Garrison, J., … & Natarajan, V. (2023). Towards Accurate Differential Diagnosis with Large Language Models. arXiv preprint arXiv:2312.00164 ;

TU, T.ET AL. (2024) « Towards Conversational Diagnostic AI » ;

OLAWADE D. B., O. J. WADA, A. C. DAVID-OLAWADE, E. KUNONGA, O. ABAIRE, ET J. LING (2023) « Using artificial intelligence to improve public health: a narrative review » Front Public Health ;

N. AGARWAL, A. MOEHRING, P. RAJPURKAR, ET T. SALZ (2023), « Combining Human Expertise with Artificial Intelligence: Experimental Evidence from Radiology », Working paper.

III. RAPPORTS OFFICIELS

Académie Nationale de Médecine. (2023). Rapport-Systèmes d’IA générative en santé ;

Commission de l’intelligence artificielle, « IA : Notre ambition pour la France », 2024 ;

Healthcare Data Institute. (2024). Rapport sur l’intelligence artificielle en santé ;

PWC, « Study on eHealth interoperability of Health Data and Artificial Intelligence for Health and Care in European Union”, Lot 2 : Artificial Intelligence for Health and care in the UE, Final Country Factsheets, 2021 ;

PWC, « Study on eHealth interoperability of Health Data and Artificial Intelligence for Health and Care in European Union”, Lot 2 : Artificial Intelligence for Health and care in the UE, Final Study Report, 2021 ;

Rapport de l’Académie Nationale de Médecine du 5 mars 2024 ;

VILLANI C., « Donner un sens à l’intelligence artificielle – pour une stratégie nationale et européenne », Rapport mars 2018.

IV. AVIS ET RECOMMANDATIONS

Comité consultatif national d’éthique, Contribution à la révision de la loi de bioéthique, Avis n° 129, 25 septembre 2018 ;

Comité Consultatif National d’Éthique (CCNE), & Comité National Pilote d’Éthique du Numérique (CNPEN). . Avis 141 du CCNE et 4 du CNPEN – Diagnostic Médical et Intelligence Artificielle : Enjeux Éthiques ;!

CNPEN, Avis n° 3 du 15 septembre 2021, Agents conversationnels : enjeux d’éthique ;

HAS, Avis de la Commission Nationale d’Evaluation des Dispositifs Médicaux et des Technologies de Santé (CNEDiMTS) du 28 janvier 2020 ;

Think Tank Économie Santé. (2024). Reco 2024 – IA en santé. . Think Tank Économie Santé.

V. ARTICLES

ALLISONE, « IA & santé : Où en sont la Chine, les États-Unis et l’Europe », 12 mars 2024 ;

Ayers, J. W., Poliak, A., Dredze, M., Leas, E. C., Zhu, Z., Kelley, J. B., … & Smith, D. M. (2023). Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum. JAMA internal medicine ;

Blanc D., et al., (2020), “Artificial intelligence solution to classify pulmonary nodules on CT”, Diagnostic and Interventional Imaging, 101 ;

Colling R., et al., (2019), “Artificial intelligence in digital pathology: a roadmap to routine use in clinical practice”, The Journal of Pathology, 249: 143–50 ;

Coudray N., et al., (2018), “Classification and mutation prediction from non–small cell lung cancer histopathology images using deep learning”, Nature Medicine, 24, 1559–67 ;

Van der Laak J., et al., (2021), “Deep learning in histopathology: the path to the clinic”, Nature Medicine, 27, 775–84 ;

D. et al., (2019), “End-to-end lung cancer screening with three-dimensional deep learning on low-dose chest computed tomography“, Nature Medicine, 25, 954–61 ;

Editorial de Nature, janvier 2024 : There are holes in EU AI Act ;

E. Svoboda, (2020), “Deep learning delivers early detection”, Nature, 587, S20–2 ;

Esteva A., et al., (2017), “Dermatologist-level classification of skin cancer with deep neural networks”, Nature, 542 ;

Fondation Jean Jaurès, « systèmes de santé : une comparaison France/États-Unis, 15 mai 2023 ;

Gruson, D., & Grass, É. (2020). Quelle régulation positive éthique de l’intelligence artificielle en santé?. Les Tribunes de la santé, (1), 25–33 ;

Gruson, D. (2019). Le numérique et l’intelligence artificielle en santé: surveillance généralisée ou avancée majeure?. Les Tribunes de la santé, (2), 23–29 ;

Gruson, D. (2022, August). Pilotage par les données et l’IA en santé: faire vivre l’écosystème de la « Garantie humaine » MedTech et HealthTech!. In Annales des Mines-Réalités industrielles (No. 3, pp. 24–26) ;

Gruson, D. (2022). Systèmes d’information en santé; intelligence artificielle et Garantie Humaine: une nouvelle étape historique?. Journal de Droit de la Santé et de l’Assurance Maladie, (31) ;

Institut National de la Santé et de la Recherche Médicale (Inserm). (2024). Intelligence artificielle et santé ;

Jean-Urbain Hubau et al. (2024). Cartes de France de l’accès aux soins. Éditions Fondation Jean-Jaurès ;

MORLET-HAÏDARA L., « Le numérique et l’intelligence artificielle au service des publics âgés : des opportunités soulevant des problématiques éthiques et juridiques », Journal du Droit de la Santé et de l’Assurance – Maladie (JDSAM), vol. 31, no. 1, 2022 ;

OMS, « L’intelligence artificielle dans la recherche en santé mentale : nouvelle étude de l’OMS sur les applications et les défis », CP 6 février 2023 ;

SHEN, Y., F. E. SHAMOUT, J. R. OLIVER, ET AL. « Artificial intelligence system reduces false-positive findings in the interpretation of breast ultrasound exams » Nat Commun, 21 septembre 2024 ;

Strong, E., DiGiammarino, A., Weng, Y., Kumar, A., Hosamani, P., Hom, J., & Chen, J. H. (2023). Chatbot vs medical student performance on free-response clinical reasoning examinations. JAMA internal medicine, 183(9), 1028–1030 ;

Syryk C., et al., (2020), “Accurate diagnosis of lymphoma on whole-slide histopathology images using deep learning”, npj Digital Medicine, 3, 63 ;

WANG W., “Artificial Intelligence and healthcare in China : What is the role for soft law?”, Droit, santé et société, 2021/3 (N°3) ;

ZHOU L., « L’intelligence artificielle médicale commence à accélérer l’industrialisation », New economics guide, juillet 2017.

VI. LÉGISLATIONS

Règlement (UE) 2024/… DU PARLEMENT EUROPÉEN ET DU CONSEIL du… établissant des règles harmonisées concernant l’intelligence artificielle [et modifiant les règlements (CE) n°300/2008, (UE) n°167/2013, (UE) n°168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (législation sur l’intelligence artificielle)], 6 mars 2024 ;

European Parliament legislative resolution of 12 March 2024 on the proposal for a directive of the European Parliament and of the Council on liability for defective products (COM(2022)0495 – C9–0322/2022 – 2022/0302(COD)).

[1] Commission de l’intelligence artificielle, IA : notre ambition pour la France, mars 2024 https://www.info.gouv.fr/upload/media/content/0001/09/4d3cc456dd2f5b9d79^ee75feea63b47f10d75158.pdf

[2] Co-fondateur du groupe Intelligence Artificielle au MIT. « Steps toward artificial intelligence », Proceedings of the IRE, janvier 1961.

[3] Cette dernière est également marquée par des avancées très rapides comme dans le champ urologique mais avec, à ce stade, moins d’enjeux de substitution de la décision de la machine à celle de l’Humain ; les procédés utilisés reviennent en pratique à « augmenter » le geste du chirurgien, celui restant maître de la décision elle-même.

[4] Think Tank Economie Santé, Recommandation 2024 : cinq mesures pour que la révolution de l’IA renforce réellement le système de santé https://www.lesechosleparisien-evenements.com/wp-content/uploads/2024/03/LA-RECO-2024-BD-BAT-page-a-page.pdf

[5] Chaire Santé Sciences Po, Enjeux de l’intelligence artificielle en santé, février 2023 https://www.sciencespo.fr/chaire-sante/sites/sciencespo.fr.chaire-sante/files/Enjeux%20de%20l%27IA%20^en%20sante%CC%81%2026.05.pdf

[6] Healthcare Data Institute, Dix recommandations pour faire de l’IA en santé une réalité, janvier 2024 https://healthcaredatainstitute.com/

[7] https://www.health-data-hub.fr/aap-eds

[8] https://5juilletdatatransformeurs.com/

[9] PWC, « Study on eHealth Interoperability of Health Data and Artificial Intelligence for Health and Care in European Union », Lot 2 : Artificial Intelligence for health and care in the UE, Final Study Report, 2021, p.25

[10] PWC, « Study on eHealth Interoperability of Health Data and Artificial Intelligence for Health and Care in European Union », Lot 2 : Artificial Intelligence for health and care in the UE, Country Factsheets, 2021, p.63

[11] Ibid., p. 34

[12] ibid., p. 35

[13] Food and Drug Administration.

[14]https://www.gehealthcare.com/about/newsroom/press-releases/tampa-general-hospital-and-ge-healthcares-carecomm-saves-40-million-cuts-20000

[15] https://www.shiftmed.com/blog/impact-of-ai-in-healthcare-administration/

[16] BLONS. E, Glossaire, « L’IA au cœur de l’entreprise », 2023, p. 173 à 178 : Un jumeau numérique est une représentation virtuelle d’une entité ou d’un processus du monde réel. Il est composé des trois éléments suivants : une entité physique dans l’espace réel ; le jumeau numérique sous forme de logiciel ; et les données qui relient les deux premiers éléments.

[17] Zhou luhan, « l’intelligence artificielle médicale commence à accélérer l’industrialisation », New economics guide, juillet 2017, pp. 18–22.

[18] Baidu, Alibaba, Tencent, Xunfei

[19] WANG Wei, « Artificial Intelligence and healthcare in china : What is the rôle for sort law ? », Droit, santé et société, 2021/3 (N°3), p. 29 à 37

[20] Allisone, « IA & santé : Où en sont la Chine, les États-Unis et l’Europe », 12 mars 2024

[21] Le Comité national pilote d’éthique du numérique créé en décembre 2019 a été pérennisé en Comité Consultatif National d’Éthique du Numérique (C.C.N.E. du Numérique) le 27 mai 2024 https://cabinetpm.hosting.augure.com/Augure_CCNE/r/ContenuEnLigne/Download?id=1BE2DCC6-AAF7–414F-AF5F-C8A1^EB2FFCE1&filename=CCNE_CP_20240527_Creation-CCNE-Numerique.pdf

[22] L’avis commun 141 CCNE/Avis 4 CNPEN du Comité Consultatif National d’Ethique adopté en novembre 2022 « fait suite à une saisine du Comité national pilote d’éthique du numérique (CNPEN) par le Premier ministre sur les enjeux d’éthique de l’utilisation de l’intelligence artificielle (IA) dans le champ du diagnostic médical, exprimée dans sa lettre de mission du 15 juillet 2019.”

[23] Ibid. p.20, cf Ardila, D. et al., (2019), “End-to-end lung cancer screening with three-dimensional deep learning on low-dose chest computed tomography“, Nature Medicine, 25, 954–61 ; Blanc D., et al., (2020), “Artificial intelligence solution to classify pulmonary nodules on CT”, Diagnostic and Interventional Imaging, 101 : 803–810.

[24] Ibid. p.20, cf E. Svoboda, (2020), “Deep learning delivers early detection”, Nature, 587, S20–2.

[25] Le marquage « CE » figure sur la majorité des produits non alimentaires. Il matérialise l’engagement du fabricant du produit sur sa conformité aux exigences fixées par la réglementation communautaire. Il doit être apposé avant qu’un produit ne soit mis sur le marché européen

[26] l’avis commun 141 CCNE/Avis 4 CNPEN du Comité Consultatif National d’Ethique adopté en novembre 2022 p20 Esteva A., et al., (2017), “Dermatologist-level classification of skin cancer with deep neural networks”, Nature, 542: 115–18.

[27] L’avis commun 141 CCNE/Avis 4 CNPEN du Comité Consultatif National d’Ethique adopté en novembre 2022 p.23 : “Elle est établie à partir d’échantillons de tissus ou de cellules prélevés lors d’une intervention chirurgicale, d’une endoscopie, ou lors de tout autre prélèvement, fixés sur lame de verre. Le diagnostic se fonde sur la distinction des différents constituants de l’architecture tissulaire et cellulaire au microscope optique après coloration et marquages. Ces lames sont aujourd’hui numérisées”.

[28] Ibid. p.23, cf Syryk C., et al., (2020), “Accurate diagnosis of lymphoma on whole-slide histopathology images using deep learning”, npj Digital Medicine, 3, 63 ; Coudray N., et al., (2018), “Classification and mutation prediction from non–small cell lung cancer histopathology images using deep learning”, Nature Medicine, 24, 1559–67.

[29] Ibid. p.23, cf Colling R., et al., (2019), “Artificial intelligence in digital pathology: a roadmap to routine use in clinical practice”, The Journal of Pathology, 249: 143–50 ; Van der Laak J., et al., (2021), “Deep learning in

histopathology: the path to the clinic”, Nature Medicine, 27, 775–84.

[30] Ibid. p.28, Consultable au lien suivant : https://ada.com/

[31] Ibid. p.28,. Consultable au lien suivant : https://www.babylonhealth.com/en-us

[32] Ibid. p.28, D’après plusieurs études, « 40 % des diagnostics d’admission lors de la première présentation aux urgences ne concordent pas avec le diagnostic final du patient », voir cette synthèse : Faqar-Uz-Zaman S.F. et al., (2021), “Study protocol for a prospective, double-blinded, observational study investigating the

diagnostic accuracy of an app-based diagnostic health care application in an emergency room setting: the

eRadaR trial”, British Medical Journal Open, 11:e041396.

[33] Ibid. p.29. Le capteur mesure toutes les 5 minutes le glucose interstitiel qui est transmis au terminal mobile. Ce terminal mobile vise à piloter automatiquement la pompe à insuline, ou proposer des recommandations àpartir des données du capteur, des données historiques du patient, de la pompe à insuline et des données rentrées par le patient », voir : HAS, Avis de la Commission Nationale d’Evaluation des Dispositifs Médicaux et des Technologies de Santé (CNEDiMTS) du 28 janvier 2020, 45 p.

[34] Le CCNE est né en 1983 après la naissance par fécondation in vitro du premier bébé français. Le rôle du CCNE est de fournir un éclairage utile aux décideurs et au débat public sur les enjeux éthiques de ces progrès.

[35]Rapport de l’Académie Nationale de Médecine du 5 mars 2024. p.9 “Le marché de la découverte de médicaments par l’IA générative de 150M$ en 2023 pourrait être multiplié par 10 dans les années à venir”

[36] Intervention précoce dans la psychose : vers une psychiatrie préventive et personnalisée : Coordonné par Pr. Marie-Odile Krebs (Université de Paris/GHU Paris/Inserm) https://www.ghu-paris.fr/fr/programme-psycare

[37] https://www.chu-toulouse.fr/ihu-toulouse-cree-son-institut-dedie-a-la-9936

[38] https://congres-jvma.fr/

[39] Dans la foulée, Hela Ghariani a été nommée, en conseil des ministres du 7 juin, déléguée au numérique en santé. Elle est avec David Sainati, co-responsable du numérique en santé dans un fonctionnement en binôme complémentaire à la tête de la DNS.

[40] Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne, Rapport remis au Premier ministre, 2018 https://www.google.fr/books/edition/Donner_un_sens_%C3%A0_l_intelligence_artific/Q7lUDwAAQBAJ?hl=fr&gbpv=1&printsec=frontcover

[41] IA : notre ambition pour la France, rapport de la Commission de l’intelligence artificielle remis à la Première ministre, mars 2024 https://www.info.gouv.fr/upload/media/content/0001/09/4d3cc456dd2f5b9d79^ee75feea63b47f10d75158.pdf

[42] https://www.innovant.fr/2018/01/11/lintelligence-artificielle-prevenir-suicides/

[43] Commission de l’intelligence artificielle, 2.1.4 Mieux soigner grâce à l’IA : plus de temps au soin « IA : Notre ambition pour la France », 2024, p. 81–82

[44] WONG, F., ZHENG, E.J., VALERI, J. A., et al.(2023) « Discovery of a structural class of antibiotics with explainable deep learning » Nature.

[45] OLAWADE D. B., O. J. WADA, A. C. DAVID-OLAWADE, E. KUNONGA, O. ABAIRE, ET J. LING (2023) « Using artificial intelligence to improve public health: a narrative review » Front Public Health

[46] Natural language Processing

[47] TU, T.ET AL. (2024) « Towards Conversational Diagnostic AI »

[48] Commission de l’intelligence artificielle, 2.1.4 Mieux soigner grâce à l’IA : plus de temps au soin « IA : Notre ambition pour la France », 2024, p. 82

[49] https://healthcaredatainstitute.com/wp-content/uploads/2024/01/etudes-hdi-day-2023_compressed_compressed-1.pdf

[50] https://sciencespo.hal.science/hal-03385740v1/file/2005-les-trois-i.pdf

[51] https://www.entreprises.gouv.fr/fr/actualites/innovation-sante-2030-plan-ambitieux-pour-industries-de-sante

[52] https://sante.gouv.fr/IMG/pdf/dossier_sns_2017_vdef.pdf

[53] https://www.femtechfrance.org/

[54] https://www.unicancer.fr/wp-content/uploads/2023/11/cp-conventionunicancer2023–1.pdf

[55] Pour « Continuum Soins Recherche ».

[56] https://recherche.unicancer.fr/fr/programmes/oncods/

[57] https://filiere-ia.fr/nous-connaitre/organisation/

[58] Andreas D. Lauritzen, PhD • Martin Lillholm, Ph.D. • Elsebeth Lynge, Ph.D. • Mads Nielsen, Ph.D. •Nico Karssemeijer, PhD • Ilse Vejborg, MD, “Indicateurs précoces de l’impact de l’utilisation de l’IA dans le dépistage du cancer du sein par mammographie”, Radiology, Vol 311, Number 3, 27 mars 2014.

[59] . Perry N, Broeders M, de Wolf C, Törnberg S, Holland R, von Karsa L. European guidelines for quality assurance in breast cancer screening and diagnosis. Fourth edition—summary document. Ann Oncol 2008;19(4):614–22.

[60] Rapport de l’Académie Nationale de Médecine du 5 mars 2024. p.9 “Le marché de la découverte de médicaments par l’IA générative de 150M$ en 2023 pourrait être multiplié par 10 dans les années à venir”

[61] Ibid. p.9, cf Advancing drug–target interaction prediction: a comprehensive graph-based approach integrating knowledge graph embedding and ProtBERT pretraining, Djeddi et al. BMC Bioinformatics (2023), 24, 488 (2023), https://doi.org/10.1186/s12859–023–05593–6.

[62] Livre_blanc_Données_de_santé_artificielles-250424.pdf

[63] French Clinical Research Infrastructure Network, initiative engagée dès 2010 dans le cadre du programme d’investissements d’avenir.

[64] Colloque national "Next generation in clinical research: AI, in silico and external arms, Time to make them real" https://www.fcrin.org/espace-media/actualites/colloque-next-generation-clinical-research-ai-silico-and-external-arms-time

[65] Avis 129 et 141.

[66] https://www.who.int/fr/news/item/28–06–2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its-design-and-use

[67] Mesure de la puissance de calcul.

[68] En l’absence de risques systémiques.  

[69] Executive order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, 30 octobre 2023 https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/

[70] Secrétaire à la santé et aux services sociaux.

[71] L’ARS de Bretagne a, ainsi, déclenché dès 2022 un appel à manifestation d’intérêt mobilisant les crédits du Fonds d’intervention régional (FIR) pour soutenir l’émergence de cas d’usage d’intelligence artificielle dans la région.

[72] Cette démarche, qui se traduit par des programmes cliniques élaborés par l’ensemble des acteurs de santé d’un territoire, a d’abord été développée au Québec. Depuis 2017, elle est au cœur de la stratégie de santé de la Fédération hospitalière de France et plus particulièrement portée par les travaux d’Antoine MALONE. L’article 20 de la loi du 24 juillet 2019 relative à l’organisation et à la transformation du système de santé dispose ainsi que désormais, « l’ensemble des acteurs de santé d’un territoire est responsable de l’amélioration de la santé de la population de ce territoire ainsi que de la prise en charge optimale des patients de ce territoire. »

[73] Sur la plateforme ANAP des solutions d’IA en santé : https://ia.anap.fr/

[74] https://care-insight.fr/think-tank/

[75] Sur la définition de ce concept proposée par le panel d’experts de la Commission européenne : https://health.ec.europa.eu/system/files/2019–11/2019_defining-value-vbhc_factsheet_en_0.pdf

[76] CRAPS, “L’IA : un défi pour la protection sociale », 2020 https://www.thinktankcraps.fr/lia-un-defi-pour-la-protection-sociale-2/

[77] DRIM France IA est une association loi 1901, émanation du G4, Conseil National Professionnel de la Radiologie, qui regroupe les 4 institutions de la radiologie française (SFR, FNMR, CERF et SRH). Ces institutions représentent les 8 885 radiologues qui exercent en France (données 2019). L’un de ses principaux objectifs est d’accompagner le développement de l’IA en radiologie en aidant les radiologues à choisir des solutions d’IA pertinentes et validées, à les installer dans le respect des réglementations et en accompagnant la mise au point de solutions d’IA pertinentes et répondant aux besoins des radiologues français. DRIM France IA souhaite également pouvoir tester sur des datas et les différentes solutions disponibles. La mise œuvre de la garantie humaine afin de surveiller toute dérive des outils d’IA est également un enjeu fort pour DRIM.

[78] https://www.has-sante.fr/jcms/p_3212876/fr/un-nouvel-outil-pour-l-evaluation-des-dispositifs-medicaux-embarquant-de-l-intelligence-artificielle

[79] La qualification SecNumCloud constitue ainsi un visa de sécurité délivré par l’ANSSI attribué aux prestataires de service cloud, qui atteste du niveau optimum de qualité, de sécurité et de confiance de leurs services.

[80] Institut Montaigne, IA et emploi en santé : quoi de neuf docteur ? https://www.institutmontaigne.org/publications/ia-et-emploi-en-sante-quoi-de-neuf-docteur

[81] Pascal Oudot, Le Risque de développement, Éditions universitaires de Dijon, 2005.

[82] European Parliament legislative resolution of 12 March 2024 on the proposal for a directive of the European Parliament and of the Council on liability for defective products (COM(2022)0495 – C9–0322/2022 – 2022/0302(COD))

[83] Ibid., Article 8.1.b)

[84] Ibid., Article 2.2 : This Directive does not apply to free and open-source software that is developed or supplied outside the course of a commercial activity.

[85] Ibid., Article 9

[86] Ibid., Article 10

[87] Ibid., Article 18

[88] https://www.relyens.eu/fr/relyens/relyens-innove