Utiliser ChatGPT et l'IA générative en médecine, en sécurité

L'IA générative peut faire gagner un temps considérable au cabinet. Mais entre l'assistant qui vous aide à reformuler un courrier et la fuite d'un dossier patient, il n'y a parfois qu'un copier-coller. Ce guide trace la ligne, précisément, et vous donne les gestes qui sécurisent l'usage au quotidien.

1. Où vont réellement vos données

Quand vous écrivez à une IA générative grand public (ChatGPT, Copilot, Gemini…), votre texte quitte votre poste et part sur les serveurs d'un fournisseur, le plus souvent hors de l'Union européenne. Selon l'offre et les réglages, ce contenu peut être conservé, relu par des opérateurs humains pour « améliorer le service » et parfois utilisé pour entraîner de futurs modèles. Pour un soignant, c'est le point de bascule : une donnée de santé identifiante qui entre dans ce circuit échappe à votre maîtrise, et vous ne pouvez plus garantir ni son effacement, ni sa non-diffusion.

Il faut distinguer trois niveaux de service, aux garanties très différentes. La confusion entre eux est à l'origine de la plupart des mauvaises pratiques : on utilise un outil « gratuit » comme s'il offrait les garanties d'une solution professionnelle.

Une nuance importante : même une offre « entreprise » peut relever d'une juridiction étrangère (voir le guide « Souveraineté numérique en santé »). Le niveau de service et la juridiction sont deux questions distinctes, à examiner séparément.

2. La règle de ré-identification

Avant de coller un texte, posez-vous une seule question : si cette phrase fuitait, pourrait-on remonter au patient ? Le risque ne vient pas seulement des identifiants directs (nom, date de naissance, numéro national, adresse). Il vient aussi des identifiants indirects combinés : une pathologie rare, une commune, une profession et un âge suffisent souvent à désigner une personne unique. C'est le principe du « quasi-identifiant » : ce n'est pas une donnée isolée qui identifie, c'est leur combinaison.

Anonymiser correctement, ce n'est donc pas seulement retirer le nom. C'est retirer toute combinaison qui rétrécit la population à quelques individus. Une règle pratique dérivée du concept de k-anonymat : demandez-vous combien de personnes correspondraient à la description restante. Si la réponse est « quelques-unes », l'anonymisation est insuffisante ; visez une description qui pourrait correspondre à un grand nombre de personnes.

Une donnée « presque anonyme » ne l'est pas. La ré-identification se joue sur les détails que l'on croit anodins.

Attention aussi aux données cachées : les fichiers (images, PDF, documents bureautiques) embarquent des métadonnées (auteur, date, parfois nom du patient dans un nom de fichier ou un en-tête). Téléverser une imagerie « anonyme » dont le nom de fichier contient l'identité du patient est une fuite classique.

3. Un exemple d'anonymisation, pas à pas

Prenons un texte typique que l'on serait tenté de coller pour le reformuler :

« M. Dupont, 63 ans, domicilié à Gembloux, ancien mineur, présente une sclérose latérale amyotrophique diagnostiquée en mars ; adressé par le Dr Lemaire… »

Chaque élément est un risque. Le nom est direct ; mais même sans lui, « 63 ans + Gembloux + ancien mineur + SLA + adressé par un confrère nommé » désigne probablement une seule personne dans la région. Version sécurisée pour un usage de reformulation :

« Patient d'une soixantaine d'années, atteint d'une maladie neurodégénérative, adressé pour avis… »

On a retiré le nom, remplacé l'âge exact par une tranche, supprimé la localité et la profession singulière, généralisé la pathologie, et anonymisé le confrère. Le texte reste utilisable pour travailler la forme, sans plus rien d'identifiant. Si votre besoin exige de conserver des détails cliniques précis, c'est le signe qu'il faut un outil sous contrat, pas une IA grand public.

4. Paramétrer un usage sûr

• Désactivez l'historique et l'entraînement dans les réglages de votre compte, ou optez pour une offre professionnelle avec engagement écrit de non-réutilisation et, idéalement, un mode zero data retention.
• Préférez un compte dédié au cadre professionnel, séparé de vos usages personnels, avec authentification forte (2FA).
• Vérifiez l'hébergement et la juridiction du fournisseur pour tout usage récurrent (voir le guide « Souveraineté numérique en santé »).
• Contractualisez dès qu'un outil traite, même indirectement, des données de patients : il devient votre sous-traitant au sens du RGPD, ce qui impose un contrat (DPA).
• Bannissez les extensions et applications tierces non validées qui « branchent » l'IA sur votre logiciel métier : elles peuvent exfiltrer des données hors de tout cadre.

5. Lire une politique de confidentialité en 5 points

Avant d'adopter un outil, cinq questions permettent de trancher rapidement, sans être juriste :

1. Conservation : combien de temps mes saisies sont-elles gardées ? Existe-t-il un mode sans conservation ?
2. Entraînement : mes données servent-elles à améliorer les modèles ? Puis-je m'y opposer par défaut ?
3. Accès humain : des opérateurs peuvent-ils lire mes contenus, et dans quel cadre ?
4. Hébergement : où sont traitées et stockées les données, y compris pour le support ?
5. Sous-traitance et transferts : à qui les données sont-elles transmises, et vers quels pays ?

Si une seule de ces réponses est absente ou évasive pour un usage impliquant des données de patients, considérez que l'outil n'est pas adapté à cet usage.

6. Ce qui est permis, ce qui ne l'est pas

7. Le garde-fou clinique : hallucinations et responsabilité

Une IA générative produit un texte plausible, pas nécessairement exact. Elle peut inventer une posologie, une référence bibliographique, une recommandation ou une valeur biologique avec une assurance déconcertante — c'est le phénomène d'« hallucination ». Le risque est d'autant plus insidieux que la forme est soignée : un texte bien tourné inspire confiance à tort.

En contexte de soin, cela impose une règle non négociable : l'IA fournit un brouillon ou une piste, jamais une vérité. Vous restez l'auteur et le responsable de tout ce qui sort de votre cabinet. Concrètement : relisez chaque chiffre, chaque nom de molécule, chaque affirmation clinique ; ne demandez jamais à l'IA de « compléter » des données absentes de votre source ; défiez-vous des références bibliographiques qu'elle cite (elles sont parfois inventées) ; et gardez à l'esprit qu'un outil grand public n'est pas un dispositif médical — il n'a pas vocation à orienter une décision diagnostique ou thérapeutique. Pour cet usage-là, seuls des outils certifiés (marquage CE) sont légitimes.

8. Quand une analyse d'impact (AIPD) s'impose

Le RGPD impose une analyse d'impact relative à la protection des données (AIPD) avant de démarrer un traitement susceptible d'engendrer un risque élevé pour les personnes. Deux critères, souvent réunis en santé, la déclenchent : le traitement à grande échelle de données sensibles et l'usage de technologies innovantes comme l'IA. Intégrer un outil d'IA dans le parcours de soin d'un établissement entre typiquement dans ce cadre.

L'AIPD n'est pas une formalité punitive : c'est un exercice utile qui vous force à cartographier les données, à identifier les risques (fuite, ré-identification, dérive d'usage) et à définir des mesures (anonymisation, contrat, hébergement, supervision humaine). C'est aussi votre meilleure protection en cas de contrôle : elle documente une démarche responsable. Faites-la avant le déploiement, pas après l'incident.

9. Le « shadow AI » : gouverner l'usage d'équipe

Le risque le plus fréquent n'est pas la malveillance, c'est l'usage spontané et non encadré : une secrétaire qui colle un courrier dans un outil gratuit pour gagner du temps, un remplaçant qui utilise son compte personnel, un interne qui teste une nouveauté. C'est le « shadow AI » — l'informatique fantôme appliquée à l'IA. On ne le supprime pas par l'interdiction, qui pousse simplement l'usage dans la clandestinité ; on le canalise.

La bonne pratique tient en trois gestes. Fournir un outil autorisé et confortable : si la solution officielle est plus pénible que l'outil grand public, chacun improvisera. Rédiger une charte d'usage courte : quels outils sont autorisés, ce que l'on peut coller et ce que l'on ne peut pas, qui contacter en cas de doute, et le rappel de la règle de ré-identification. Former l'équipe en un quart d'heure, secrétariat compris, car c'est souvent là que transitent les données. Une charte d'une page, affichée et expliquée, vaut mieux qu'un règlement de dix pages que personne ne lit.

Questions fréquentes

Peut-on utiliser ChatGPT avec des données de patients ?

Pas avec des données identifiantes dans une version grand public. Travaillez sur des textes anonymisés ou fictifs, ou passez à une offre entreprise/santé avec non-réutilisation, mode sans conservation et hébergement UE vérifié.

Comment savoir si mes conversations entraînent le modèle ?

Cela dépend du service et des réglages. Sur le grand public, l'entraînement est souvent activé par défaut et se désactive dans les paramètres ; les offres pro proposent des engagements contractuels et parfois un mode zero data retention. Vérifiez le contrat, pas la promesse marketing.

Une IA peut-elle poser un diagnostic ?

Non pour une IA générative grand public : elle n'est pas un dispositif médical. Elle assiste la réflexion, mais la décision et la responsabilité restent au praticien.

Faut-il une AIPD pour utiliser une IA en santé ?

Souvent oui : le traitement à grande échelle de données de santé et l'usage de technologies innovantes comme l'IA figurent parmi les cas où le RGPD impose une analyse d'impact préalable.