IA et cancer : la promesse face aux preuves
Une déclaration de Palantir sur des chercheurs qui fumeraient pour miser sur l’IA relance le débat : preuves médicales, confiance et responsabilité. Décryptage.
Fumer pour prouver sa foi dans l'IA : une provocation qui masque la vraie question
La déclaration est frappante : selon Shyam Sankar, directeur technique de Palantir, des chercheurs en intelligence artificielle auraient commencé à fumer pour montrer qu'ils croient à la capacité de l'IA à guérir le cancer. L'idée est provocatrice, presque absurde. Mais elle pose un vrai problème, pas juste une histoire de plateau : quand une promesse technologique devient-elle crédible, et avec quelles preuves ?
Lors d'une interview sur CBS, Sankar n'a cité ni chercheurs, ni enquête, ni données permettant de vérifier son affirmation. Il a fait cette remarque dans un échange plus large, où il critiquait aussi l'altruisme efficace et certains discours autour des risques existentiels liés à l'IA. En clair : il faut séparer la formule médiatique de ce qu'on peut réellement établir.
Le sujet dépasse l'anecdote. Oui, l'IA peut aider la recherche médicale. Mais « aider » n'est pas « guérir ». Pour les entreprises, les professionnels de santé et le public, la confiance ne se construit pas avec des démonstrations de foi. Elle dépend de résultats vérifiables, de limites clairement formulées, et d'une responsabilité assumée quand les systèmes se trompent.
Une affirmation spectaculaire, sans preuve à l'appui
Sur Face the Nation, Shyam Sankar a déclaré que de nombreux chercheurs en IA se seraient mis à fumer pour montrer leur confiance dans la technologie. L'argument serait le suivant : si l'IA finit par guérir le cancer, prendre aujourd'hui un risque lié à cette maladie reviendrait à montrer qu'on parie sur le progrès à venir.
Le problème, c'est que l'interview ne donne rien pour étayer cette idée. Sankar ne précise pas qui sont ces chercheurs, combien ils seraient, depuis quand ils fument, ni comment on a établi leur motivation. Sans noms, sans source, sans enquête, on ne peut pas raisonnablement traiter cela comme une tendance documentée. Au mieux, on peut parler d'une affirmation attribuée à un dirigeant - pas d'un fait établi dans la communauté scientifique.
Cette distinction compte, parce qu'une déclaration peut refléter une posture ou une stratégie rhétorique sans décrire un comportement répandu. La reprendre comme un fait, c'est donner à une anecdote la portée d'une donnée. Et dans un débat où la confiance est déjà fragile, le niveau de preuve change tout.
Le contexte de la prise de parole
Cette remarque s'inscrivait dans une critique de l'altruisme efficace. Sam Bankman-Fried, fondateur de FTX, est connu du grand public comme figure associée à ce courant. Sankar a décrit l'altruisme efficace comme une forme de messianisme et a suggéré que certains de ses membres chercheraient un appui spirituel via la croyance en une intelligence artificielle générale - une sorte de « machine-dieu ».
On est donc clairement dans l'interprétation polémique. Rien, dans ces propos, ne prouve que les chercheurs visés fument, ni que les acteurs de l'IA partagent la même vision. Au passage, plusieurs sujets se mélangent : débats sur les risques de l'IA, convictions personnelles de certains intervenants, et usages médicaux de la technologie.
Il faut aussi regarder qui parle. Palantir développe et vend des logiciels d'analyse de données à des organisations publiques et privées, y compris dans les secteurs gouvernemental et militaire. L'entreprise est directement engagée dans le marché de l'IA. Cela ne suffit pas à conclure que ses déclarations sont fausses. Mais ça rend plus importante encore la question : que veut-on vraiment prouver, et sur quoi ?
Une ironie médicale qui ne doit pas brouiller les faits
L'ironie tient au contraste avec les données sanitaires. Selon les Centres pour le contrôle et la prévention des maladies américains (CDC), le tabagisme est associé à environ un décès par cancer sur trois aux États-Unis. La fumée de cigarette contient au moins 69 substances reconnues comme cancérogènes. Le CDC indique aussi que le risque de cancer du poumon est environ 25 fois plus élevé chez les fumeurs que chez les non-fumeurs.
Ces chiffres concernent les États-Unis et ne doivent pas être présentés comme des statistiques françaises. Ils suffisent pourtant à rappeler l'évidence : fumer n'est pas une démonstration rationnelle de confiance dans une innovation médicale à venir. Et le même organisme souligne que l'arrêt du tabac réduit le risque de plusieurs cancers, avec une baisse importante du sur-risque de cancer du poumon sur les années qui suivent.
La vraie question n'est donc pas « est-ce que l'IA pourrait un jour aider à traiter certains cancers ? ». Cette possibilité mérite d'être examinée sérieusement. La question, elle, est plus simple et plus dure : une promesse future peut-elle justifier un comportement dangereux aujourd'hui ? En santé, on ne peut pas fonder une décision sur la foi.
L'IA en oncologie : des usages concrets, pas une guérison acquise
L'intelligence artificielle intervient déjà dans plusieurs aspects liés au cancer : analyse d'images, détection de motifs dans des données médicales, aide à la découverte de molécules candidates, ou encore organisation de certains processus cliniques. Ces usages sont intéressants - mais ils ne prouvent pas que l'IA sait prévenir, diagnostiquer ou traiter tous les cancers seule.
Le mot « guérir » simplifie à l'excès une réalité médicale. Le cancer regroupe des maladies très différentes, avec des mécanismes biologiques, des localisations et des réponses aux traitements qui varient. Un outil qui améliore une tâche précise, dans un contexte donné, ne devient pas automatiquement une solution universelle. Sa valeur dépend, entre autres, des patients étudiés, de la qualité des données utilisées et de la manière dont les équipes l'intègrent dans leur pratique.
De la performance d'un modèle au bénéfice pour le patient
Un modèle peut être très performant sur un jeu de données et nettement moins bon ailleurs : autre hôpital, autre matériel, profils de patients différents. Résultat : les performances de laboratoire ne suffisent pas à prouver qu'un outil améliore réellement les soins sur le terrain.
Pour évaluer une application d'IA en médecine, il faut distinguer plusieurs niveaux :
- La performance technique : le système fait-il correctement la tâche prévue, sur des données représentatives ?
- La robustesse : reste-t-il fiable quand les conditions changent, par exemple d'un établissement à l'autre ?
- L'utilité clinique : aide-t-il les soignants à décider mieux, ou à gagner du temps sans dégrader la qualité des soins ?
- Le bénéfice pour le patient : améliore-t-il des critères de santé pertinents, avec un suivi suffisamment solide ?
- La sécurité et l'équité : ses erreurs touchent-elles certains groupes davantage ? Comment sont surveillés les effets indésirables ?
Cette différence n'est pas théorique. Repérer un signal sur une image ne remplace pas forcément un diagnostic complet. Accélérer une étape de recherche ne garantit pas qu'un traitement fonctionnera après les essais cliniques. Entre une prédiction informatique et un bénéfice réel, il y a souvent une longue chaîne.
L'innovation médicale a besoin de preuves reproductibles
Si vous développez un produit de santé, la question n'est pas seulement « le modèle marche-t-il ? ». Il faut aussi préciser : pour quel usage, dans quelles conditions, avec quelle marge d'erreur, et sous quelle responsabilité ? On doit documenter les limites, vérifier la qualité des données et suivre les performances une fois l'outil déployé.
L'intégration au quotidien compte énormément. Un outil peut être solide sur le papier et rester peu utile si son fonctionnement s'insère mal dans le parcours de soins, si ses alertes génèrent trop de faux positifs, ou si les équipes n'arrivent pas à interpréter ses sorties. Une technologie utile en santé doit tenir dans le système réel : le logiciel, les procédures, les compétences disponibles, et le temps des soignants.
En Europe, le cadre réglementaire dépend notamment de la fonction revendiquée et de l'usage prévu du produit. Les règles relatives aux dispositifs médicaux et celles liées à l'IA peuvent s'appliquer selon le cas. Ce cadre ne remplace pas l'évaluation clinique, mais il rappelle une idée simple : un outil utilisé pour la santé ne peut pas être traité comme une fonctionnalité logicielle ordinaire, sans conséquences.
Confiance du public : le décalage entre promesses et résultats
Le cancer revient souvent dans les discours sur l'IA, parce qu'il s'agit d'un enjeu majeur, complexe, et profondément humain. Dire que l'IA pourrait accélérer la recherche est une hypothèse raisonnable. Présenter la guérison comme quasi certaine, à partir de « modèles plus puissants », c'est autre chose.
Dario Amodei, dirigeant d'Anthropic, a d'ailleurs dit que promettre que l'IA guérira le cancer était devenu davantage un cliché qu'un message inspirant. Son point est pragmatique : la confiance du public ne se gagne pas en répétant une promesse. Elle dépend de résultats réellement obtenus, et de la façon dont ces résultats sont démontrés.
Les chiffres d'opinion ne sont pas une validation scientifique
Dans le sondage CBS évoqué lors de l'interview, 50 % des Américains interrogés estimaient que l'IA créerait plus de problèmes qu'elle n'en résoudrait. 29 % pensaient l'inverse et 21 % étaient indécis. Environ 45 % souhaitaient que le gouvernement limite l'usage et le développement de l'IA.
Ces chiffres parlent d'opinions, pas de performance technique ou d'impact clinique direct. Ils montrent toutefois un décalage : l'enthousiasme des dirigeants et des investisseurs ne se traduit pas mécaniquement en confiance sociale. Et en France et en Europe, ce décalage est particulièrement important, car la discussion porte aussi sur les données, la transparence, la responsabilité et le contrôle démocratique.
Pour une entreprise, ignorer cette dimension devient vite une erreur. Un produit peut être autorisé et techniquement intéressant, mais être rejeté s'il est déployé sans explication claire, ou si les personnes concernées ne comprennent pas comment une décision est prise. En santé, le sujet est encore plus sensible : les données sont personnelles, les enjeux sont élevés, et les patients ne peuvent pas toujours choisir librement les outils utilisés au cours de leur parcours.
La communication crée une dette de confiance
Une promesse spectaculaire attire l'attention. Elle crée aussi une dette : si les résultats n'arrivent pas, si les bénéfices sont moins importants que prévu, ou si un incident survient, l'écart entre le discours et la réalité devient un problème de crédibilité.
Cette dette ne retombe pas uniquement sur l'entreprise qui a formulé la promesse. Elle peut rendre les patients plus méfiants envers les outils qui, eux, sont réellement utiles. Elle peut obliger les soignants à gérer des attentes irréalistes. Et elle peut faire perdre du temps aux équipes de recherche, qui doivent corriger des affirmations trop simples plutôt que d'expliquer ce que montrent (et ne montrent pas) les données.
Le propos de Sankar est intéressant aussi parce qu'il lie une promesse médicale à une critique des récits apocalyptiques autour de l'IA. Mais opposer optimisme et pessimisme ne suffit pas. Une approche sérieuse examine bénéfices et risques avec le même niveau d'exigence, en regardant les usages, les populations concernées et les effets possibles.
Conclusion : remplacer la foi par des preuves
L'affirmation de Shyam Sankar frappe parce qu'elle transforme une conviction technologique en geste provocateur. Mais elle n'est pas étayée par des données dans l'interview rapportée, et elle ne dit rien, à elle seule, sur la capacité réelle de l'IA à traiter le cancer.
L'IA peut faire progresser certains travaux médicaux. Pour passer de cette possibilité à une promesse crédible, il faut des résultats reproductibles, une évaluation dans les usages réels, des responsabilités claires et une communication à la hauteur des preuves disponibles. Un système imparfait mais utile, surveillé et corrigé, vaut mieux qu'une promesse "parfaite" qui n'a pas encore été démontrée.
Si vous voulez évaluer un projet d'IA en santé, posez d'abord une question simple : quel bénéfice concret est mesuré, pour qui, et dans quelles conditions ? Si la réponse reste floue, la prochaine étape n'est pas de renforcer la promesse. C'est de demander les preuves.
Comment évaluer sérieusement une promesse d'IA médicale
Pour une direction d'entreprise, un établissement de santé ou un investisseur, on n'a pas besoin d'être spécialiste de l'apprentissage automatique pour poser les bonnes questions. Le point, c'est d'éviter de confondre une démonstration convaincante, une amélioration mesurée, et un bénéfice clinique démontré.
Un cadre simple tient en cinq vérifications.
1. Définir précisément l'usage
« Utiliser l'IA contre le cancer » reste trop vague. Le système analyse-t-il des images ? priorise-t-il des dossiers ? aide-t-il la recherche ? recommande-t-il une action clinique ? Qui l'utilise, à quel moment, pour quelle décision ? Sans ces réponses, impossible de choisir des critères d'évaluation cohérents.
2. Demander quelles preuves soutiennent la promesse
Il faut distinguer une annonce, une étude rétrospective, une validation indépendante et un essai mené dans des conditions proches de la réalité. Les résultats doivent être interprétables et pertinents pour la population concernée. Une performance moyenne n'est pas le tableau complet : il faut aussi comprendre les types d'erreurs, leur fréquence, et leurs conséquences.
3. Examiner les données et les limites
Les données d'entraînement représentent-elles les patients qui utiliseront le système ? Les données sont-elles suffisamment de bonne qualité, et leur traitement respecte-t-il les règles applicables ? Le fournisseur explique-t-il dans quels cas l'outil peut devenir moins fiable ? Une réponse vague ici doit alerter, même si la démo impressionne.
4. Organiser la supervision et la responsabilité
Qui vérifie les recommandations ? Un professionnel peut-il les écarter et comprendre ce qui compte dans sa décision ? Qui intervient en cas d'erreur - le fournisseur, l'établissement, le praticien, ou plusieurs acteurs ? Ces responsabilités doivent être clarifiées avant le déploiement, pas après un incident.
5. Mesurer les effets après la mise en production
Le suivi ne s'arrête pas au lancement. Les performances peuvent évoluer avec les pratiques, les équipements et les données. Il faut définir des indicateurs de qualité, des procédures de remontée des incidents, et des règles d'arrêt ou de réévaluation. Ce suivi n'est pas une formalité : c'est ce qui maintient - ou détruit - la confiance.
Cette logique vaut aussi pour les entreprises qui ne vendent pas de produits médicaux. Dès qu'il y a une promesse de bénéfice social ou économique, il faut définir l'usage, exiger des preuves adaptées et pouvoir identifier un responsable. L'objectif n'est pas de réclamer une certitude impossible avant toute expérimentation. L'enjeu, c'est d'ajuster le niveau de preuve au risque et à la portée de la promesse.