Pourtant, une nouvelle étude a récemment révélé que les médecins qui utilisent régulièrement l’IA voient leurs compétences décliner en quelques mois à peine.
Publiée en août dans la revue Lancet Gastroenterology and Hepatology, cette étude démontre qu’au cours d’une période de six mois, les médecins sont devenus trop dépendants des recommandations de l’IA et étaient « moins motivés, moins concentrés et moins responsables lors de prises de décisions cognitives sans l’aide de l’IA ».
Il s’agit de la dernière étude en date présentant les effets négatifs potentiels de l’intelligence artificielle sur ses utilisateurs. Une autre étude, plus ancienne, menée par le Massachusetts Institute of Technology, avait quant à elle révélé que ChatGPT érodait les capacités de réflexion critique.
Déroulement de l’étude
Des chercheurs de plusieurs institutions européennes ont collaboré pour mener une étude par observation. Celle-ci portait sur quatre centres d’endoscopie en Pologne qui participaient à l’essai clinique Artificial Intelligence in Colonoscopy for Cancer Prevention (ACCEPT). L’étude a été financée par la Commission européenne et la Japan Society for the Promotion of Science.
Dans le cadre de cet essai, les centres avaient déployé fin 2021 des outils d’IA pour détecter les polypes, des protubérances qui peuvent être bénignes ou malignes. L’étude s’est donc penchée sur 1 443 coloscopies non assistées par IA, sur un total de 2 177 coloscopies réalisées entre septembre 2021 et mars 2022. Les coloscopies ont été réalisées par 19 médecins endoscopistes expérimentés.
Les chercheurs ont ainsi comparé la qualité des coloscopies réalisées trois mois avant et trois mois après la mise en place de l’IA. Les interventions ont été réalisées avec ou sans assistance par IA, de manière aléatoire. Parmi celles réalisées sans assistance IA, 795 ont été effectuées avant le déploiement de l’utilisation régulière de l’IA et 648 après.
Conclusions de l’étude
Trois mois avant le déploiement de l’IA, le taux de détection des adénomes (ADR) était d’environ 28 %. Trois mois après l’adoption de la technologie, ce taux est tombé à 22 % lorsque les médecins n’étaient pas assistés par l’IA. L’ADR est un indicateur de qualité fréquemment utilisé pour les coloscopies et représente « la proportion de coloscopies de dépistage réalisées par un médecin qui détectent au moins un adénome ou un adénocarcinome colorectal confirmé par analyse histologique ». Les adénomes étant des protubérances précancéreuses, un ADR plus élevé est associé à un risque plus faible de cancer colorectal.
L’étude a donc conclu que l’IA aidait les médecins endoscopistes à détecter les adénomes lorsqu’elle était utilisée, mais que ceux-ci étaient moins efficaces dès que cette béquille technologique leur était retirée.
Les chercheurs ont attribué ce phénomène à « la tendance naturelle de l’être humain à avoir une confiance aveugle » envers les recommandations des systèmes d’aide à la décision, tels que l’IA.
« Imaginez que vous voulez voyager sans pouvoir utiliser Google Maps », explique Marcin Romańczyk, coauteur de l’étude et professeur adjoint à l’université de médecine de Silésie, à MedPage Today. « C’est ce que nous appelons l’effet Google Maps. Nous tentons d’aller quelque part, mais il nous est impossible d’utiliser une carte classique. Ce sont deux situations très similaires. »
Implications de l’étude
Omer Ahmad, gastro-entérologue consultant à l’University College Hospital de Londres, qui n’a pas participé à la recherche mais a rédigé un article à son sujet, précise au TIME qu’il est probable que l’exposition à l’IA ait affaibli les habitudes de détection visuelle et les schémas de regard des médecins, qui sont pourtant essentiels à la détection des polypes.
« Dans les faits, la dépendance à l’IA pour la détection pourrait chambouler la capacité humaine à identifier des schémas », poursuit Omer Ahmad. Il ajoute que l’utilisation régulière de l’IA pourrait également « réduire la confiance envers le diagnostic » lorsque l’IA n’est pas utilisée, voire que les compétences des médecins endoscopistes en matière de manipulation du coloscope pourraient en pâtir.
S’adressant au Science Media Center (SMC), Catherine Menon, maître de conférences au département d’informatique de l’université du Hertfordshire, a déclaré : « La perte de compétences résultant de l’utilisation de l’IA a été évoquée comme un risque théorique dans des études précédentes, mais cette étude est la première à présenter des données réelles qui pourraient indiquer une potentielle perte de compétences liée à l’utilisation de l’IA dans les coloscopies diagnostiques. » L’enseignante a par ailleurs fait part de ses inquiétudes quant à la dépendance excessive à l’IA, qui pourrait exposer les professionnels de la santé à un risque de compromis technologique.
D’autres experts se montrent toutefois plus prudents quant aux conclusions d’une étude unique.
Venet Osmani, professeur d’IA clinique et de machine learning à l’université Queen Mary de Londres, a expliqué au SMC que le nombre total de coloscopies, qu’elles soient assistées ou non par IA, avait augmenté au cours de l’étude. Selon lui, l’augmentation de la charge de travail pourrait avoir entraîné une fatigue des médecins et ainsi une baisse des taux de détection.
Allan Tucker, professeur d’intelligence artificielle à l’université Brunel de Londres, souligne également que grâce à l’IA, les performances des médecins s’étaient globalement améliorées. Les inquiétudes concernant la perte de compétences en raison du biais de l’automatisation « ne sont pas propres aux systèmes d’IA et constituent un risque inhérent à l’introduction de toute nouvelle technologie », précise-t-il au SMC.
Allan Tucker poursuit : « La question éthique qui se pose est alors de savoir si nous choisissons de faire davantage confiance à l’IA qu’aux humains. Nous imaginons souvent qu’un humain est à la tête de toutes les décisions prises par l’IA, mais si les experts humains consacrent moins d’efforts à leurs propres décisions en raison du déploiement de systèmes d’IA, cela pourrait poser problème. »
« Il ne s’agit pas simplement de surveiller la technologie », conclut Omer Ahmad. « Il s’agit aussi de se frayer un chemin dans le dédale d’un nouvel écosystème clinique humain/IA. » Il ajoute qu’il convient dès lors d’instaurer des mesures de protection, suggérant par exemple qu’au-delà de cette étude, le grand public devra peut-être se concentrer sur la « préservation de compétences essentielles dans un monde dominé par l’intelligence artificielle ».
- Article issu de TIME US - Traduction Mathilde Pace




