Les faiblesses de l’intelligence artificielle face aux règles de la médecine

L’étude, présentée dans le cadre du séminaire, sur l’intelligence artificielle en santé s’est attachée à comprendre les obstacles rencontrés par cette technologie pour devenir un outil au service de la santé. Alors qu’il existe de nombreux projets ayant dépassé le stade de la recherche en laboratoire, l’intelligence artificielle est encore très loin d’être un outil pouvant équiper les services hospitaliers et ses acteurs. Dans ce domaine, persiste un écart important entre les promesses de cette technologie et ses usages. Cet écart est moins dû à des enjeux techniques, ou à des formes de résistances de la part du monde de la médecine, qu’à la spécificité de l’univers médical. En effet, le monde de la santé est un univers fortement institutionnalisé qui, à ce titre, édicte et érige des normes, des règles, et des valeurs. Pour que l’intelligence artificielle devienne un outil accompagnant la pratique médicale, il faut qu’elle s’y conforme. Or, ce travail de traduction, qui est aussi un travail politique, n’est pas achevé et en très grande partie pas entamé.

Pour en rendre compte, l’étude s’est attardée sur trois registres majeurs, la médecine, l’hôpital et le marché. Chacun de ces registres élabore des règles spécifiques auquel l’intelligence artificielle doit se conformer. Dans les trois cas, elle ne satisfait que partiellement aux attentes. Ainsi, dans le domaine strictement médical, avec les applications contribuant à l’aide aux diagnostics, comme dans le domaine organisationnel, avec les applications intervenant dans la gestion de la tarification à l’activité, l’intelligence artificielle reste très largement au seuil des services et des structures.

L’étude s’appuie sur une enquête conduite auprès d’entreprises (type start-up) développant des applications dans le domaine de la santé, d’enseignants chercheurs en informatique et en santé publique, de médecins contribuant à la construction des modèles, ou sollicités pour les tester, de responsables de structures ou de services hospitaliers en charge des systèmes d’informations, d’acteurs travaillant dans des organismes de régulation propres au système de santé. Au total, une soixantaine d’entretiens ont été réalisés. Pour l’essentiel, elle s’est déroulée en France, et une partie des données recueillies l’ont été à Montréal, pôle dynamique et important dans le domaine de l’intelligence artificielle.