Logo Zéphyrnet

La Maison Blanche et le Congrès proposent une législation sur l’IA alors que la FDA continue d’agir en tant que gardien de la réglementation de l’IA | BioEspace

Date :

Gardien d’accès FDA pour l’IA
Crédit image : Nicole Bean pour BioEspace

Alors que l’intelligence artificielle (IA) continue d’être adoptée par l’industrie pharmaceutique, les organismes de réglementation aux États-Unis et dans d’autres pays évoluent pour relever les défis du secteur. Ceux-ci incluent la confidentialité des données, la partialité, l’exactitude et l’accès, ainsi que les utilisations appropriées de l’IA et l’intégration de freins et contrepoids dans son utilisation. Le 30 octobre, le Décret exécutif de la Maison Blanche sur le développement et l'utilisation sûrs, sécurisés et fiables de l'intelligence artificielle  (EO) a demandé aux agences de concevoir des plans pour une utilisation appropriée et responsable de l'IA dans tous les secteurs, y compris la tarification HHS avec l'élaboration d'un programme de sécurité. Le Congrès a répondu en quelques semaines avec une proposition approfondie sur l'IA tandis que le FDA travaille régulièrement à lutter contre l’IA.

Parce que l’EO n’est qu’un modèle, les industries ne savent pas encore quelles seront les règles. L'ampleur de l'EO est logique selon Rafael Rosengarten, co-fondateur et PDG de  génie et co-fondateur et administrateur du conseil d'administration de Alliance pour l'intelligence artificielle dans les soins de santé (AAIH). « La principale préoccupation du gouvernement concerne la sécurité et la sûreté, notamment la sécurité publique. En fait, la plupart des équipes et des bureaux au niveau du cabinet sont appelés par leur nom, comme les National Institutes of Standard Technology, le ministère de la Défense, la sécurité intérieure, etc. », a-t-il noté. À mesure que l'IA est adoptée dans différents secteurs, la manière de réglementer une technologie horizontale sur une base sectorielle et institutionnelle suscite une préoccupation croissante, en raison des écarts potentiels entre les compétences des différentes agences, notamment dans les secteurs de la santé et de l'industrie pharmaceutique.

L'EO exige que le HHS crée un groupe de travail dans le but d'élaborer un programme de sécurité d'ici 2024. Bien que la FDA évolue pour réglementer l'IA, Danny Tobey, MD, JD, associé et président de AI & Data Analytics chez Diper Piper cabinet d'avocats, estime que l'appel de l'EO en faveur d'un groupe de travail HHS contribuera à la bonne gouvernance de l'IA tout au long de la chaîne de valeur des soins de santé. Il note que toutes les agences ont les meilleures intentions mais sont limitées par leur compétence. "La FDA se concentre sur une chose, la CMS se concentre sur une autre et le HHS a ses mandats au niveau du département, donc j'aime avoir une perspective au niveau du HHS à ce sujet", a-t-il déclaré. Tobey a en outre précisé que, étant donné que le travail de la FDA est la sécurité et l'efficacité, la FDA restera l'un des gardiens les plus importants.

Programme de sécurité HHS

Pour le HHS, créer un programme de sécurité d’ici un an est un objectif ambitieux, surtout compte tenu de la complexité de l’IA, sans parler de ses applications dans le domaine de la santé. Richard Marcil, co-fondateur de ConversationSANTE, a expliqué que les différents aspects du groupe de travail doivent « définir l’étendue des préjudices et des pratiques dangereuses de l’IA dans les soins de santé, établir un système de reporting robuste, déterminer les mécanismes d’enquête et de remédiation et fournir des considérations juridiques et éthiques claires sur l’IA dans les soins de santé ». Il a souligné que le groupe de travail doit collaborer avec les prestataires de soins de santé, les chercheurs et les patients pour établir l'équilibre nécessaire entre l'innovation et la sécurité des patients.

Cependant, ce n’est pas une tâche facile à accomplir pour une industrie qui est déjà parfaitement consciente de la nécessité de disposer de données précises et diversifiées dans les essais cliniques et les données de recherche pour une utilisation efficace de l’IA. Il existe de nombreuses incertitudes quant à la manière dont le HHS va atteindre cet objectif et quelles seront les priorités du groupe de travail. De nombreux jugements de valeur sont liés au déploiement de l’IA dans le domaine de la santé. L’IA peut être le meilleur remède, ou la plus grande cause d’iniquité en matière de soins de santé à l’avenir, car elle a le potentiel soit de stratifier davantage les résultats de santé en fonction de l’accès à la technologie, soit de contribuer à démocratiser l’accès à l’information et aux soins médicaux. Par conséquent, Tobey a souligné que « le groupe de travail du HHS va avoir des conversations difficiles autour de questions philosophiques et de compromis entre exactitude, transparence, accessibilité et équité. Les personnes les mieux intentionnées devront faire des choix difficiles. Communications publiées par le Institut National des Standards et de la technologie (NIST) concernant l’IA explique que chaque principe d’IA cher à une industrie entraînera des compromis avec d’autres principes d’IA qu’elle valorise.

Future législation sur l’IA

L’EO n’est qu’une partie du puzzle de l’IA. À la mi-novembre 2023, un groupe bipartisan de sénateurs a publié le projet de loi. Loi de 2023 sur la recherche, l'innovation et la responsabilité en intelligence artificielle, ce qui est similaire à l’approche européenne de l’IA. Tobey, qui était en train de réviser la législation au moment de cet entretien, a commenté que même si la première moitié est de nature « très américaine », dans la mesure où elle se concentre sur la promotion de l'innovation, « la seconde moitié consiste à définir certaines des des garanties familières que nous avons vues à l'échelle mondiale, comme les rapports de transparence et la certification, mais sans doute pour une gamme plus restreinte de systèmes d'IA, même si la convergence finale reste à voir. Tobey a déclaré que l'industrie devrait s'attendre à ce que de nombreuses autres propositions soient présentées avant qu'elles ne soient adoptées par le Congrès. Il s'attend à ce que les futures propositions législatives continuent d'être plus cohérentes avec l'approche de l'Union européenne et les projets de loi en Corée et dans d'autres pays. Malgré les différentes préoccupations et réglementations en matière de confidentialité des données selon les pays, il prédit qu'il y aura une convergence mondiale de l'IA entre l'Asie, l'Europe et les États-Unis, car les risques sont moins subjectifs et moins dépendants culturellement que la vie privée.

Tout dépend des données

Comme dans d’autres secteurs, le plus grand obstacle pour l’industrie pharmaceutique est d’obtenir suffisamment de données de haute qualité en un seul endroit pour rendre l’IA précise et aussi impartiale que possible. Les données de santé dont dispose actuellement l’industrie ont été collectées à des fins d’assurance et de facturation. Ils n’étaient pas destinés à la recherche en matière de soins de santé ou à des fins scientifiques, mais sont utilisés dans la découverte et le développement de médicaments. La vague de législations proposées offre aux dirigeants de l'industrie l'opportunité de guider les agences gouvernementales dans la création de normes et de procédures qui modernisent la collecte de données en se concentrant sur les données appropriées nécessaires à la recherche et au développement.

L’accès à des données de qualité est essentiel pour que l’industrie continue de croître. Stacie Calad-Thomson, directrice de la stratégie, BioSymétrie et vice-président de AAIH, souligne que la législation doit se concentrer sur les données afin de promouvoir l'innovation et la concurrence. Elle a commenté : « Il n'y a pas accès à beaucoup de données. Les gens accumulent des données et ne les partagent pas, ce qui crée des monopoles. Cela signifie également que nous ne partageons pas vraiment et n’avançons pas aussi vite que nous le pourrions. Toutefois, les lacunes dans les données reflètent des problèmes fondamentaux plus vastes, à savoir les disparités dans l’accès aux soins de santé et les préjugés humains dans la manière dont ces questions sont traitées. Rosengarten a déclaré : « Reconnaissant que cela met en lumière le problème au niveau de l’accès et des préjugés humains dans les soins aux patients, il [l’EO] ne peut qu’aider maintenant en termes d’obligation de collecte de données. »

Rosengarten ne sait pas comment le HHS va mettre en place un système qui rend le système de santé plus équitable. Cependant, il a précisé que l'imposition de mandats autour des appareils basés sur l'IA est un bon début, car l'IA doit répondre à certaines normes de représentation de la population de patients dans laquelle elle est destinée à être utilisée et pour laquelle elle est destinée. Ces mandats devront être étendus aux essais cliniques, car les essais cliniques collectent généralement des données sur les personnes malades les plus en bonne santé à des fins d'essais et ne sont donc pas représentatifs de la véritable population de patients pour un médicament ou un diagnostic. Cela appelle un changement systématique dans les soins de santé car, comme l'a déclaré Rosengarten, « je ne pense pas que le problème soit vraiment la collecte de données, pour être honnête, mais ce qui se passe sous la collecte de données. »

La préférence pour la qualité des données plutôt que pour la quantité est une convergence que Tobey a observée : « Les technologues et les scientifiques médicaux arrivent à la conclusion à peu près au même moment que les modèles à paramètres plus petits spécifiques à un domaine pourraient être, à certains égards, plus efficaces. C'est bien. J’aime l’accent accru mis sur les bonnes données plutôt que sur le Big Data.

Marcil a suggéré que les grandes sociétés pharmaceutiques pourraient avoir un avantage en raison de leurs vastes ensembles de données, mais que la législation autorise une nouvelle concurrence. « De nouveaux ensembles de données privées et publiques émergent – ​​et continueront de le faire – qui vont au-delà de ce qui est disponible dans le monde universitaire. » Dans le même temps, « une nouvelle génération d’entreprises fondamentalement basées sur l’IA – allant de la biogénomique aux médicaments personnalisés – pose un défi concurrentiel plus large », a-t-il déclaré. « Ces entreprises innovantes fonctionnent avec des modèles commerciaux fondamentalement différents et collaborent au sein d’un nouvel écosystème de fournisseurs de données et de partenaires. »  

Indicateurs futurs

L’IA offre d’innombrables possibilités pour l’avenir. L’utilisation responsable de l’IA permettra à l’industrie de prospérer. Marcil prévoit un mélange harmonieux d’humain et de machine, avec une convergence de l’expertise humaine et des capacités d’IA pour créer une aubaine pour la société. Une utilisation appropriée de l’IA permettra à l’industrie dans son ensemble de développer massivement les soins préventifs et aigus, depuis l’accès initial jusqu’au soutien continu, a déclaré Marcil : « La synergie entre les humains et l’IA est extrêmement prometteuse pour l’avenir des soins de santé. »

Lori Ellis est responsable des analyses chez BioEspace. Elle analyse et commente les tendances de l'industrie pour BioEspace et clients. Elle se concentre actuellement sur l’impact en constante évolution de la technologie sur l’industrie pharmaceutique. Vous pouvez la joindre au lori.ellis@biospace.com. Suivez-la sur LinkedIn.

spot_img

Dernières informations

spot_img