Suivez nous sur

Interviews

Vivek Desai, directeur de la technologie, Amérique du Nord chez RLDatix – Série d'entretiens

mm
Le kit de préparation mis à jour on

Vivek Desaï est le CTO (Directeur technique) de l'Amérique du Nord à RLDatixun  société de logiciels et de services pour les opérations de santé connectées. RLDatix a pour mission de changer les soins de santé. Ils aident les organisations à offrir des soins plus sûrs et plus efficaces en fournissant des outils de gouvernance, de risque et de conformité qui favorisent l'amélioration et la sécurité globales.

Qu’est-ce qui vous a initialement attiré vers l’informatique et la cybersécurité ?

J’ai été attiré par la complexité de ce que l’informatique et la cybersécurité tentent de résoudre : il y a toujours un nouveau défi à explorer. Un bon exemple en est le moment où le cloud a commencé à gagner du terrain. Cela était très prometteur, mais soulevait également certaines questions concernant la sécurité de la charge de travail. Il était très clair dès le début que les méthodes traditionnelles constituaient un pis-aller et que les organisations dans tous les domaines devraient développer de nouveaux processus pour sécuriser efficacement les charges de travail dans le cloud. Naviguer dans ces nouvelles méthodes a été un voyage particulièrement passionnant pour moi et pour beaucoup d’autres personnes travaillant dans ce domaine. C'est une industrie dynamique et en évolution, donc chaque jour apporte quelque chose de nouveau et d'excitant.

Pourriez-vous partager certaines des responsabilités actuelles que vous avez en tant que CTO de RLDatix ?  

Actuellement, je me concentre sur la direction de notre stratégie de données et sur la recherche de moyens de créer des synergies entre nos produits et les données qu'ils contiennent, afin de mieux comprendre les tendances. Beaucoup de nos produits hébergent des types de données similaires. Mon travail consiste donc à trouver des moyens de briser ces cloisonnements et de permettre à nos clients, qu'il s'agisse d'hôpitaux ou de systèmes de santé, d'accéder plus facilement aux données. Avec cela, je travaille également sur notre stratégie mondiale d'intelligence artificielle (IA) pour éclairer cet accès et cette utilisation des données dans l'ensemble de l'écosystème.

Se tenir au courant des tendances émergentes dans diverses industries est un autre aspect crucial de mon rôle, pour garantir que nous allons dans la bonne direction stratégique. Je surveille actuellement de près les grands modèles de langage (LLM). En tant qu'entreprise, nous travaillons à trouver des moyens d'intégrer les LLM dans notre technologie, pour responsabiliser et améliorer les humains, en particulier les prestataires de soins de santé, réduire leur charge cognitive et leur permettre de se concentrer sur la prise en charge des patients.

Dans votre article de blog LinkedIn intitulé «Une réflexion sur ma 1ère année en tant que CTO», vous avez écrit : « Les CTO ne travaillent pas seuls. Ils font partie d’une équipe. Pourriez-vous nous expliquer certains des défis auxquels vous avez été confrontés et comment vous avez abordé la délégation et le travail d'équipe sur des projets qui sont intrinsèquement difficiles sur le plan technique ?

Le rôle d’un CTO a fondamentalement changé au cours de la dernière décennie. Il est révolu le temps de travailler dans une salle de serveurs. Désormais, le travail est beaucoup plus collaboratif. Ensemble, dans toutes les unités commerciales, nous nous alignons sur les priorités organisationnelles et transformons ces aspirations en exigences techniques qui nous font avancer. Les hôpitaux et les systèmes de santé sont actuellement confrontés à de nombreux défis quotidiens, de la gestion du personnel aux contraintes financières, et l'adoption de nouvelles technologies n'est pas toujours une priorité absolue. Notre objectif principal est de montrer comment la technologie peut contribuer à atténuer ces défis, plutôt que de les aggraver, ainsi que la valeur globale qu'elle apporte à leur entreprise, à leurs employés et aux patients en général. Cet effort ne peut pas être réalisé seul ou même au sein de mon équipe, c'est pourquoi la collaboration s'étend à travers des unités multidisciplinaires pour développer une stratégie cohérente qui mettra en valeur cette valeur, qu'elle provienne de l'accès des clients à des informations déverrouillées sur les données ou de l'activation de processus qu'ils ne sont actuellement pas en mesure d'exécuter. .

Quel est le rôle de l’intelligence artificielle dans l’avenir des opérations de santé connectées ?

À mesure que les données intégrées deviennent plus disponibles grâce à l’IA, elles peuvent être utilisées pour connecter des systèmes disparates et améliorer la sécurité et la précision tout au long du continuum de soins. Ce concept d'opérations de soins de santé connectées est une catégorie sur laquelle nous nous concentrons chez RLDatix, car il libère des données et des informations exploitables pour les décideurs en matière de soins de santé – et l'IA fait partie intégrante de sa réalisation.

Un aspect non négociable de cette intégration consiste à garantir que l’utilisation des données est sécurisée et conforme, et que les risques sont compris. Nous sommes le leader du marché en matière de politique, de risque et de sécurité, ce qui signifie que nous disposons d'une grande quantité de données pour former des LLM fondamentaux avec plus de précision et de fiabilité. Pour parvenir à de véritables opérations de soins de santé connectées, la première étape consiste à fusionner les solutions disparates, et la seconde consiste à extraire les données et à les normaliser entre ces solutions. Les hôpitaux bénéficieront grandement d'un groupe de solutions interconnectées capables de combiner des ensembles de données et de fournir une valeur exploitable aux utilisateurs, plutôt que de conserver des ensembles de données séparés à partir de solutions ponctuelles individuelles.

Dans un récent discours, Barbara Staruk, directrice des produits, a expliqué comment RLDatix exploite l'IA générative et les grands modèles de langage pour rationaliser et automatiser les rapports d'incidents liés à la sécurité des patients. Pourriez-vous nous expliquer comment cela fonctionne ?

Il s'agit d'une initiative vraiment importante pour RLDatix et d'un excellent exemple de la façon dont nous maximisons le potentiel des LLM. Lorsque les hôpitaux et les systèmes de santé remplissent des rapports d'incidents, il existe actuellement trois formats standard pour déterminer le niveau de préjudice indiqué dans le rapport : les formats communs de l'Agence pour la recherche et la qualité des soins de santé, le Conseil national de coordination pour la déclaration et la prévention des erreurs médicamenteuses et la performance des soins de santé. Amélioration (HPI) Classification des événements de sécurité (SEC). À l’heure actuelle, nous pouvons facilement former un LLM à lire le texte d’un rapport d’incident. Si un patient décède, par exemple, le LLM peut facilement récupérer cette information. Le défi réside cependant dans la formation du LLM pour déterminer le contexte et faire la distinction entre des catégories plus complexes, telles que les dommages permanents graves, une taxonomie incluse dans le HPI SEC par exemple, et les dommages temporaires graves. Si la personne signalant n'inclut pas suffisamment de contexte, le LLM ne sera pas en mesure de déterminer le niveau de préjudice de la catégorie appropriée pour cet incident particulier lié à la sécurité des patients.

RLDatix vise à mettre en œuvre une taxonomie plus simple, à l'échelle mondiale, dans l'ensemble de notre portefeuille, avec des catégories concrètes qui peuvent être facilement distinguées par le LLM. Au fil du temps, les utilisateurs pourront simplement écrire ce qui s'est passé et le LLM s'en chargera à partir de là en extrayant toutes les informations importantes et en préremplissant les formulaires d'incident. Non seulement cela représente un gain de temps considérable pour une main-d'œuvre déjà sollicitée, mais à mesure que le modèle deviendra encore plus avancé, nous serons également en mesure d'identifier les tendances critiques qui permettront aux organisations de soins de santé de prendre des décisions plus sûres à tous les niveaux.

De quelles autres manières RLDatix a-t-il commencé à intégrer les LLM dans ses opérations ?

Une autre façon dont nous exploitons les LLM en interne est de rationaliser le processus d'accréditation. Les informations d'identification de chaque fournisseur sont formatées différemment et contiennent des informations uniques. Pour mettre les choses en perspective, pensez à la façon dont le CV de chacun est différent – ​​des polices de caractères à l'expérience professionnelle, en passant par l'éducation et la mise en forme globale. L'accréditation est similaire. Où le prestataire a-t-il fréquenté l'université ? Quelle est leur certification ? Dans quels articles sont-ils publiés ? Chaque professionnel de la santé fournira ces informations à sa manière.

Chez RLDatix, les LLM nous permettent de lire ces informations d'identification et d'extraire toutes ces données dans un format standardisé afin que ceux qui travaillent dans la saisie de données n'aient pas à les rechercher de manière approfondie, ce qui leur permet de consacrer moins de temps à la composante administrative et de se concentrer sur leur travail. consacrer du temps à des tâches significatives qui ajoutent de la valeur.

La cybersécurité a toujours été un défi, en particulier avec le passage aux technologies basées sur le cloud. Pouvez-vous discuter de certains de ces défis ?

Cybersécurité is difficile, c'est pourquoi il est important de travailler avec le bon partenaire. Garantir que les LLM restent sécurisés et conformes est la considération la plus importante lors de l’exploitation de cette technologie. Si votre organisation ne dispose pas en interne du personnel dédié pour ce faire, cela peut s'avérer extrêmement difficile et prendre beaucoup de temps. C'est pourquoi nous travaillons avec Amazon Web Services (AWS) sur la plupart de nos initiatives de cybersécurité. AWS nous aide à faire de la sécurité et de la conformité des principes fondamentaux au sein de notre technologie afin que RLDatix puisse se concentrer sur ce que nous faisons vraiment bien : créer d'excellents produits pour nos clients dans tous nos secteurs verticaux respectifs.

Quelles sont les nouvelles menaces de sécurité que vous avez constatées avec la récente adoption rapide des LLM ?

Du point de vue de RLDatix, nous prenons en compte plusieurs considérations lorsque nous développons et formons des LLM. L’une de nos priorités est d’atténuer les préjugés et l’injustice. Les LLM sont aussi bons que les données sur lesquelles ils sont formés. Des facteurs tels que le sexe, la race et d’autres données démographiques peuvent inclure de nombreux biais inhérents, car l’ensemble de données lui-même est biaisé. Par exemple, pensez à la façon dont le sud-est des États-Unis utilise le mot « vous tous » dans le langage courant. Il s’agit d’un biais linguistique unique inhérent à une population de patients spécifique que les chercheurs doivent prendre en compte lors de la formation du LLM pour distinguer avec précision les nuances linguistiques par rapport aux autres régions. Ces types de biais doivent être traités à grande échelle lorsqu’il s’agit d’exploiter le LLMS dans le domaine des soins de santé, car former un modèle au sein d’une population de patients ne signifie pas nécessairement que ce modèle fonctionnera dans une autre.

Le maintien de la sécurité, de la transparence et de la responsabilité sont également des points importants pour notre organisation, ainsi que l'atténuation de toute possibilité d'hallucinations et de désinformation. S'assurer que nous répondons activement à tout problème de confidentialité, que nous comprenons comment un modèle a atteint une certaine réponse et que nous avons mis en place un cycle de développement sécurisé sont tous des éléments importants d'une mise en œuvre et d'une maintenance efficaces.

Quels sont les autres algorithmes d’apprentissage automatique utilisés chez RLDatix ?

L'utilisation du machine learning (ML) pour découvrir des informations critiques en matière de planification a été un cas d'utilisation intéressant pour notre organisation. Au Royaume-Uni en particulier, nous avons étudié comment tirer parti du ML pour mieux comprendre comment se déroule le rostering, ou la planification des infirmières et des médecins. RLDatix a accès à une quantité massive de données de planification de la dernière décennie, mais que pouvons-nous faire de toutes ces informations ? C'est là que le ML entre en jeu. Nous utilisons un modèle ML pour analyser ces données historiques et donner un aperçu de ce à quoi pourrait ressembler une situation de personnel dans deux semaines, dans un hôpital spécifique ou une certaine région.

Ce cas d'utilisation spécifique est un modèle de ML très réalisable, mais nous poussons encore plus loin en le connectant à des événements réels. Par exemple, et si nous examinions tous les programmes de football de la région ? Nous savons pertinemment que les événements sportifs entraînent généralement davantage de blessures et qu'un hôpital local accueillera probablement plus de patients hospitalisés le jour d'un événement par rapport à une journée typique. Nous travaillons avec AWS et d'autres partenaires pour explorer les ensembles de données publiques que nous pouvons générer afin de rationaliser encore plus la planification. Nous disposons déjà de données suggérant que nous allons assister à une augmentation du nombre de patients autour d'événements sportifs majeurs ou même en cas d'intempéries, mais le modèle ML peut aller encore plus loin en prenant ces données et en identifiant les tendances critiques qui aideront à garantir que les hôpitaux sont correctement dotés en personnel, réduisant ainsi la pression sur notre main-d'œuvre et faisant progresser notre industrie vers des soins plus sûrs pour tous.

Merci pour cette excellente interview, les lecteurs qui souhaitent en savoir plus devraient visiter RLDatix.

Partenaire fondateur d'unite.AI et membre du Conseil technologique de Forbes, Antoine est un futuriste qui est passionné par l'avenir de l'IA et de la robotique.

Il est également le fondateur de Titres.io, un site Web axé sur l'investissement dans les technologies de rupture.