Odborníci na umělou inteligenci diskutují o tom, jak integrovat robustní umělou inteligenci do zdravotnictví, proč je mezioborová spolupráce zásadní a jaký je potenciál generativní umělé inteligence ve výzkumu.
Feifei Li a Lloyd Minor pronesli úvodní projevy na zahajovacím sympoziu RAISE Health Symposium na Lékařské fakultě Stanfordské univerzity 14. května. Steve Fish
Většina lidí, které zaujala umělá inteligence, zažila nějaký moment „aha“, kdy se jim otevřela mysl světu možností. Na úvodním sympoziu RAISE Health Symposium 14. května se o svůj pohled podělil Dr. Lloyd Minor, děkan Lékařské fakulty Stanfordské univerzity a viceprezident pro lékařské záležitosti na Stanfordské univerzitě.
Když byl jeden zvědavý teenager požádán, aby shrnul svá zjištění týkající se vnitřního ucha, obrátil se na generativní umělou inteligenci. „Zeptal jsem se: ‚Co je syndrom dehiscence horního ucha?‘“ řekl Minor téměř 4 000 účastníkům sympozia. Během několika sekund se objevilo několik odstavců.
„Jsou dobré, opravdu dobré,“ řekl. „Že tyto informace byly shrnuty do stručného, obecně přesného a jasně prioritně rozděleného popisu nemoci. To je docela pozoruhodné.“
Mnozí sdíleli Minorovo nadšení z půldenní akce, která byla výsledkem iniciativy RAISE Health, projektu zahájeného Lékařskou fakultou Stanfordské univerzity a Stanfordským institutem pro umělou inteligenci zaměřenou na člověka (HAI) s cílem vést zodpovědné využívání umělé inteligence v biomedicínském výzkumu, vzdělávání a péči o pacienty. Řečníci se zabývali tím, co znamená implementovat umělou inteligenci v medicíně způsobem, který je nejen užitečný pro lékaře a vědce, ale také transparentní, spravedlivý a rovný pro pacienty.
„Věříme, že se jedná o technologii, která zlepšuje lidské schopnosti,“ řekla Fei-Fei Li, profesorka informatiky na Stanfordské fakultě inženýrství, ředitelka projektu RAISE Health with Minor a spoluředitelka HAI. Generaci za generací se mohou objevovat nové technologie: od nových molekulárních sekvencí antibiotik až po mapování biodiverzity a odhalování skrytých částí základní biologie, umělá inteligence urychluje vědecké objevy. Ne vše je však prospěšné. „Všechny tyto aplikace mohou mít nezamýšlené důsledky a potřebujeme počítačové vědce, kteří [umělou inteligenci] vyvíjejí a implementují zodpovědně a spolupracují s řadou zúčastněných stran, od lékařů a etiků… až po bezpečnostní experty a další,“ říká. „Iniciativy jako RAISE Health demonstrují náš závazek k tomuto.“
Sloučení tří divizí Stanfordské lékařské fakulty – Lékařské fakulty, Stanfordské zdravotní péče a Dětské zdravotní fakulty Stanfordské univerzity – a její propojení s dalšími částmi Stanfordské univerzity ji postavilo do pozice, kdy se odborníci potýkají s vývojem umělé inteligence, otázkami řízení a integrace v oblasti zdravotnictví a medicíny. Medicína, zpívala se píseň.
„Jsme v dobré pozici k tomu, abychom se stali průkopníky ve vývoji a zodpovědné implementaci umělé inteligence, od základních biologických objevů přes zdokonalování vývoje léků a zefektivňování procesů klinických studií až po samotné poskytování zdravotní péče. Zdravotní péče. Způsob, jakým je systém zdravotní péče nastaven,“ řekl.
Několik řečníků zdůraznilo jednoduchý koncept: zaměřte se na uživatele (v tomto případě pacienta nebo lékaře) a vše ostatní bude následovat. „Pacient je tak středem všeho, co děláme,“ řekla Dr. Lisa Lehmannová, ředitelka bioetiky v nemocnici Brigham and Women's Hospital. „Musíme zvážit jejich potřeby a priority.“
Zleva doprava: Moderátorka STAT News Mohana Ravindranath; Jessica Peter Lee z Microsoft Research; Sylvia Plevritis, profesorka biomedicínských datových věd, diskutuje o roli umělé inteligence v lékařském výzkumu. Steve Fish
Řečníci na panelu, mezi nimiž byli Lehmann, lékařská bioetička ze Stanfordské univerzity Mildred Cho a hlavní klinický ředitel společnosti Google Michael Howell, poukázali na složitost nemocničních systémů a zdůraznili potřebu porozumět jejich účelu před jakýmkoli zásahem. Implementovat je a zajistit, aby všechny vyvinuté systémy byly inkluzivní a naslouchaly lidem, kterým mají pomáhat.
Jedním z klíčů je transparentnost: jasně ukazuje, odkud pocházejí data použitá k trénování algoritmu, jaký je původní účel algoritmu a zda budoucí data pacientů budou algoritmu i nadále pomáhat s učením, mimo jiné faktory.
„Snažit se předvídat etické problémy dříve, než se stanou vážnými, znamená najít ideální prostředí, kde o technologii víte dost na to, abyste jí důvěřovali, ale ne dříve, než se [problém] dále rozšíří a vyřešíte ho dříve,“ řekl Denton Char, kandidát lékařských věd, docent na katedře dětské anesteziologie, perioperační medicíny a léčby bolesti. Jedním z klíčových kroků je podle něj identifikace všech zúčastněných stran, kterých by technologie mohla ovlivnit, a určení, jak by samy chtěly na tyto otázky odpovědět.
Jesse Ehrenfeld, MD a prezident Americké lékařské asociace, hovoří o čtyřech faktorech, které vedou k přijetí jakéhokoli nástroje digitálního zdravotnictví, včetně těch, které jsou poháněny umělou inteligencí. Je to efektivní? Bude to fungovat v mé instituci? Kdo platí? Kdo je zodpovědný?
Michael Pfeffer, MD, ředitel informačních technologií ve Stanford Health Care, uvedl nedávný příklad, kdy mnoho problémů bylo testováno mezi zdravotními sestrami ve stanfordských nemocnicích. Lékaři jsou podporováni rozsáhlými jazykovými modely, které poskytují počáteční anotace pro příchozí zprávy pacientů. Ačkoli projekt není dokonalý, lékaři, kteří se podíleli na vývoji technologie, uvádějí, že model usnadňuje jejich pracovní zátěž.
„Vždy se zaměřujeme na tři důležité věci: bezpečnost, efektivitu a inkluzi. Jsme lékaři. Skládáme přísahu, že ‚neublížíme‘,“ řekla Dr. Nina Vasanová, klinická asistentka profesora psychiatrie a behaviorálních věd, která se ke skupině připojila, když se Char a Pfeffer připojili. „Toto by měl být první způsob, jak tyto nástroje vyhodnotit.“
Nigam Shah, MBBS, Ph.D., profesor medicíny a biomedicínských datových věd, zahájil diskusi šokující statistikou, a to i přes řádné varování pro publikum. „Mluvím v obecných pojmech a číslech, která někdy bývají velmi přímočará,“ řekl.
Podle Shaha závisí úspěch umělé inteligence na naší schopnosti ji škálovat. „Provádění řádného vědeckého výzkumu modelu trvá přibližně 10 let a pokud by každý ze 123 stipendijních a rezidenčních programů chtěl model otestovat a nasadit na této úrovni přesnosti, bylo by velmi obtížné provádět správnou vědu tak, jak v současnosti organizujeme naše úsilí a [testujeme]“. Zajistit, aby každé z našich pracovišť fungovalo správně, by stálo 138 miliard dolarů,“ řekl Shah. „To si nemůžeme dovolit. Takže musíme najít způsob, jak se rozšířit, a musíme se rozšířit a dělat kvalitní vědu. Dovednosti potřebné pro přesnost jsou na jednom místě a dovednosti pro škálování na jiném, takže budeme potřebovat tento typ partnerství.“
Proděkanka Yuan Ashley a Mildred Cho (recepce) se zúčastnily workshopu RAISE Health. Steve Fish
Někteří řečníci na sympoziu uvedli, že toho by bylo možné dosáhnout prostřednictvím partnerství veřejného a soukromého sektoru, jako je například nedávný výkonný příkaz Bílého domu o bezpečném, zabezpečeném a důvěryhodném vývoji a využívání umělé inteligence a Konsorcium pro umělou inteligenci ve zdravotnictví (CHAI).
„Partnerství veřejného a soukromého sektoru s největším potenciálem má partnerství mezi akademickou obcí, soukromým sektorem a veřejným sektorem,“ uvedla Laura Adamsová, hlavní poradkyně Národní akademie medicíny. Poznamenala, že vláda může zajistit důvěru veřejnosti a akademická lékařská centra mohou poskytnout legitimitu a soukromý sektor může poskytnout technické znalosti a počítačový čas. „Všichni jsme lepší než kdokoli z nás a uznáváme, že… nemůžeme se modlit za realizaci potenciálu [umělé inteligence], pokud nepochopíme, jak spolu navzájem interagovat.“
Několik řečníků uvedlo, že umělá inteligence má také vliv na výzkum, ať už ji vědci používají k prozkoumání biologických dogmat, k predikci nových sekvencí a struktur syntetických molekul na podporu nových léčebných postupů, nebo dokonce k pomoci se shrnutím či psaním vědeckých prací.
„Toto je příležitost spatřit neznámé,“ řekla Jessica Mega, MD, kardioložka na Lékařské fakultě Stanfordské univerzity a spoluzakladatelka Verily od společnosti Alphabet. Mega zmínila hyperspektrální zobrazování, které zachycuje obrazové prvky neviditelné pro lidské oko. Cílem je využít umělou inteligenci k detekci vzorců v patologických preparátech, které lidé nevidí a které naznačují onemocnění. „Povzbuzuji lidi, aby přijali neznámé. Myslím, že každý zde zná někoho s nějakým zdravotním problémem, kdo potřebuje něco nad rámec toho, co mu dnes můžeme poskytnout,“ řekla Mejia.
Panelisti se také shodli, že systémy umělé inteligence poskytnou nové způsoby, jak identifikovat a bojovat proti zkreslenému rozhodování, ať už prováděnému lidmi nebo umělou inteligencí, a to se schopností identifikovat zdroj zkreslení.
„Zdraví je víc než jen lékařská péče,“ shodlo se několik panelistů. Řečníci zdůraznili, že vědci při shromažďování inkluzivních dat a náboru účastníků pro studie často přehlížejí sociální determinanty zdraví, jako je socioekonomický status, PSČ, úroveň vzdělání a rasa a etnická příslušnost. „Umělá inteligence je jen tak účinná, jako data, na kterých je model trénován,“ řekla Michelle Williamsová, profesorka epidemiologie na Harvardově univerzitě a docentka epidemiologie a populačního zdraví na Lékařské fakultě Stanfordské univerzity. „Pokud děláme to, o co se snažíme. Zlepšujeme zdravotní výsledky a odstraňujeme nerovnosti, musíme zajistit, abychom shromažďovali vysoce kvalitní data o lidském chování a sociálním a přírodním prostředí.“
Natalie Pagelerová, MD, klinická profesorka pediatrie a medicíny, uvedla, že agregovaná data o rakovině často nezahrnují data o těhotných ženách, což vytváří nevyhnutelné zkreslení v modelech a zhoršuje stávající rozdíly ve zdravotní péči.
Dr. David Magnus, profesor pediatrie a medicíny, uvedl, že stejně jako každá nová technologie může umělá inteligence buď věci v mnoha ohledech zlepšit, nebo je zhoršit. Riziko podle Magnuse spočívá v tom, že systémy umělé inteligence se dozvědí o nerovnoměrných zdravotních výsledcích ovlivněných sociálními determinantami zdraví a tyto výsledky posílí svými výstupy. „Umělá inteligence je zrcadlem, které odráží společnost, ve které žijeme,“ řekl. „Doufám, že pokaždé, když budeme mít příležitost posvítit si na nějaký problém – nastavíme si zrcadlo – poslouží to jako motivace ke zlepšení situace.“
Pokud jste se nemohli zúčastnit workshopu RAISE Health, záznam setkání naleznete zde.
Lékařská fakulta Stanfordské univerzity je integrovaný akademický systém zdravotní péče, který se skládá z Lékařské fakulty Stanfordské univerzity a systémů poskytování zdravotní péče pro dospělé a děti. Společně realizují plný potenciál biomedicíny prostřednictvím společného výzkumu, vzdělávání a klinické péče o pacienty. Více informací naleznete na med.stanford.edu.
Nový model umělé inteligence pomáhá lékařům a zdravotním sestrám ve Stanfordské nemocnici spolupracovat na zlepšení péče o pacienty.
Čas zveřejnění: 19. července 2024