10月15日备闲,《美國醫(yī)學會雜志》(JAMA)發(fā)表了由FDA官員撰寫群骂,F(xiàn)DA局長Califf醫(yī)學博士署名的一篇通信文章《FDA對醫(yī)療保健和生物醫(yī)藥中人工智能的監(jiān)管視角》驮屑。
隨著人工智能(AI)技術(shù)的飛速發(fā)展,其在醫(yī)療保健和生物醫(yī)藥領(lǐng)域的應用日益廣泛肪禾。FDA對AI的監(jiān)管框架和方法受到了前所未有的關(guān)注贪焊。值得注意的是,盡管FDA在醫(yī)療器械領(lǐng)域的AI應用上取得了顯著進展 袁羔,批準了近1000個AI驅(qū)動的醫(yī)療設備惦肴,但在藥品領(lǐng)域的AI應用監(jiān)管方面進度滯后。從2020年到2021年挠疲,涉及AI在藥物發(fā)現(xiàn)和開發(fā)中應用的監(jiān)管提交數(shù)量增加了十倍耳标,預示著AI在藥品領(lǐng)域的巨大潛力和迫切需求。
本文提出了10個關(guān)鍵概念瓶您,全景式體現(xiàn)了FDA對AI監(jiān)管的深入考量。這些概念不僅涉及AI在微觀層面的具體應用纲仍,如大型語言模型和生成式AI的挑戰(zhàn)呀袱,也關(guān)注了監(jiān)管的宏觀目標,如確保AI技術(shù)在提高患者健康結(jié)局方面的有效性和安全性郑叠。本文簡要介紹其中幾個概念夜赵,作為導讀,識林讀者可登錄識林閱讀原文乡革,以獲得更全面和深入的理解寇僧。
什么才是FDA眼中的AI?
ChatGPT橫空出世沸版,將AI從計算機科學課本和科幻電影中帶到我們面前嘁傀,隨之而來的是資本助推的宣傳攻勢兴蒸,AI的定義在公眾領(lǐng)域含糊不清。但“名不正則言不順”细办,對人工智能(AI)的定義至關(guān)重要间歌。文章中,F(xiàn)DA將AI定義為一種基于機器的系統(tǒng)认施,它能夠針對一系列人為定義的目標鹅址,對真實或虛擬環(huán)境做出預測、推薦或決策多蜕。這種定義強調(diào)了AI系統(tǒng)利用機器和人類的輸入來感知真實和虛擬環(huán)境妨谦,通過自動化的方式分析這些感知,形成模型嘀回,并通過模型推理來形成信息或行動的選項显而。
可以看到,F(xiàn)DA并不只是關(guān)注大語言模型(LLM)楷象,而是采取了廣泛的AI定義其摘。選擇這種定義方式對FDA的監(jiān)管導向有著根本性的影響。首先烘俱,它強調(diào)了AI系統(tǒng)的自動化和自適應能力均天,這意味著監(jiān)管框架必須足夠靈活,以適應AI技術(shù)的快速發(fā)展和不斷變化的應用場景绘辈。其次恢着,定義中提到的“人類定義的目標”表明AI系統(tǒng)的設計和應用需要在人的控制之下,這強調(diào)了在AI的監(jiān)管中需要考慮倫理和責任問題财破。
FDA對于大語言模型(“GPT們”)尤為謹慎
但LLM還是FDA繞不開的掰派。文中第五個概念特別強調(diào)了LLM的監(jiān)管考量。FDA迄今為止尚未授權(quán)任何一個LLM用于醫(yī)療診斷左痢、治療或疾病預防靡羡,這背后的核心原因在于LLM生成的結(jié)果具有不可預見性,即使不提LLM在回答問題時的幻覺俊性,作為基礎信息的醫(yī)療記錄中略步,“AI聽記”也可能產(chǎn)生幻覺或包含未在訪問中討論的診斷。
FDA建議定页,在心血管和腫瘤領(lǐng)域趟薄,以及一些低風險的臨床流程,可以作為LLM應用的起點典徊。這些領(lǐng)域擁有大量的證據(jù)支持臨床決策杭煎,因此可以為LLM的應用提供堅實的基礎。在這些領(lǐng)域中卒落,LLM的潛在應用包括輔助診斷枝徙、個性化治療計劃的制定以及患者數(shù)據(jù)的分析檬撒。然而,F(xiàn)DA也強調(diào)东呻,即使是在這些領(lǐng)域南谈,也需要謹慎行事,確保LLM的應用不會對患者安全造成威脅草吠。
有必要采取與傳統(tǒng)監(jiān)管迥異的“反復的”監(jiān)管
第六和第七個概念突出了FDA對AI生命周期管理的重視国谬。FDA認為,AI的性能和效能需要在其實際使用場景中進行持續(xù)監(jiān)控燎隅,而不僅僅針對AI本身程堤。這意味著監(jiān)管范式的轉(zhuǎn)變,從傳統(tǒng)的代表性的扁奔、基于驗證的監(jiān)管模式谍线,轉(zhuǎn)向了反復的(recurrent)乃至連續(xù)的監(jiān)管模式,以適應AI技術(shù)的動態(tài)性和對環(huán)境變化的敏感性暖谚。
目前工斤,F(xiàn)DA指出,無論是藥物開發(fā)還是藥物臨床社區(qū)节猿,都未能建立起反復的票从、本地的AI生命周期評估。這種評估的缺失可能導致AI模型在實際應用中的性能無法得到充分的監(jiān)控和驗證滨嘱,從而影響患者安全和治療效果峰鄙。
與此同時,F(xiàn)DA還進一步強調(diào)AI產(chǎn)品的上市后評估的嚴格程度(rigor)應該不亞于其上市前評價太雨。這與傳統(tǒng)的藥品監(jiān)管有根本性的不同吟榴,因為傳統(tǒng)的藥品監(jiān)管通常是基于代表性的上市前臨床試驗和工藝驗證等等活動。對于AI而言囊扳,由于其對環(huán)境變化的敏感性和持續(xù)進化的特性吩翻,需要持續(xù)的上市后監(jiān)測來確保其長期安全性和有效性。
供應鏈管理:寄希望于AI的“無孔不入”
第八個概念著重討論了AI在供應鏈管理中的應用锥咸,以及FDA對于AI在預防藥物短缺方面的期望狭瞎。FDA認識到,AI模型在處理海量數(shù)據(jù)和填補數(shù)據(jù)漏洞方面具有巨大潛力她君,這使得AI成為優(yōu)化供應鏈管理脚作、預測和應對藥物短缺的關(guān)鍵工具葫哗。AI的這一潛力來自于其對復雜數(shù)據(jù)集的分析能力狈合,能夠識別模式、趨勢和異常笤吵,從而提前預警潛在的供應鏈中斷捏描。此外更扰,AI還能夠通過填補數(shù)據(jù)漏洞,提供更全面的市場洞察肘蜘,幫助企業(yè)做出更準確的庫存和分銷決策装呢。
這番措辭的背景,在于FDA和其他政府機構(gòu)通常無法獲得企業(yè)供應鏈的詳細數(shù)據(jù)讽空,這些數(shù)據(jù)通常被視為商業(yè)機密乌烫。然而,F(xiàn)DA期望AI能夠訪問和處理這些數(shù)據(jù)楞盼,以實現(xiàn)更有效的供應鏈管理忍症。這種期望本身沒有充分考慮到數(shù)據(jù)擁有者最關(guān)心的數(shù)據(jù)安全和隱私問題。對于不打算提交給監(jiān)管部門的數(shù)據(jù)锄镜,企業(yè)也會想方設法給AI設置障礙稽及。在藥品監(jiān)管之外,AI本身就面臨數(shù)據(jù)安全方面的巨大監(jiān)管壓力滑频。
AI為企業(yè)降本增效捡偏,患者的利益呢?
第十個概念觸及了AI在醫(yī)療保健中應用的一個核心矛盾:盡管AI技術(shù)能夠提高醫(yī)療服務的效率和降低成本峡迷,從而使得健康產(chǎn)品更加可及银伟,但它同時也可能導致醫(yī)療服務中人與人之間的互動減少,而這種人際互動對于患者的健康同樣至關(guān)重要凉当。
一方面枣申,AI可以幫助快速分析患者數(shù)據(jù),從而加快診斷過程看杭,減少等待時間忠藤,并使得醫(yī)療服務更加個性化。此外楼雹,AI還能夠通過預測分析來預防疾病的發(fā)生模孩,減少醫(yī)療資源的浪費,使得醫(yī)療服務更加經(jīng)濟高效贮缅。另一方面榨咐,醫(yī)生和患者之間的直接互動可能會減少。這種減少可能會影響患者對醫(yī)療服務的滿意度和信任度焕鲸,因為人際互動和同情心在患者治療和康復過程中扮演著重要角色忿韧。此外,AI可能無法完全理解患者的非言語線索和情感需求落寡,這可能會影響患者的整體健康和福祉成止。
信任是監(jiān)管的目標,也是創(chuàng)新的基石
結(jié)論部分痒仆,F(xiàn)DA強調(diào)了其監(jiān)管目標的核心:建立和維護公眾對被監(jiān)管領(lǐng)域揣蒿,尤其是醫(yī)藥產(chǎn)品的高度信任秋胚。
這個表述,與慣常作為監(jiān)管目標的“安全刨德、有效弊刁、質(zhì)量可控”不同,從另一個角度汰日,或者從一個更高的層面鞋族,揭示出FDA對于藥品監(jiān)管(不僅僅是AI監(jiān)管)的認知。
當公眾信任醫(yī)藥產(chǎn)品和醫(yī)療設備時挂捅,他們更可能接受和采用這些新技術(shù)包竹,從而加速技術(shù)的普及和改進。高度的公眾信任可以減少對新技術(shù)的無端質(zhì)疑和反對籍凝,為創(chuàng)新提供一個更加寬松和支持性的環(huán)境周瞎。此外,當患者信任醫(yī)療產(chǎn)品和治療方法時饵蒂,他們更可能遵循醫(yī)囑声诸,從而提高治療效果并確保安全性。最后退盯,信任降低溝通成本彼乌,在信任的基礎上,F(xiàn)DA渊迁、行業(yè)和學術(shù)界可以更有效地合作慰照,共同解決監(jiān)管和技術(shù)創(chuàng)新中的復雜問題。
因此琉朽,F(xiàn)DA認為合規(guī)是全行業(yè)所有參與者的共同利益所在毒租。企業(yè)也應該認識到他們的行為對于維護這種信任的重要性,并在開展業(yè)務時始終以患者的利益為先箱叁。通過這種方式凳渗,AI和其它新技術(shù)才能真正實現(xiàn)其改善患者生活和提高醫(yī)療保健質(zhì)量的潛力。