近日，中央網(wǎng)信辦旗下雜志《中國網(wǎng)信》刊發(fā)了丁香園創(chuàng )始人、董事長(cháng)李天天的署名文章《以“負責任創(chuàng )新”探索醫療人工智能發(fā)展新路徑》。文章提到了丁香園在醫療人工智能領(lǐng)域秉持“負責任創(chuàng )新”理念，在醫療AI產(chǎn)品的研發(fā)上以數據質(zhì)量為優(yōu)先，堅持“有錯必糾”，強化風(fēng)險提示與循證依據前置，減少低級錯誤發(fā)生的概率，謹慎推進(jìn)醫療人工智能的應用實(shí)踐。以下為文章全文：
近年來(lái)，人工智能技術(shù)在醫療健康領(lǐng)域的應用不斷深化，從醫學(xué)知識檢索、輔助診療到科研支持與健康管理，展現出廣闊前景。與此同時(shí)，算法偏差、數據質(zhì)量、責任邊界等問(wèn)題也逐漸顯現。如何在鼓勵技術(shù)創(chuàng )新的同時(shí)，有效防范潛在風(fēng)險，推動(dòng)人工智能在醫療健康領(lǐng)域實(shí)現風(fēng)險可控、結論可信、發(fā)展可持續，成為當前亟須回應的重要課題。在這一背景下，“負責任創(chuàng )新”逐漸成為行業(yè)發(fā)展共識。在醫療健康等高風(fēng)險領(lǐng)域，更應堅持審慎原則，將安全性、有效性和合規性置于優(yōu)先位置。
以數據質(zhì)量為核心的技術(shù)路徑選擇
醫療行業(yè)創(chuàng )新的底線(xiàn)在于確保醫療質(zhì)量和患者安全，任何技術(shù)路徑都不應偏離循證醫學(xué)證據（用于支持醫療決策的科學(xué)研究證據）這一核心原則。這一認知既源于醫療行業(yè)的長(cháng)期實(shí)踐經(jīng)驗，也是醫療人工智能發(fā)展的價(jià)值坐標。
基于上述立場(chǎng)，觀(guān)瀾網(wǎng)絡(luò )（杭州）有限公司（以下簡(jiǎn)稱(chēng)“丁香園”）在探索醫療人工智能發(fā)展的過(guò)程中明確將產(chǎn)品定位為醫療專(zhuān)業(yè)人員的輔助決策工具提供者，而非臨床決策的替代者。核心目標是在嚴格遵循既有醫療規范和高等級循證醫學(xué)證據的前提下，通過(guò)技術(shù)手段降低信息獲取成本，減少低級錯誤風(fēng)險，輔助醫生更高效地做出符合專(zhuān)業(yè)共識的判斷。
2025年10月，基于專(zhuān)業(yè)醫療數據和權威文獻資料，丁香園上線(xiàn)循證醫學(xué)臨床診療決策輔助工具“臨床決策”，該應用采用原文循證機制，以高質(zhì)量循證醫學(xué)數據為核心，依托人工智能技術(shù)實(shí)現智能化診療支持。在設計產(chǎn)品時(shí)，將重點(diǎn)放在數據可靠性、結論可追溯性和風(fēng)險提示完整性上，力求在實(shí)際應用中發(fā)揮“糾錯誤、減風(fēng)險、補短板”的輔助作用。在探索醫療人工智能發(fā)展的過(guò)程中，將更多資源投入醫療文本數據的系統性建設與治理，通過(guò)持續打磨數據來(lái)源、數據控制質(zhì)量等，為模型提供更加可靠、可驗證、可追溯的知識基礎，以期從源頭上降低潛在風(fēng)險。
嚴格的數據篩選機制。在數據來(lái)源上，堅持以權威性和專(zhuān)業(yè)性為優(yōu)先原則，重點(diǎn)選取權威臨床指南、藥品說(shuō)明書(shū)、高等級循證醫學(xué)文獻及長(cháng)期積累的專(zhuān)業(yè)內容體系，并通過(guò)交叉比對和專(zhuān)業(yè)篩選，盡量避免單一文本帶來(lái)的偏差性和不確定性。
多層次的數據清洗與結構化處理。針對原始醫學(xué)文本中表述不統一、適用條件不清晰等問(wèn)題，在數據進(jìn)入模型前進(jìn)行系統化清洗與結構化處理，對關(guān)鍵概念、適用人群和風(fēng)險提示進(jìn)行明確標注，防范歧義表達引發(fā)的潛在風(fēng)險。
動(dòng)態(tài)更新與循證同步機制。圍繞醫學(xué)知識持續演進(jìn)特點(diǎn)，建立動(dòng)態(tài)更新機制，及時(shí)跟進(jìn)權威指南修訂和重要研究成果發(fā)布，補充或修正相關(guān)文本，剔除過(guò)時(shí)知識，避免因知識滯后影響臨床判斷。
同行評議與多輪人工復核流程。針對直接服務(wù)臨床決策支持的重要內容，引入同行評議和多輪人工復核流程，重點(diǎn)關(guān)注安全邊界、禁忌事項和高風(fēng)險場(chǎng)景，確保內容符合當前醫療行業(yè)的專(zhuān)業(yè)共識和質(zhì)量要求。
審慎應用中的初步實(shí)踐與延展探索
丁香園把產(chǎn)品定位為風(fēng)險約束與認知校驗下的診療輔助決策系統，將風(fēng)險控制和糾偏能力置于更加優(yōu)先的位置。
一方面，在涉及潛在高風(fēng)險的臨床問(wèn)題時(shí)，先充分暴露警示風(fēng)險，再給出相關(guān)結論作參考，避免在證據不足或適用條件復雜的情境下對醫生形成誤導。引入針對醫生提問(wèn)的意圖識別與風(fēng)險分層機制，對不同類(lèi)型問(wèn)題進(jìn)行差異化處理。重點(diǎn)識別是否涉及明確的高風(fēng)險診療行為，并結合病情復雜程度、用藥不良反應風(fēng)險及適用條件的不確定性，對風(fēng)險提示進(jìn)行分層配置。
另一方面，在結論呈現上，始終將高等級循證醫學(xué)證據置于核心位置，通過(guò)明確適用條件、證據來(lái)源和不確定性邊界，強化對臨床指南和專(zhuān)業(yè)共識的尊重。對于經(jīng)識別明確涉及嚴重安全風(fēng)險且缺乏合理醫學(xué)超范圍適用依據的問(wèn)題，設置穩定且一致的安全約束機制，明確不輸出可能引發(fā)誤用的結論性建議，并且直接提示相關(guān)行為存在顯著(zhù)風(fēng)險或不符合規范要求。
“臨床決策”結合既有醫學(xué)規范和質(zhì)量控制經(jīng)驗，引入多項規則化約束機制，對藥物禁忌、特殊人群用藥及劑型差異等關(guān)鍵節點(diǎn)進(jìn)行識別和提示，對明顯存在風(fēng)險的操作進(jìn)行前置提醒，幫助醫生減少在高強度工作環(huán)境下低級錯誤發(fā)生的概率?！芭R床決策”上線(xiàn)三個(gè)月內，系統處理了超過(guò)一百萬(wàn)條來(lái)自認證醫生的提問(wèn)。
當前，基層醫療資源相對有限、基層醫生水平參差不齊、醫生在獨立決策時(shí)面臨的壓力較為集中，需要通過(guò)合規、可靠的技術(shù)工具，輔助基層醫生提升決策質(zhì)量、減少系統性風(fēng)險。在后續規劃中，丁香園將結合開(kāi)展多年的“基層醫生賦能計劃”，逐步面向基層醫療機構和醫生捐贈人工智能產(chǎn)品和服務(wù)。2026年計劃向青海、甘肅、新疆、黑龍江等地的基層醫生和大學(xué)生村醫捐贈“臨床決策”會(huì )員服務(wù)，助力提升基層診療水平。
未來(lái)，丁香園將持續完善數據治理與風(fēng)險控制機制，審慎穩妥推進(jìn)醫療人工智能的應用實(shí)踐，為醫療人工智能在規范框架下的有序發(fā)展和醫療體系高質(zhì)量發(fā)展提供可參考的實(shí)踐經(jīng)驗。（鐘新）
