新华社北京11月8日电(记者侠克)随着人工智能技术的飞速进步,医疗AI正在加速向辅助医生、承担部分医生技术劳动的方向发展。如何确保医疗AI应用的规范安全有效,成为公众关注和行业关心的问题。日前,北京市卫生健康委设立医疗人工智能应用评测中心(以下称评测中心),旨在建立医疗AI评测的制度体系与规范标准,依托首都高水平医院和专家队伍、高质量医疗数据,验证医疗AI的临床辅助决策能力和效果,筑牢医疗人工智能应用安全底线。
人们体验AI智能医疗。新华社发(王克贤 摄)
北京市卫生健康委相关负责人表示,针对辅助医生或承担部分医生技术劳动的医疗AI,也应该像对医生一样开展科学严谨的评测,规范其应用,从而防范医疗风险、确保技术造福于民,保障人民生命健康安全。
医疗人工智能应用不仅要看“准确率”这一个指标,从患者角度,还需要考虑到伦理和信息安全;从医生角度,除了一个准确的结果,医生更关注其推理过程,也就是“为什么得出这个结论”。所以医疗人工智能应用要从“安全(合规伦理)、专业(医学知识)、实用(流程适配)”等多个角度一起测。
记者了解到,在评测内容上,评测中心建立了一套多维度考核标准,从百姓和医生最关心的角度出发,形成了6个核心维度的评测指标体系,即医学合规伦理、医学循证与知识、通用辅助能力、专科诊疗质控管理、诊疗流程适配性、诊疗决策准确性,包含70多项具体评测任务。
在评测数据上,评测中心联合重点医院、科研机构及权威专家团队,用临床案例、国内外权威医学教材和最新临床诊疗指南,共同构建高质量评测数据集。“考题”由国内顶级专科高年资医师全程深度参与编撰与审核而成,确保评测的科学性和权威性。
在评测方法上,系统根据应用类型自动匹配评测任务并生成评测报告,由临床专家进行复核。评测中心还创新引入了基于人工智能的评分机制,综合诊疗思路、推理逻辑、答题结果进行量化打分,避免只看最终结果的片面性。比如两款人工智能应用都诊断对了,评测系统会给推理逻辑更严谨、依据更充分的那款打更高分,确保评测结果客观公正、科学可信。