英国监管机构警示：医疗AI东西屡次犯错患者平安

　　IT之家 8 月 31 日动静，据英国卫报报道，英国国度医疗办事系统（NHS）的一家监管机构称，用于倾听并患者取大夫问诊内容的 AI 手艺可能给患者带来风险，由于这类东西可能错误识别药物名称和疾病名称。正在一路案例中，一名女性患者由于 AI 医疗记实东西错误总结她取大夫的对话而遭到严沉惊吓。AI 生成的总结称，即可能导致多发性软化症的严沉神经毁伤。这名患者本人也是 NHS 医疗专业人员。她对 AI 东西记实的 MRI 查抄成果提出质疑后，病院才发觉记实有误，并将其更正为本应记实的“无脱髓鞘”。“最终这个错误获得了改正，但由于 AI 给出了错误诊断，然后又告诉我这只是一个拼写错误，这对我来说是一次很是疾苦的履历。”这名不肯透露姓名的女性说。IT之家留意到，英国患者权益机构 Healthwatch England 近日披露了这一案例以及其他 AI 医疗记实东西呈现的错误，以申明这种正正在 NHS 快速推广的手艺可能对患者平安形成。Healthwatch 暗示，若是这些错误没有被及时发觉，就可能被录入患者的医疗档案，并进一步影响患者接管的医治。另一路案例中，一款 AI 医疗记实东西将全科大夫开具的药物取另一种名称类似的药物混合。最终发觉这一错误的同样不是大夫，而是患者本人。还有一次，AI 生成的总结信没有提及病院专科大夫曾告诉患者，需要向本人的全科大夫申请续开医治偏头痛的处方。这一脱漏可能导致患者无法一般获得所需药物。Healthwatch 做为 NHS 患者权益代表机构暗示，该机构曾经听到了“多名患者发觉错误、而医疗专业人员却没有发觉这些错误”的案例。Healthwatch 指出：“若是患者没有发觉这些错误，这些不精确的消息可能会一曲留正在他们的医疗记实中。”英国针对英格兰 NHS 制定的 10 年医疗规划，但愿通过 AI 医疗记实东西“让医务人员脱节目前繁沉的文书和行政工做，从而腾出更多时间供给医疗办事并专注于患者”。AI 医疗记实东西也是 NHS 打算进行的一项严沉转型的焦点手艺之一，旨正在鞭策 NHS 从保守的模仿化医疗办事转向数字化办事。Healthwatch 一名讲话人暗示：“医疗办事从来都不成能做到零错误。但我们的查询拜访成果表白，现正在火急需要明白，患者该当若何演讲 AI 医疗记实东西或利用这些东西的医疗专业人员所犯的错误，以及若何改正这些错误。”英国患者协会首席施行官 Rachel Power 暗示：“患者对这项手艺的信赖和决心，取决于优良的沟通以及实正意义上的患者合做，而目前这两方面都存正在缺失。”Healthwatch 还暗示，英国药品和保健产物监管机构（MHRA）决定不将 AI 医疗记实东西归类为医疗器械，这一点“令人担心”。这意味着英格兰目前不会成立笼盖全境的监管机制，以确保这些东西利用平安而且无效。近期，英国罗瑟勒姆地域的一些患者向本地 Healthwatch 赞扬称，部门全科诊所利用的 AI 前台欢迎系统无法准确理解他们浓沉的约克郡口音。伦敦全科大夫 Shier Ziser Dawood 博士客岁还曾正在一家权势巨子医学期刊上撰文称，AI 医疗记实东西对全科大夫来说可能是一把“双刃剑”。她回忆称，一款 AI 医疗记实东西记实说，她曾告诉一名患者“继续服用 Prozac（百忧解）”，但现实上，她既没有给这名患者开过这种药，也没有取患者会商过这种药物。这就是所谓的“AI ”现象，即 AI 医疗记实东西正在生成记实时提及了问诊过程中底子没有呈现过的内容。Dawood 称，大夫仍然需要查抄 AI 生成的全数问诊记实，以确认此中不存正在错误，因而这些 AI 东西目前并没有实正节流大夫的时间。Dawood 正在《英国全科医学》撰文指出，NHS 办理层认为 AI 医疗记实东西将使全科大夫无需再正在问诊过程中手写或录入笔记，乌普萨拉大学医疗 AI 使用专家 Charlotte Blease 博士暗示：“AI 确实会犯错，并且曾经正在犯错。”她的研究发觉，利用语音手艺记实问诊内容的全科大夫认为，正在以下环境下，不外，Blease 也指出：“现实是，没有 AI 的环境下，大夫同样会犯错。并且，AI 介入后，错误率当然也有可能更高。”Blease 暗示，正在她客岁对 1003 名英国全科大夫进行的查询拜访中，跨越一半的受访者认为，他们利用式 AI 生成的医疗记实比本人亲身记实的内容愈加精确。前往搜狐。