发帖
 找回密码
 立即注册
搜索
0 0 0
前沿技术 784 0 2025-7-24 09:45:44
  谷歌旗下的深度思维公司刚刚发表了一项具有开创性的研究,旨在让人工智能医疗咨询在现实世界中的应用真正做到安全可靠。他们研发了一套系统,在这个系统中,人工智能可以与患者交流并收集症状信息,但在没有真正的医生首先对所有内容进行审核和批准的情况下,它不能给出任何诊断或治疗建议。

   他们构建的系统 受约束的医疗访谈与信息提取系统(gAMIE)——这是一个具备以下功能的人工智能系统:  进行患者问诊并收集病史  经过专门编程,在对话过程中绝不提供医疗建议  生成详细的病历笔记供人类医生审核  只有在执业医师批准后,才会分享诊断/治疗方案  可以把它想象成一个极其细致的医疗助手,它可以花大量时间与患者交流收集信息,但始终将实际的医疗决策交由真正的医生来做。

   研究结果相当惊人 他们在模拟会诊中,将该系统与真正的执业护士、医师助理和初级医生进行了对比测试:  gAMIE 有 90% 的时间遵守安全规则,而人类医生只有 72%  患者更喜欢与 gAMIE 交流——认为它更有同理心,也更善于倾听  资深医生相较于人类临床医生的工作,更愿意审核 gAMIE 的病例  gAMIE 更加细致——能发现更多人类遗漏的“危险信号”症状  监督审核所花费的时间比医生自己进行全面会诊少 40%   这项研究为何重要 这可能会解决人工智能在医疗保健领域的可扩展性问题。无需医生全天候随时监督人工智能,人工智能可以异步完成耗时的患者问诊工作,然后医生可以在方便的时候审核并批准相关建议。  这种“约束”方法意味着患者可以享受到人工智能的优势(细致、随时响应、有耐心),同时所有医疗决策仍由人类负责。

   存在的问题  仅在基于文本的会诊中进行了测试,并非真实临床环境  人工智能在记录文档时有时过于冗长  人类医生并未针对这种不同寻常的工作流程接受专门培训  在临床应用之前,仍需要在现实世界中进行验证  这似乎朝着真正能在医疗系统中安全应用的人工智能医疗助手迈出了重要一步。它并非要取代医生,而是创建了一种新模式,让人工智能负责信息收集,医生专注于决策制定。

你怎么看——如果你知道在给出任何医疗建议之前,会有真正的医生对所有内容进行审核,你会愿意先与人工智能进行初步会诊吗?
──── 0人觉得很赞 ────

使用道具 举报

2025-7-24 09:54:36
对于一款精心调校的型号来说,这价格很有美国特色啊。要是你在健康相关产品上对人们漫天要价,就跟我说一声,我来告诉你,你这是不是美国那种……与健康相关的坑人买卖 。  
2025-7-24 10:08:20
没错,但如果这种情况真的发生(比如在某家特定的医院),那么在人们目前所得到的治疗建议中应该早就存在这种情况了。所以有了这个工具,情况也不会变得更糟。保障措施是个棘手的问题,因为它们完全可以用于预期目的(保障安全),但也可能被用于非预期目的(增加收入)而遭到滥用 。  
2025-7-24 10:10:18
所以他们又在重新制造那些大语言模型(LLMs)曾让我们得以摆脱的延迟和低效率问题。真棒。  
谷歌深度思维(Google DeepMind)刚刚发表了一项具有开创性的研究,旨在让人工智能医疗咨询在现实世界中真正安全可用。他们开发了一个系统,在这个系统中,人工智能可以与患者交谈并收集症状信息,但在没有真正的医生首先对所有内容进行审查和批准的情况下,不能给出任何诊断或治疗建议。所以呢,他们的计划是从外行人那里收集信息,然而信息反馈的形式并非外行人能够理解的,而是用医学术语呈现。任何有能力阅读和理解医学术语的人都可以随意根据这些信息来做决策。他们真该把谷歌深度思维改名叫谷歌“信息大门”(Google BigGate)。因为这个计划简直太像信息“把门人”了。
人类医生只有72%的时间会遵守安全规则??
2025-7-24 14:13:04
它有10%的时间会违反哪些安全规则?人工智能生成的关于人类医生违反的安全规则的结果:3. 系统性和人为因素医生职业倦怠和疲劳:长时间工作且承受高压力水平,这可能会损害判断力并导致失误。我猜要是你在一个工作日里完成相当于三个月的工作量,这也算是违反美国职业安全与健康管理局(OSHA)规定了吧 (此处为讽刺语气/s)4. 违反医学伦理和职业操守侵犯保密权:不当披露患者信息或未能保护好健康数据。“我们知道我们在泄露您的数据,我们只是打算把这个比例大致提高到10% 。”  
2025-7-24 14:17:39
是的,并非如此。关键在于以一种更安全的方式获取一些有用信息,而无需与掠夺性的保险体系以及资源紧张的工作人员打交道。  
2025-7-24 14:42:25
你没明白。这是迈向商业应用的第一步。很快你就会被禁止询问医疗建议,并且对于你所需的任何医疗建议,大型语言模型(LLM)会将你重定向到这个有人类监督的安全大型语言模型。而且他们会用人工智能来总结你的保险计划,或者根据你的保险计划选择合适的大型语言模型,多方便啊!
2025-7-24 17:29:55
这基本上就是我们Medask团队在过去一年里一直在做的事情。如果有人想看看这样一个系统是什么样子(因为AMIE目前还无法使用),可以在这里查看:https://app.medask.tech/  
2025-7-25 07:47:21
看看佛罗里达州的医用大麻计划,就能预先了解这将如何运作。  
2025-7-25 08:06:54
不用了,谢谢……
2025-7-25 09:04:44
医生?不是。不过,受利益驱使的医疗行业……?  
2025-7-25 09:45:58
尽可能接近100%怎么样?
https://rehanrc.com/AI%20Output%20Validation/Integrated_Framework_for_AI_Output_Validation_and_Psychosis_Prevention___Multi_Agent_Oversight_and_Verification_Control_Architecture1.pdf
2025-7-25 09:54:57
这就是为什么医疗保健绝不应该以盈利为目的。那些经营医疗保健行业的人,为了赚点小钱,会把人们压榨得喘不过气来。  
2025-7-25 14:17:51
gAMIE有90%的时间遵守安全规则,而人类医生只有72%的时间遵守。它有10%的时间违反的安全规则是什么呢? 尽管人类在这方面做得更差,但10%听起来还是挺高的。  
2025-7-26 00:58:26
那么人工智能会与你的保险公司交涉,以涵盖所有推荐的治疗方案吗?还是会将诊断结果调整为“可正常工作,无需治疗”
2025-7-26 20:04:10
一方面是得不到帮助,而另一方面是他们不喜欢医生告诉他们的话:以肥胖、酗酒或吸烟为例——这些在大多数健康问题中都起着重要作用。 但Chat GPT能让你回避这些问题,尤其是因为它不会主动深入询问。  
2025-7-27 07:45:51
……你对此事的看法似乎有失偏颇。虽说可能确实有个别医生比较懒散,还会滥用职权,但医疗行业的大多数从业者投身这一行业,是因为他们想要帮助他人,提供高质量的患者护理服务。你声称这(某种做法,需结合前文明确具体所指)是为了赚钱而快速增加病人流量,这种说法实在是无礼。你应该把这种指责对准保险公司,还有(至少在美国)政府。正是政府削减了住院医师培训项目的资金,才导致医生短缺。  
2025-7-27 16:00:53
特定专业的护栏是件好事。
2025-7-27 16:11:53
这完全合理,我误解了你的意思,抱歉。
若想从研究论文中获取更可靠的信息,你可以使用“共识人工智能”。  
2025-7-27 16:29:42
他们会优化人工智能,以便推荐能让他们赚更多钱的治疗方案。我和律师、银行家都打过交道。而医生比他们中的任何一类人都贪婪得多。
2025-7-30 05:33:41
就算说我愤世嫉俗吧,但在我看来,这似乎是谷歌在安抚医疗行业,拉拢他们入伙,毕竟医疗行业完全掌控着医疗监管大权。医生们会不假思索地在报告上签字盖章,还会全额收费,因为他们有这个能耐。
2025-7-30 11:59:19
Chat GPT(尤其是最近)是基于用户反馈进行强化训练的,因此它会给出那些你更有可能与之互动或做出积极反应的答案。在健康领域,问题在于它如何鼓励给出连贯的诊断,建立不太可能成立的关联,但却不鼓励给出 “真实却令人不悦” 的回应。对你来说可能并非如此,但那些不够谨慎的人会深陷自我诊断和自我用药的漩涡。尤其是像自身免疫性疾病这类情况,症状高度重叠,而且真的是 “各种症状一下子全有”,这就很棘手了。我猜很多人在开始服用补充剂之前都不会去做血液检查。我并不是说医生的诊疗就完美无缺,但医疗大语言模型是行不通的,除非它能说出残酷的实话,而Chat GPT目前还做不到这一点。顺便说一句,Gemini在这方面似乎做得更好。
2025-8-1 16:17:07
那么,你希望大语言模型(LLMs)为人们开处方、安排手术吗?鉴于大语言模型存在幻觉问题,而且总是迎合讨好,我觉得这种做法很快就会出大问题 。  
2025-8-1 17:02:06
这个问题只出在谷歌身上。
同样。双子座(Gemini)对 “安全” 过于敏感了,以至于它根本不会提供任何信息。这也是我在试用期结束后放弃其专业版(以及整个服务)的几个原因之一。  
2025-8-6 15:28:13
怎么会这样呢?我觉得这是大多数试图涉足人工智能领域的医疗保健行业从业者共同关心的问题。  
2025-8-8 14:20:24
我得说你是个愤世嫉俗的人,因为你对一个旨在延长你的寿命并大幅提升你生活质量的体系怀有莫名其妙的敌意。医生可不是什么敌人……
2025-8-19 16:00:02
有医生审我愿意试
您需要登录后才可以回帖 立即登录
高级模式