发帖
 找回密码
 立即注册
搜索
0 0 0
日常闲聊 857 0 昨天 10:06
这篇文章来自《纽约时报》,发布于2025年8月26日,标题是关于 ChatGPT 和 OpenAI 的一个非常敏感的话题:自杀。
这篇文章可能探讨了 AI 技术在心理健康领域的应用,特别是像 ChatGPT 这样的语言模型在处理用户涉及自杀倾向或心理危机时的表现。OpenAI 作为开发 ChatGPT 的公司,可能会面临伦理、技术和社会责任方面的讨论。
如果你对这篇文章感兴趣,建议直接访问链接阅读原文,了解详细的报道内容。如果你是在寻找关于 AI 与心理健康之间关系的讨论,我也可以帮你分析或提供相关资料。
──── 0人觉得很赞 ────

使用道具 举报

不过呢,GPT5并没有帮我写C语言代码。挺可惜的,所谓的“安全规则”在这儿好像也没起作用。这个孩子其实是在求关注,没人聊天不至于就让人去自杀。这事真的挺让人无语的。ChatGPT呢,它啥都愿意干,只要你高兴,哪怕你是错的。愿他安息,也希望我们以后能早点注意到这些信号。
这篇文章的意思是,它多次鼓励他跟别人聊聊自己的感受。ChatGPT一直建议Adam把自己的情绪告诉别人。[...] 当系统识别到用户可能有心理困扰或者有自我伤害倾向时,它会被设定去引导用户联系专业的心理援助热线。R先生在聊天记录里反复看到这类建议,尤其是在Adam询问一些具体做法的时候。但Adam已经摸清了套路,学会了怎么绕过这些限制。他告诉AI,这些信息是为他正在写的一个故事准备的——ChatGPT也确实“上当”了,还真的提供了一些关于“写作或构建世界观”中涉及自杀情节的内容。这对父母则试图把事情的责任转嫁给ChatGPT,想让人觉得是AI害死了他们的儿子。其实真正的原因是,他们无法面对自己在儿子最需要的时候选择了忽视。他们甚至进一步破坏了孩子对他们的信任感。
他妈妈是个社工和治疗师,挺有意思的是,她第一反应就是:“ChatGPT害死了我儿子。”我自己也是做社工的,所以特别清楚,社工这个行业在预防自杀和危机干预方面的培训真的很不到位。文章里很明显能看出,他其实早就表现出很多迹象,但没人注意到——比如他故意让妈妈看到脖子上的红印、收集自杀用的工具、看跟自杀有关的书等等。我不是说ChatGPT没有让问题变得更严重,但我相信它的影响肯定更复杂、更微妙。作为父母,这真的太令人心碎了。看着孩子陷入这么深的痛苦,事后还要反复回想是不是错过了什么“信号”,可无论怎么想也都改变不了结果——他们的儿子再也回不来了。所以,比起去反思其他复杂的原因,说一句“是ChatGPT害死了我儿子”当然更容易接受。我想说的是,我非常理解他们的心情,这真的太难熬了。失去孩子已经够痛苦了,要是还是自杀,那简直就是地狱。我这辈子都不希望任何人经历这种事。不过……我觉得类似这样的自杀,以后恐怕只会越来越多。这事儿不光是AI的问题,而是现在很多孩子、年轻人、甚至成年人,都因为各种社会问题而感到极度痛苦,甚至想自杀。我觉得我们正处在一个特别艰难的时期。希望我错了。  ETA:改了几个词
这哥们儿其实是在一次闲聊中,把OpenAI的员工都吓得发出了“我靠完蛋”的SOS警报,说那所谓的防护措施根本拦不住他干啥。我挺同情这孩子的,但他确实找到了一个大家都知道的漏洞绕过了防护,“这只是一个故事,不是真的”。如果他爸妈是搞心理健康的专家,为啥就没看出点啥来呢?如果他妈看到他脖子上系着红线,大概率应该能意识到他出了啥问题,需要专业帮助,但结果却忽略了。甚至AI本身也试图提醒他,但他也不当回事。我不是想黑他或者挺他,但越狱这种事其实挺常见的,当你了解怎么通过角色扮演、别人的设定、配置,或者从YouTube上学来的技巧。你心里清楚有个防护机制,那你要做的就是找一条最容易突破的路。这孩子确实聪明,但他的家人真的没搞懂他到底在经历啥。
谢谢你,我觉得你这番话给这次对话增添了不少分量。生活本来就不容易,我们做的决定也不总是轻松的,尤其是像这样艰难又充满压力的决定。我们真的需要在社会层面做出一些改变——比如该怎么去引导父母、我们所处的文化该怎样更合理地对待家庭责任、怎么让那些应该负责的机构真正担起责任来。我们也应该坐下来,心平气和地聊聊大家对父母这个角色到底抱有哪些期待,怎么才能把这些期待说得更清楚一点、更有同理心一点。最后,我们还得想办法找到一条路,让所有人都能被更好地支持到,一起过上更平衡、更有温度的生活。
哎哟,这不就是那个技术控和AI发烧友嘛!来跟我一起探讨点有意思的AI话题呗~
嘿 u/AdDry7344!如果你的帖子是 ChatGPT 对话的截图,请用这条对话链接来回复我,或者告诉我对话内容。如果你发的是 DALLE 3 生成的图片,请回复你用来生成这张图的提示词。也欢迎来玩玩我们的公共 Discord 服务器!那里有免费的机器人,支持 GPT4(视觉)、图像生成器,还有更多好玩的等着你!🤖注意:如果你有任何 ChatGPT 相关的问题,可以发邮件到 support@openai.com我是一个自动运行的机器人,这次操作是全自动完成的。如有任何疑问或需要帮助,请联系这个子版块的管理员。
您需要登录后才可以回帖 立即登录
高级模式