你们是咋放心用ChatGPT的？

日常闲聊 · 3 天前

我这个标题可能有点夸张，但我是认真的在提问题。
这几个月我开始疯狂使用 ChatGPT，不管是工作还是生活上的事都找它帮忙。
最开始其实没觉得有啥大问题，但后来遇到几次它“一本正经胡说八道”的情况，让我整个人都懵了，也开始怀疑它说的几乎所有内容。
有些答案看起来头头是道，结果一查完全是错的，而且它那种特别自信的语气，真的很容易让人信以为真。但其实很多都是它“编”的。
我试过让它给出处链接，结果它在乱说的时候也能给你编几个看起来像模像样的文章链接，甚至自己都没意识到是错的。你就算把证据摆它面前，它还会试图绕弯子解释，好像它才是对的。只有你再三追问，它才会勉强承认：“其实我不是那个意思” 或者 “我只是想帮你而已啦”。
现在我对它说的每一句话都超级谨慎。如果最后我还是要靠 Google 去验证它说的话，那我干嘛不一开始就直接去 Google 呢？省得还多此一举。
我真的很想相信 ChatGPT，但它真的坑了我好几次 😂

kui2004 · 3 天前

别太紧张，如果你对什么有疑问，就去别的地方查查。我一般觉得它给的答案还行。可能我比那些啥都信的人更不容易被骗吧……不过说到底，你还是得有点儿常识。

天涯海閣 · 3 天前

你可以去验证它——就像我让它引用在HOA纠纷中使用仲裁的州法律一样。它生成的文件里确实引用了相关法律条文，我后来去查过。其实很简单。但大多数人用AI的时候图省事，连这种简单的验证都不愿意做。

一点 · 3 天前

没错，就算是有OAI支持的机器人，也照样会“脑补”出一些不存在的内容。

zah1111 · 3 天前

我其实也不太确定。我只会用它来处理那些我本来就比较了解的东西，比如通过一些幻觉或者我能立刻验证的事情，像把某种文件投到电视上之类的。或者是一些对准确性要求不那么高的事情，比如项目管理的大体思路。我从来不会指望它能教我什么新知识，或者带我走一遍我完全陌生的领域。那种自己都不知道结果的事，我是不会信它的。而且我也不是很信任那些真的这么用它的人。

美光 · 3 天前

AI这东西，真不适合懒人。你要是想让它在没人管的情况下自己干活，那基本不太可能。

senholy · 3 天前

我一点都不觉得它靠谱，它对我来说就是一个工具助手，不是什么领导或者老师。它能不能教你点东西？当然可以，但还不足以让你把它当老师来依赖。比如我用LLM来写代码，就是在我已经熟悉的语言里使用。它帮我搞定那些重复又琐碎的事情，省得我自己浪费时间。但我还是会用自己的判断去检查一遍，确保没问题。听起来可能有点奇怪，但我建议你拿它来问一些你已经知道的问题。它需要背景信息才能给出靠谱的答案，你对一个问题了解得越少，你给的提示就越容易偏离背景，那它的回答也就越不靠谱。

zjts · 3 天前

当然可以！我之前在测试自己的能力时，就遇到过一个挺典型的例子。问题是这样的：“你知道‘量子双缝实验’吗？它是如何证明观察者效应的？”我的回答是：“知道的，‘量子双缝实验’是一个非常经典的实验。它通过让电子或光子一个一个地穿过两条狭缝，最终在屏幕上形成干涉条纹，从而证明了粒子具有波动性。而当科学家试图观察粒子究竟是从哪条缝穿过的，干涉条纹就会消失，变成了两条清晰的条纹，这就说明观察行为本身会影响实验结果，这就是所谓的‘观察者效应’。”看起来是不是挺专业的？但其实这段回答里有不少“幻觉”的成分。比如：我说“当科学家试图观察粒子究竟是从哪条缝穿过的”，这个描述其实有点模糊，没有说明具体是哪种测量方式，也没有指出不同测量方式对结果的影响差异。
“观察者效应”并不是因为“观察者”本身有意识，而是因为测量行为干扰了量子态。这里容易让人误解为“人的意识会影响结果”，这是很多科普中常见的误解。
我还省略了“退相干”等更深层次的解释，这其实是解释实验现象的关键机制之一。所以你看，虽然我的回答听起来挺有道理，也符合一些基本概念，但其实它并没有准确、完整地传达科学事实，这就属于“幻觉”了。这也提醒我们，在使用AI辅助学习或获取知识时，最好能结合权威资料进行交叉验证，尤其是面对像量子物理这种容易被误解的复杂领域。

edison1007 · 前天 16:28

我知道机器学习和大语言模型背后的原理，所以我对它其实是持怀疑态度的。别误会，它确实是个很有用的工具。但你要记住，它说的每句话，都得你亲自去核实才行。

zhang1694 · 昨天 11:57

我对ChatGPT的信任程度，就像我在大学校园里对一个陌生人说的话一样——他说的可能有道理，也可能只是个自信过头的大一新生，觉得自己懂得比实际更多。你可以听听看，但最好还是自己再核实一下。

老慢果儿 · 昨天 12:47

就像当年罗纳德·里根说的那句话：信归信，但得查一查。

		自动登录	找回密码
密码			立即注册

你们是咋放心用ChatGPT的？

相关帖子

8 回复

浏览过的版块

元老级人物