AI最可怕的就是一本正经的胡说八道

日常闲聊 · 昨天 17:55

有些问题问AI，得到回答后真的需要好好甄别，不然把我骗得团团转 🤣

帅龙子 · 昨天 18:02

精准性与可靠性：

每次大模型生成回答后，在页面上添加一个「置信校准」按钮。点击该按钮后，调用一个小尺寸模型，让这个小模型对刚才的回答进行总结，接着去搜索并核对关键信息，检查是否存在错误或夸大之处。最后，由小模型针对大模型的回答给出奖惩反馈。

wlzt · 昨天 18:17

AI：你就说有没有回答你吧

灰兔 · 昨天 18:22

信口开河说瞎话，还说得头头是道、有理有据的。

agou · 昨天 19:09

AI的回答是基于概率统计进行推测的。

sdtakklb · 昨天 20:44

AI 都还没实际操作过呢

轻舞任逍遥 · 昨天 21:01

这是真的，AI幻觉一直都是个让人头疼的问题。

jackyer · 昨天 22:55

现在的思维模型很容易在错误的前置词元下一路错下去。只能想办法让模型在关键步骤进行反思才行。

或者说利用智能体实践一下（针对代码相关的问题），这样才能减少一些幻觉问题。

		自动登录	找回密码
密码			立即注册

交流AI最可怕的就是一本正经的胡说八道