AI最可怕的就是一本正经的胡说八道

有些问题问AI，得到回答后真的需要好好甄别，不然把我骗得团团转 🤣

精准性与可靠性：

每次大模型生成回答后，在页面上添加一个 「置信校准」 按钮。点击该按钮后，调用一个小尺寸模型，让这个小模型对刚才的回答进行总结，接着去搜索并核对关键信息，检查是否存在错误或夸大之处。最后，由小模型针对大模型的回答给出奖惩反馈 。  

AI：你就说有没有回答你吧

信口开河说瞎话，还说得头头是道、有理有据的。

AI的回答是基于概率统计进行推测的。

AI 都还没实际操作过呢

这是真的，AI幻觉一直都是个让人头疼的问题。

现在的思维模型很容易在错误的前置词元下一路错下去。只能想办法让模型在关键步骤进行反思才行。

或者说利用智能体实践一下（针对代码相关的问题），这样才能减少一些幻觉问题 。

上过几次当就知道要交叉验证了

实践出真知。

没错，特别是在你不熟悉的领域，很难判断他的回答是对还是错。
而且他的回答常常是对中夹杂着错，半真半假。