几个月前，前谷歌CEO埃里克·施密特说，人工智能很快就能自己升级、自我完善了。
我自己做过不少AI产品，实话告诉你：所谓的“自我完善”的AI，现在还纯属幻想。什么能自动修bug、学新API、还能自己重新部署的AI代理？全是吹的。你给它越多自由，它就越搞砸。真正好用的AI代理反而是那种老老实实、被管得死死的那种。
这半年我折腾了不少AI代理，踩了不少坑，总结出几个血泪经验：
反馈循环只有在我亲自看日志、再训练模型的时候才会变好；
所谓的“自我反思”功能？只会拖慢速度，增加延迟；
任务一复杂点，代码代理立马崩溃；
RLAIF（用AI做强化学习反馈）在demo里看着挺美，一上真实场景就翻车；
所谓“技能获取”？根本不是自动的，得人一直盯着调教；
模型漂移是迟早的事，躲不掉；
最后真正让系统靠谱的，不是什么高大上的技术，而是那个不起眼但极其严格的——质量控制。
真正能在商业上赚钱的AI代理，从来不是那种要“改变世界”的研究型选手。
反而是那些安分守己、干具体小事的帮手最有价值：比如查侵权、报发票、当销售助理、做售前答疑、多个代理协作跑流程、处理初级客服问题……这些才是真落地的场景。
有意思的是，就在两周前，埃里克·施密特在接受采访时又改口了：
他说：“我到现在都没看到AI能自己改进自己，或者给自己定目标的证据。没有数学基础支撑这事。也许7到10年以后吧。而且我们还得先实现让AI把一个领域的知识迁移到另一个领域——目前根本没有这样的例子。”
来源 |
微信登陆 
