大型语言模型性能每7个月翻一番

A🐉🐉 · 2025-7-23 16:52:48

除了摩尔定律自十多年前就不成立了。他们每隔几年就会添加小印刷品，看起来就像它的控股...

hyb217 · 2025-7-23 16:52:58

是的，一开始就很容易推动改进。但是没有什么是永恒的。甚至摩尔定律也不是以前的样子了。

绿兔子 · 2025-7-23 17:00:52

是的，他们只是不得不说需要两倍的时间才能以100% 的可靠度完成

科技领袖 · 2025-7-23 17:12:38

说真的，还没有天花板，为什么人们不接受指数增长，直到真正有天花板。考虑到我们的人类大脑和计算机都在这个宇宙中，我看不出有任何真正的可能性，至少没有人类水平的智能人工智能。即使只有这样。想象一下，数以百万计的人类水平的人工智能以我们50倍的速度工作，人们真的低估了这一点; 或者也许这很酷😎有一个悲观主义者

红火影 · 2025-7-23 17:47:53

pro-ai意味着什么？AI只是一种技术。我不反对人工智能，我认为理论上它可能是好的，但我担心好处只会给少数拥有这项技术的公司。在工业革命之前，90% 是农民，今天还不到1%。但是失去生计的农民并没有得到更好的生活，他们不得不在煤矿和工厂寻找更艰难的工作。他们不得不工作更多，而不是更少，而且工资更低。这给大多数人带来了痛苦。拥有机器的人变得富有。为了让每个人受益，机器必须由每个人民主拥有，而不仅仅是少数亿万富翁。

zke · 2025-7-24 02:26:33

这是不可避免的，系好安全带。在我看来，永生的机会比保证死亡更好

d36mail · 2025-7-24 08:06:36

xkcd的家伙可以做一个漫画讽刺相信极限似乎总是恰好是我们现在所处的位置吗？谢谢。

老草 · 2025-7-24 11:11:35

如果我能一直以七岁时的学习速度学习数学，到八十岁的时候，我将会成为宇宙中最厉害的数学家。

某人 · 2025-7-24 14:23:46

你在以一种不真诚的方式曲解我给出的定义。要知道，百科全书并不能根据需求或提示，自主地跨多个领域传递知识，也无法自行计算出正确的流程并执行。它仅仅是供你获取信息的工具。至于第二点，没错，我其实并不是在争辩它没有夸大营销宣传，也不是说生成式人工智能有多么神奇。我完全认同其营销方式往往很卑劣，我可不是什么首席执行官的朋友。但这实际上并不能直接否定这篇文章，因为这只是一个间接相关的问题。这也并不意味着在某些相关任务中，人们所感知到的能力/准确性的指数级增长上限会在不到五年内达到。声称它能再持续一段时间，并不等同于声称生成式人工智能是“神奇的”。这仅仅意味着指数级增长不会那么快达到你所说的上限。即便只是为了强调观点而夸张地说，这个上限不知怎的会在2031年1月1日午夜准时神奇地出现，它也还是满足了2030年这个时间节点，而这正是文章所提及的全部内容。

flzt120 · 2025-7-24 16:27:45

据研究机构METR称：关键大语言模型（LLMs）的能力每七个月就会翻一番。这一发现引出了另一个同样令人震惊的结论：到2030年，最先进的大语言模型应该能够以50%的成功率完成一项基于软件的任务，而这项任务人类需要花费整整一个月（每周工作40小时）才能完成。而且，大语言模型完成其中许多任务的速度可能比人类快得多，可能只需几天，甚至几个小时。METR研究工作的核心是研究人员设计的一个名为“任务完成时间跨度”的指标。它指的是人类程序员平均需要花费的时间，来完成大语言模型能以特定成功率（如50%）完成的一项任务。对过去几年一些通用大语言模型的这一指标绘图后，可以看到明显的指数增长，翻倍周期约为七个月。研究人员还考虑了任务的“复杂程度”因素，“复杂”任务是指那些更类似于“现实世界”中的任务。

17679969277 · 2025-7-24 18:21:14

大规模失业使得经济结构调整不可避免你过度关注通用人工智能会导致无工作可做这一点，而我期待随之而来的技术奇点

guguai111 · 2025-7-24 18:25:16

我宁愿它在99.99%的时间里可靠地完成20%的工作，也不愿它在50%的时间里可靠地完成100%的工作。现在情况好的时候，它的可靠度可能也就20%。要是这些该死的东西这么不可靠，盯着它们所花的时间比干活的时间还长。

zxhy · 2025-7-25 19:09:39

我认为这不太可能，因为我花时间阅读了原始资料，了解了这些系统的架构。这让我明白它们实际上并非神奇莫测，也让我能够评估它们是如何工作的。这也让我不再听信那些首席执行官的话，他们试图向你兜售他们将发明通用人工智能的想法来发财。https://xkcd.com/605/

绿热心儿 · 2025-7-25 22:49:09

是时候制定一项新法律了，然后当它不再起作用时又惊慌失措。

zxzh0003 · 2025-7-26 06:50:03

你的观点是，对你来说确实如此，可你表述观点的方式实在没必要地带着居高临下的态度，还过于自以为是。实际上，就连许多并非供职于大型人工智能公司的分析师和计算机科学家，对于究竟何时会触及上限都并非十分明确，至少这远不止是个人观点层面的问题。有些人认为早就该触及上限了，而且有相当充分的理由这么怀疑。显然，我也可能是错的，但我不会仅仅基于某种本质上模糊不清、实际上还依赖诸多我们无法精确衡量的潜在因素的概率就轻易认同。所以，这是我关于这个话题的最后一条消息。不过，你确实让我有了思考的方向，而且我很欣赏你并非只是被动、不加批判地看待人工智能。我们需要更多像你这样的人。

ainxy · 2025-7-26 08:37:23

我不知道为什么仅仅期望它以那样的速度再持续五年就真的那么疯狂，尤其是因为障碍并非电力/资源消耗。除了太阳能部署的快速增长速度——即便当前政府有点从中作梗，以及每千瓦·时储能电池价格的不断下降，每单位计算所需的能量，还有在其设计参数范围内为你提供一定程度的细节、精度和技术能力所需的能量，都在迅速减少，而非增加。只是随着应用和关注度的扩大，总体能源消耗一直在增长。即便如此，人工智能的应用增长率有着更为明确和严格的限制，因为人和企业的数量在更确切的意义上是有限的，一开始可供人工智能执行的实际任务数量和范围同样如此。

romi · 2025-7-27 19:27:01

几十年前人们对中央处理器（CPUs）的说法也是如此。摩尔定律是个神奇的现象，虽说我明白它并非完美无缺，但它正确的时候远比错误的时候多。而且每年都有人说：“没错，可我们马上就要触及天花板了！”

fkbill · 2025-7-28 00:53:24

如果埃隆·马斯克控制了超人工智能（或者是哪个亿万富翁先做到这一点），奇点可不是什么好事。如果超人工智能属于所有人，并通过民主方式进行管控，那它可能会很棒。但如果它只属于某一个人，而这个人还利用它让自己成为神王，那就太糟糕了。极其糟糕。

一品龙 · 2025-7-29 20:15:53

这并不能改变那些贩子所兜售的东西，但咱们先把通用人工智能（AGI）排除在外。（而且，按照你的通用人工智能定义，一本纸质百科全书就能满足）这丝毫改变不了我所说的内容。生成式人工智能并非魔法，要是你真的读过相关原始资料，就会明白实际进展与营销宣传的差距有多大。

快瘦云儿 · 2025-7-30 12:03:31

要满足这篇特定文章所指的各项指标，并不一定非得是通用人工智能（AGI），也不一定要有截然不同、从根本上改变的架构。或者至少要满足这样一个基本要点：“在未来五年内实现非常快速的改进，在大量与统计分析、数据整理、在海量信息中比较可能且连贯的信息片段相关的实用应用领域有所建树，然后进行优化以降低事实错误/‘幻觉’率。”我也对此做了大量研究。像写出一本能让受过良好教育的人觉得有说服力且内容连贯的书，并不需要通用人工智能。除非你把标准拔高到“无论何种书籍主题、类型或情节，都具备极其出色的细节、世界观构建、事实准确性、人物塑造等等”，否则根本不需要提及通用人工智能的定义。（话说这标准也太苛刻了，因为人类也做不到）我自己也不认为通用人工智能真的会那么容易实现。尤其是因为到底什么才算通用人工智能，以及衡量它的测试该如何进行，这些概念本质上就模糊不清，而且会有点主观。标准取决于测量者对“理解”程度的判断，看它是否真的足以像人类一样可靠地完成任何脑力任务。如果让我大胆猜测，我会说是2045年。但即便如此，我也根本无法确定。这需要对当前架构进行更为重大的改进，不过实际上相关的替代方案已经在讨论和研发中了。远不止我们在操心这件事。即便实现了上述目标，也依然无法解决这件事主观性很强这一事实。我所定义的通用人工智能并不包含它“有意识”或者真的“像人类一样思考”的假设，只要求它能对人类能完成的任务给出正确答案，能跨多个领域运用知识，并且不管计算过程如何，最终结果是有效的。但话说回来，文章链接本身并没有对通用人工智能提出这些更宽泛的说法。

wjml223 · 2025-7-31 12:32:52

所以你是在假定（事情发展的）节奏会放缓，但实际上它可能会加快。

marg · 2025-7-31 12:35:53

我最近印象最深的一次是，我在谷歌上搜索如何直接删除我在思爱普（SAP）应用商店编辑的一个解决方案页面草稿，这个草稿我已经不需要了。Gemini给了我5条操作指示，最后一条是 “如果你随后点击进入X，你可能会在右下角看到一个删除按钮”。并没有（看到删除按钮）。不过还是感谢猜测一番。

zhengdejin · 2025-7-31 22:30:03

链接打不开呀！

JCRen.net · 2025-8-4 14:47:30

这张图表的纵轴简直毫无逻辑，这也算科学？优化一款芯片：4小时？？给谁优化？什么芯片？创办一家公司：167小时？搞什么鬼我支持人工智能，但这纯粹是不靠谱的衡量方式。

黑日鹰 · 2025-8-4 15:31:06

ASI无法被控制。你要如何控制一个远比你聪明得多的东西呢？这是不可能的。

灰山子 · 2025-8-5 08:36:09

咱们先不管上限问题，就假设所有情况都是指数形式：这个子（内容）

bngvdpvhqj · 2025-8-6 14:35:26

这还有另一个问题，那就是你可以随意选择任务，让曲线呈现出你想要的任何样子。一直以来，都存在这样的情况：与人类完成任务所需的时间相比，大语言模型（或在Transformer架构之前的机器学习架构）完成某些任务耗时极短，反之亦然。此外，你已经提到这将取决于任务本身的细节以及所涉及的人类个体，但它还取决于你如何定义模型 “完成一项任务”。例如，最近有一个模型被用于寻找Linux内核的0日漏洞，但在100次尝试中，它也只有大约2次成功找到了漏洞。这算完成任务吗？如果完成任务的概率是95%，但有5%的概率会产生完全无意义的幻觉内容，这种情况又该如何算呢？

暗亮虎子 · 2025-8-10 06:06:13

借助自旋电子学有望再次迎来上升势头啦！逻辑门可以做得超级小，因为它们实际上依靠的是量子效应，而目前正是量子效应阻碍了互补金属氧化物半导体（CMOS）计算的发展。

alfger1 · 2025-8-10 15:24:52

到目前为止，我感觉大家的评论很快就否定了这件事，还挑出其中的毛病，但我们并没有真正意识到，这些数据在很多方面仍然意义重大，而目前的批评实际上并未将其推翻。比如说，其一，这条曲线只需再大致延续5年，至少就能在一定程度上与他们所说的情况相媲美。他们也没有提出更多别的说法。挑剔细节并不能反驳一个基本观点，即很多相关领域已经取得了快速进展，而且还将继续快速发展。比如说，尽管你总抱怨手机上的人工智能，但很明显，它在很多方面至少比刚开始的时候好多了，而且进步速度相当快。这一点没什么可质疑的。“它会突然完全停滞”和“然后速度会放缓，并根据你所涉及的具体任务类型而变化”，这两者之间也有很大的区别。第二种说法更有道理，这也表明我们确实需要对这类事情进行记录，而且这些数据至少足以让你对目前的情况有所了解，也能让你大致预期未来可能发生的事情。一组经过整理和记录的数据，现在可以进一步完善和扩展，以便从更多角度进行考量，这远比完全没有数据要好得多，总比你只是干坐着，消极地抱怨希望能有更好的数据强。

高乐雨 · 2025-8-18 19:00:53

你可以去问问养罗威纳犬的狗主人，他们是怎么控制那些在战斗中可能会反咬一口的猛犬的。人工智能也是一样，它在执行某个具体任务时表现出的能力，跟你最初给它设定的目标其实没太大关系。

		自动登录	找回密码
密码			立即注册

大型语言模型性能每7个月翻一番

相关帖子

30 回复

元老级人物