|
对齐和可解释性方面的工作远远落后于（人工智能的）能力发展，而且丝毫没有迎头赶上的迹象。这就是为什么我认为这肯定会出问题，研究这个问题的人也承认这一点。即便情况没有我想得那么糟糕，但从事这方面研究的人员实在太少，这也导致它难以追上（能力发展的步伐）。我们最多只有5年时间来解决对齐问题，而这个问题已经研究了几十年，至今仍远未找到解决方案。一旦我们实现通用人工智能，我们的命运就注定了——要么在此之前解决对齐问题，要么就解决不了。从目前的情况来看，我们很可能解决不了这个问题，原因之一就是前面提到的（工作进展落后和人员不足），另外竞争态势也使得企业和政府无法通过合作达成协议来解决对齐问题，这意味着所有人都可能面临绝境。这就是为什么我和很多公众都认为这件事最终会以悲剧收场。从事这方面研究的人显然比我们大多数人要乐观得多。就连我老爸都觉得这事会有糟糕的结局。得出和其他数千人一样的这个结论，只需要一点常识，再对对齐问题有一些基本了解就行。更不用说，尤德和亚姆在对齐领域是学识最为渊博的人，正是他们让这个问题受到关注，并推动其加速发展（虽然进展速度只提高了0.001%，但好歹也是有进步），所以你对他们的厌恶毫无道理。 |
微信登陆 
