返回

第二百六十二章 世界模型才是最好的

首页
关灯
护眼
字:
大
中
小
上一章 回目录 下一页 进书架
    第二百六十二章 世界模型才是最好的 (第1/2页)

    周一早晨,六点整。

    水木大学博士生公寓的一间宿舍里,手机闹钟发出一阵蜂鸣声。

    声音不大,但章闻铎已经睁开眼睛,伸手关掉了闹钟。

    他没有赖床,也没摸手机,利落地翻身下床,洗漱,换上一件衬衫和牛仔裤,坐到电脑前。此时六点二十分。

    硕博连读五年,章闻铎一直用这样严苛的作息要求自己。

    经过一夜睡眠,昨晚那点微醺,以及因狂妄而生的不适,都已散得差不多。

    现在还有更重要的事。

    昨晚,汤圆的API静态测试集测试证明:它不是靠过拟合作弊的骗子。作为一个即将答辩的顶级计算机博士,章闻铎很清楚这意味着什么。

    业界都在卷算力、卷参数、卷更大的模型,汤圆却给出另一种解答——数据质量究竟能把模型能力提高到什么程度。

    这对前沿研究者价值不可估量。

    章闻铎的博士研究方向并非传统基于语义关系的大语言模型。他认同不少业界先驱的判断:纯粹语义推断已经触到上限。

    若想让人工智能研究突破到下一阶段,必须另辟新路。

    这也是他昨晚敢当面质疑韩路一的原因。

    虽然最终证明他判断错了,但这一点反而更有价值。

    既然手里握着世界第一闭源模型的API,就不能浪费。

    章闻铎调出博士论文核心代码——一个用于探测大模型内部是否具备反事实因果推理的“世界模型(World Model)”状态探针。

    所谓世界模型,与当下流行的大语言模型(LLM)是完全不同的研究方向。大语言模型要做的,是基于前文推测后面会出现的“话”;世界模型要做的,则是基于前面的事件信息,推断现实世界中会发生的下一件“事”。

    而状态探针探测的是:一个模型——无论内部实现机制为何——有没有能力用内部状态表达世界。

    比如网上流传的一个经典笑话:如果你问AI大模型,“五米外有个洗车店,我要洗车,我该走着去还是开车去?”大部分AI都会回答走着去。

    为什么?

    因为“五米外”和“走路”在传统大语言模型中是注意力强关联,洗车店和开车作为弱信号被忽略了。

    但问任何一个智力正常的成年人,都不太可能在这道题上翻车。

    这就是语言模型在理解世界上的天然缺陷。章闻铎的论文讨论的,正是大语言模型与世界模型的关系。

    学术界研究世界模型的学者一直分为两派。

    一派认为,当前大语言模型这种基于语义的推理方向是条岔路,最终会走进死胡同;也就是说,做大语言模型永远成不了世界模型。

    另一派则认为,语言是人类对世界的抽象,当大语言模型的能力进步到一定程度,它也可以具备世界模型的能力。

    “死路派”和“殊途同归派”在这个问题上争论不休,至今没有哪一派能说服另一派。

    章闻铎自己就是“死路派”。他对汤圆的质疑甚至不针对汤圆,而是对所有大语言模型都有抵触,觉得这些都是通往AGI道路上的歧途。

    他提出过很多理论,但理论需要验证。

    对研究者来说,最痛苦的事莫过于缺乏顶级模型的验证机会。

    对中国研究者而言,还有更大一层障碍。

    如今,境外最强的闭源模型对中国大陆研究者几乎断绝,偶尔能

    (本章未完,请点击下一页继续阅读)
上一章 回目录 下一页 存书签