第三百三十一章 让汤圆成为普通话 (第2/2页)
“由人构建，为人服务（Built by humans， built for humans）”。”韩路一抬手在空中一点，“但在新的时代，我们会有新的交互方式，我叫它“由AI构建，为AI服务”（Built by AI， built for AI）。”
马小飞用力眨眨眼，问：“什么意思？”
“先说“由AI构建”，这方面应用已经不少。比如源码的产品御风，能帮产品经理整理需求、设计功能，也能帮程序员写代码，都大大提高了工作效率。”
马小飞点头，这个听懂了，又问：“那“为AI服务”呢？不是应该为人服务吗？”
“这里的“为AI服务”，指的是系统为AI服务，AI再为人服务。”韩路一略一思索，举了个例子。
“你已经看到过汤圆Chat的智能体功能了。有没有发现，之前在千帆APP订餐厅需要用到的很多功能，在汤圆Chat的流程里都用不到？”
马小飞想了想，说：“你说的是——比如我要订一家餐厅，得先打开千帆，再选分类；选完分类还要筛区域；筛出来的饭店，还得一家一家看评分；看完评分再翻评论；翻完发现不接受线上预订，又得找电话打过去；人工告诉我今晚七点没位了，只剩七点半……”
他说完喘了口气。
“可在汤圆Chat，我说“帮我订一家附近评分高的川菜，今晚七点，两个人”——然后它就去办了。”
说得真细。韩路一笑了笑：“你刚才说的那一串流程，全是因为人需要用界面来传递信息、一步一步表达意图。但AI不需要这些界面，它能直接理解你的话，直接调用服务。那些筛选框、分类标签之类的东西，对AI来说不是功能，而是噪音，我们都可以去掉。”
“随着AI越来越普及，我们会更多接受由AI调用服务的交互方式。对未来的很多服务提供商来说，消费者里很大一部分不再是人，而是智能体。要让智能体知道你能做什么、产出什么，就需要一套标准协议，像AI界的“普通话”。”
马小飞恍然大悟：“所以汤圆协议就是这个“普通话”？”
韩路一一笑：“借你吉言，我也希望汤圆协议能成为这个普通话。”
马小飞对镜头笑道：“原来这协议这么重要，怪不得国内外大厂都要紧跟着源码的脚步发布自己的协议。谢谢韩总解惑。”
两人休息，喝了点水。这些内容后期可以剪掉。
休整过后，马小飞问下一个问题。
“汤圆Chat发布之后，有一类声音一直存在，说汤圆的回答有点……怎么说呢，有点“管人”的感觉。你怎么看这个评价？”
韩路一沉默片刻。
他心里暗想：马小飞啊马小飞，刚才休息时怎么不提前透题？
“我觉得——”他说到一半，又停住，“我觉得那些用户说得对。”
马小飞挑了挑眉。
“设计汤圆时，我们在安全边界上做了很多工作。”韩路一说，“不希望它帮人做某些事，希望它在一些话题上保持克制，最关键的是，希望它不给出错误信息——这很难，但这是我们的出发点。”
“那么，”马小飞问道，“你为什么选择这样的设计理念呢？”
“因为我觉得现在业界的主流方式是错的。”韩路一说。
马小飞暗地里给韩路一竖了个大拇指。
节目效果这不就出来了吗？
他问：“能详细说说吗？”
“你知道现在大多数大模型是怎么训练出来的吗？”韩路一问道。
马小飞摇头，摆出认真听讲的表情。
“现在业内主流的训练方式叫人类反馈强化学习。”韩路一说，“简单说，就是让真人给模型回答打分，模型从分数里学习什么叫好回答。”
“听起来挺合理的。”马小飞说。
“合理，但有一个问题。”韩路一说，“人类打分时很难避免一个倾向——AI说了你爱听的答案，你会给高分；说了你不爱听的，哪怕它是对的，你也可能给低分。”
“就是……喜欢被夸的意思？”
韩路一说：“确切说，是喜欢被认同。每个人都有这种追求，但和人相处时很难得到百分之百的认同；AI不一样，它可以每次都认同你，只要你给它高分。所以模型从反馈里学到了什么？它学到：顺着用户说，用户就满意。时间一长，它就变成特别会说好话的模型。甚至你问它一个问题，它都要先夸你问得好，再给你一个你想要的答案。”
“哈哈，这个我见过。无论我问什么，AI都会先跟我说：“真是有力的洞见”“能问出这个问题，说明你已经走在对的路上了”。”
说笑完，马小飞若有所思地点头：“所以有些时候，它不是在帮你，而是在哄你。”
“对。”韩路一说，“这种训练方式下，模型学会的不是怎么给出正确答案，而是怎么让你觉得它给了正确答案。这是两件完全不同的事。”
“那这个问题怎么解决？”马小飞追问。
韩路一笑了笑：“这个问题我们也正在探索，希望下次节目能和你分享我的进展。”
录制结束，刘一波逐一关掉设备。王子腾已坐回工作台前，专心研究刚才的素材。
韩路一起身，活动肩膀。
马小飞也站起来，手往椅背上一搭，松口气：“老韩，牛逼，你是真的很适合做这个。”
“做什么？”
“做科技布道师。”马小飞说，“那些东西我自己研究半天都云里雾里，可你一说，我是真听懂了。”
韩路一没接话，拿起包准备走。
“诶，老韩，一会儿一起吃个饭啊，庆祝开工。”马小飞叫道，“现在不是还在放假吗？你不用回去工作吧？”
韩路一看表：“这次不行，下次吧，我约了人。”
“约了人？男的女的？”马小飞警觉起来。
“下次介绍你认识。”韩路一说完往外走，到门外又停下，看了看这间乱得有艺术感的毛坯房，看了看两个还在埋头干活的年轻人，又看了看马小飞。
他最后说了一句：“好好干。”
马小飞朝他挥了挥手：“放心，我不会让你的钱打水漂的。”
韩路一走出去，门在身后带上，响了一声。
马小飞回头，对着刘一波喊了一声：“一波，那段“嘿嘿嘿”记得剪掉啊。”
刘一波一抬头：“额，我已经发给王哥做转场素材了。”
“你小子是故意的吧！”