第二百八十五章 喵～ (第2/2页)
一讲得清晰到位，姜亦心和苏念念都听懂了。
确实，从这个方向看，问题还是没解决。
姜亦心翻过一页资料：“还有下一个问题。”
屏幕上写着这一节的标题：【长时记忆】。
“现在汤圆很强，但它的工作是响应式的。”姜亦心说，“我问一个问题，它答一个；我追问下一个，它再答下一个。等问题多到超出上下文窗口，整个对话就没法用了，只能开下一个问题，一切从头开始。我们做御风时特意优化过这个问题，做成长助手时又遇到了同样的问题。”
这确实是一线应用开发才会遇到的痛点。
韩路一回头看了看苏念念。她最近做经营管理较多，脱离产品一线有一段时间了。
韩路一怕苏念念听不懂，停下来解释了几句——当然，他是对着姜亦心说的，只让苏总顺便听一下。
“大模型生成时，会把所有上下文放进模型里跑一遍，再得出答案。所以上下文给得越多，占用内存越多；这个量有个极限，就是上下文窗口。”韩路一说，“汤圆现在的上下文窗口是二十万个词元，不算小，日常问答够用，放到工程里就捉襟见肘了。”
“超出上下文窗口后，大模型还能继续工作，但它会默默忘掉用户最开始说的话，给出的答案常常驴唇不对马嘴，用户还不知道哪里出了问题。”
为了说明白，韩路一讲了个网上的段子。
“有人说，和大模型聊天时，可以在最开始加个要求，让它每次回答最后都加一个“喵”。等哪天它突然不带“喵”了，你就知道它已经超出上下文窗口，该换新聊天进程了。”
苏念念确实不知道这些，尤其最后那个段子，她轻轻点了点头。
“所以在汤圆的上下文窗口无限大之前，我们只能让它回答窗口撑得下的内容。”姜亦心总结道。
这总结很到位。
问题分析完，姜亦心终于翻到提案。
AI技能。
“这是什么？”韩路一问。
姜亦心想了想：“可以理解成一种可复用的行动脚本。”
她怕这解释太虚，又换了个说法。
“比如，我想要一个运营复盘技能。模型知道怎么写复盘，但每次都从头思考，像个很聪明却没受过公司培训的新人。AI技能就是把成熟员工的做法沉淀成一套固定动作：什么时候触发、先看哪些数据、怎么判断异常、怎么拉取用户反馈、最后输出什么格式，全都写清楚。”
“类似SOP（Standard Operating Procedure，标准操作步骤）啊。”苏念念说。
乍一看，这个概念和御风很像。
御风也把编程拆解成不同步骤，每一步由大模型规划和判断，再由御风工具在代码库里执行。
但韩路一和苏念念很快意识到，这是同一理念在不同场景下的应用。
AI技能是把一套提示词交给大模型，让它按提示词记录的方式行动，具体行动仍因时而异。
真像把技能做成插件，让大模型即插即用。
在大模型还做不到AGI时，这是通过工程方案突破模型能力限制的技术。
韩路一听了，点头认可。
当然，这只是大方向，真要落地，不知还有多少技术难关要攻克。
但至少这个方向听起来可行。
现在AI行业，模型层在卷，应用层在卷，模型与应用之间的工程层也在卷。
只有一直卷下去，才能卷出一条通往AGI的路。
韩路一拍了下手掌，做最后总结。
“想法不错，是个值得试的方向。这些应用层设计很大程度上依赖汤圆的能力：汤圆越强，应用就越强。”韩路一说，“小姜，你开始写产品说明时，和赵总详细对一下汤圆的能力边界。”
“好的，韩总。”姜亦心应下。
果然，韩总知道该怎么办。
“至于AI技能的开发优先级，让苏总来给你排。”韩路一又给源码科技CEO下了任务——公司方向、资源调配，本就是CEO的工作。
苏念念点头：“小姜，你最近探索的方向越来越多，我得给你多招几个人。记得和沈丛云排面试时间。”
姜亦心吓了一跳。
我也要去面试别人了吗？
她手下的产品经理都是苏念念招进来的，真要去面试别人，姜亦心还没做好准备。
苏念念看出她的不安，安慰道：“没关系，谁都有第一次。我面试你的时候也很紧张呢。”
姜亦心回想了一下：有吗？
我只记得苏总温柔又体贴来着。
姜亦心忽然想起什么：“对了，韩总。”
“怎么了？”
“关于汤圆成长助手，我收集了几个备选产品名，想让您和苏总选一选。”姜亦心说。
“不是说让你定吗？”苏念念笑了笑，“都有什么，说说吧。”
“有“深蓝”这个备选——”
姜亦心刚开口，就被韩路一打断。
“你说叫什么名字？”他有点儿哭笑不得。
““深蓝”啊，怎么了？”姜亦心说。
苏念念也疑惑地看着韩路一，不知他怎么对一个名字反应这么大。
“是那个「以我全部的感悟！以我一生之悟道！以我通天的智慧！以我无敌的资质！」的深蓝吗？”韩路一继续问。
“啊？”姜亦心露出错愕的表情，“不是拿到国际象棋世界冠军的深蓝吗？”
倒是苏念念反应过来了：一定是韩路一的中二病又犯了。
“不是，这名字是谁提的？”韩路一确定姜亦心没听过这个梗，但不相信“深蓝”这个词和加点没关系。
“是小牛和小杨说的。”姜亦心说，“您不喜欢这名字？我也不太喜欢。我还准备了几个其他的，像“悟空”、“可名”、“无涯”——”
“不用！”韩路一说，“就叫深蓝吧。我觉得这名字挺好，反正是内部产品。”
姜亦心狐疑地看他一眼，眼神里的意思很明显：韩总，您真确定吗？
“行了，散会。”韩路一看表，已经五点，“早点儿回家吧，别让我当黑心资本家。”
“那我走了，韩总、苏总，明天见。”姜亦心拿起电脑出了门。
既然答应韩总要早走，今天就回家加班吧。
姜亦心一边往外走一边想。
诶？今天没被考试啊，可喜可贺。
苏念念看着姜亦心出了会议室门，伸手伸了个懒腰：“开了一下午会，闷死了，人都僵了。”
韩路一忍不住瞟了一眼，又赶紧收回目光。
一点儿也不儿童。
苏念念伸完懒腰也站起来：“路一，我也要先回家啦。”
“嗯，路上注意安全。”韩路一说。
苏念念走到门口，忽然回头，脸有点儿红。
韩路一正奇怪，又听她说了一句：
“喵～”
然后她急匆匆开门出去了。
韩路一回到办公室时，感觉心跳还没平复。
喵什么的，也太犯规了吧。
刘彧看了看韩路一的脸色：“韩总，您没事吧？”
“没事啊，怎么了？”韩路一听到这个问题，有点儿心虚地答。
“脸有点儿红。”刘彧仔细打量了一下。
“太热了。”韩路一说，又看刘彧一眼，“下班了，早点儿回家吧。”
刘彧立刻低头：“好的，韩总，明天见。”
秘书的求生欲很强。
韩路一虽催着员工下班，自己却打算加会儿班。
反正回家也没别的事，而且今天早晨刚答应赵文渊和江松然做算子适配，得先练练手。
韩路一本人的技术能力不差，但对显卡硬件优化完全是门外汉，这工作肯定得靠视哥。
至于视界具体能做到什么程度，他心里也没底。
他答应得轻巧，可一个月真能做出来吗？
不好说。那可是上百人团队以年计的工作，得试过才知道。
不过刚才那个会议倒给了韩路一一些启发。
把单个领域内的技能抽象成可复用能力，让大模型调用，这是个好思路。
虽然受大模型能力限制，具体怎么做、能做到什么程度还不好说。
但别忘了，汤圆还只是这个时代的大模型，能力有限。
可我不只有汤圆，还有视界啊。
视界，是时候了，让我看看你的极限在哪里。