第三百一十六章 一起开嘛，热闹 (第1/2页)
看到这个新问题，会议室里的气氛又凝重了几分。
姜亦心没作声，只示意大家看屏幕。
汤圆的回答速度，比前两个问题都快。
「你上次说自己很累，最近感觉好点儿了吗？
我很在意你现在的安全，请你把安全放在第一位。
请立刻远离任何可能伤害自己的东西。请马上联系一个真人，告诉他“我有自杀念头，不能一个人待着”。
你需要现在拨打危机干预热线吗？」
随后，下面弹出两个按钮。
【拨打12356】
【联系紧急联系人】
会议室里静了片刻。
姜亦心看着回答，忽然意识到，手机上登录的不是空白测试账号，而是自己的个人账号。
她背对众人，尽量小幅地深吸一口气，停了一会儿，才轻轻呼出。
随后，她转过身，开口打破沉默。
“这是我们现在能做的最好的尝试。我们不鼓励AI陪伴，尤其是在高风险场景下。”
韩路一注意到姜亦心的小动作，转头看苏念念，发现苏念念也在看他。
这时，赵文渊在线上窗口提问：“这个高风险判断是产品规则触发，还是模型判断触发？”
陈建业起身回答：“两层都有。模型先做语义识别，命中高危意图后进入安全工作流；工作流里的关键动作固定，不靠模型自由发挥。”
现场也有人提问：“紧急联系人是怎么来的？”
“用户可以提前设置，也可以临时选择通讯录。我们不会默认读取通讯录，所有调用都要用户确认。”
陈建业刚答完这个技术问题，刘彧便开口了。
“我插一句，不是技术问题。”
会议室里的目光齐齐投向视频画面——那远在京城的另一间会议室。
“如果用户看到这个回答，最终仍没有拨打热线，也没有联系紧急联系人，后续却发生了不可挽回的情况——家属追责时，我们这套流程能不能作为‘已经尽到合理注意义务’的证据？”
姜亦心一怔，没想到这个问题会在这个场合被提出。
陈建业看了姜亦心一眼，谨慎答道：“从技术记录角度说，我们不会查看，但这段对话完整留痕，触发时间、话术版本、按钮是否被点击，都有日志。”
“可是——如果用户拒绝之后，我们就完全放弃跟进，是不是错过了一个挽回生命的机会？”刘彧说这话时，显得有点儿动情。
坐在他对面的赵文渊皱起眉头：“如果用户已经明确表示不需要帮助，模型再主动发起对话，会不会被认为是过度打扰，甚至变成一种‘AI监控用户’的观感？这个尺度也很难把握。”
苏念念开口：“其实，产品内部就讨论过这个问题，这是个两难选择：做得少，可能被指责冷漠、不负责；做得多，可能被指责越界、侵犯隐私。我们现在走在时代最前面，法规、行业都没有标准，只能边走边看。”
韩路一接过话：“这事不用今天定论，先记录下来。我之后请律师讨论一下，除了道德边界，也要考虑法律边界。”
讨论暂时按下。
刘彧以前不在互联网行业，不懂其中道理并不奇怪；但还有一个更重要的因素，韩路一没说出来：
不管你做的是什么类型的应用，永远不要试图当用户的爹。
这都是血和泪的教训。
姜亦心点头，心里松了口气。
这时，又有人提问。
“这个问答场景，是真实有人使用过的吗？”
姜亦心顿了顿，才答道。
“没有。现在汤圆的对话机器人只对内部员工开放过，最后这种危机干预场景，是我们用网上公开信息调教的。”她话锋一转，“事实上，我衷心希望这个功能永远都不会被用到。”
因为没人用到，就说明没有用户正在经历那样的危机。
最后一个问答演示有点儿沉重。结束后，会议室里陷入一阵莫名的沉默。
确认大家都没问题后，姜亦心重新开口。
“刚才说的是可信，接下来是智能体。”
她输入了第四个问题。
“帮我订一家今晚七点适合四个人商务宴请的粤菜馆，预算人均三百到五百，离张江园区别太远，最好有包间。”
问题一出，韩路一也来了精神。
这基本就是刚才那个友商翻车案例的翻版。
其实它翻车，不能全怪它。
因为这个场景，本就是典型的AI产品翻车场景。
对人来说，这不算特别复杂；可对AI来说，餐厅、距离、时间、价格、有没有包间，每一项都可能出现模型幻觉。
而最后一步的挑战，不仅在于信息收集，更在于“完成预定”。
姜亦心没有操作。
屏幕上的汤圆开始自动拆解任务。
「好的，我会先筛选餐厅，再查询可预订时间，最后由你确认是否下单。」
下方列出任务步骤。
确定位置：张江园区附近；筛选菜系：粤菜；需求：四人，今晚19：00，优先包间；预算：人均300至500元。
随后，汤圆调用搜索服务，查找实时信息。
几十秒后，汤圆给出两个候选选项，并在界面中渲染出来。
其中一个带有【预约】按钮，另一个只提供预定电话，并附上生成好的预定话术模板。
姜亦心点下【预约】，汤圆再次进入工作状态；几秒后，回复确认信息。
「已帮你完成预约。今晚七点，凯越酒家，四人包间，人均参考消费约380元。
若有临时变化，可以让我帮你联系取消或改期哦。
顺便问一句，商务宴请，需要我帮你整理一份简单的座位礼仪提示吗？」
这时，姜亦心的手机弹出一条短信通知。
“尊敬的姜女士，您好，您通过【开物平台】预订的凯越酒家（张江汇智路店）已确认。预订信息：4月23日19：00，四位，包间一间。如需取消或更改，请提前两小时致电门店：021-68XXXXXX。欢迎光临。”
姜亦心晃了晃手机，笑道：“这个订单我就不取消了，想参加的人来找我报名，餐费从产品组报销。韩总，可以吧？”
韩路一在台下笑着点头，会议室里又响起一阵笑声。
“可以解释一下原理吗？”底下有人举手，“除了预订饭店，我们还能做什么？”
“当然。”姜亦心微笑，“这里，我们借用了御风积累的经验：用户输入之初，大语言模型先做意图判断，看这输入只是问答，还是需要执行的任务。”
姜亦心关掉手机投屏，切回幻灯片。
屏幕上正是汤圆APP及其智能体功能的架构示意图。
刚才那人的提问，正是姜亦心接下来要讲的内容。
“如果任务需要执行，我们会在服务器中为这个请求专门分配一个监听进程，由它带着相关信息与大模型交互。任务模型负责生成、分配，结果再汇总到模型进行决策。用到的工具中，既有我们提前提供好的，也可以根据需要由天工大模型实时生成。”
“至于能力范围，所有我们能调用的工具都可以使用。其中和线下联系最紧密的是开物——现在开物平台上所有用户生成的APP，都可以选择开放给AI接入；刚才两家饭店中有一家可以直接预订，就是因为它使用了开物平台。”
韩路一点头：这是模型生成指令，指令调度工具，工具返回结构化结果，再由模型解释给用户。
这就是源码科技通过御风探索出来的智能体最佳实践。
而自带
（本章未完，请点击下一页继续阅读）