Fluent AI HK
← 返回文章列表

AI agent 记得你,就是学会了?分清对话、记忆、规则与微调

AI 记得你的偏好,不代表模型经过重新训练,更不代表它取得网站或付款权限。以 Google ADK 文档为例,理解四种不同机制,再用职场示例和简短练习判断工具实际能做到什么。

Google 的 Agent Development Kit(ADK)是供开发者构建 AI agent 的工具框架。AI agent 可以理解为能配合工具处理任务的 AI 系统;ADK 提供管理对话、检索过往资料及控制工具操作的方法。它不是一个开启后便自动学会所有事情的聊天产品。

当工具声称“越用越了解你”,背后可能是保存偏好、读取旧资料,或改变了工作指令,不一定涉及训练模型。先分清以下四件事,才知道应该期待什么。

一、本次对话:知道你刚才说过什么

你先说“请用繁体中文”,再要求整理一段文字,AI 可以利用同一段对话的内容回应。在 ADK 的 Session 说明中,一个 Session 代表一条对话,包含消息、工具操作记录,以及该次互动的临时数据。

这解释了“在这次聊天中记得”,却不能证明开启新对话后仍会记得,更不能证明模型已被重新训练。

二、长期记忆:到数据库找回相关信息

ADK 的 MemoryService 文档把记忆比喻为可搜索的数据库:系统将对话资料加入记忆,再按需要找回相关片段。例如,下次整理文档时,取回你偏好“先摘要、后细节”的记录。

必要条件是系统有保存及检索安排。“长期记忆”也不保证永久保存:ADK 的 InMemoryMemoryService 在程序重新启动后便会丢失数据;其他方案才提供持久存储。这是框架内不同实现方式的差异,不能套用到所有 AI 产品。

三、规则与流程:改变做事方法

“先列出缺少的资料,再提出建议”是工作指令;“整理资料后交给人核对”是流程设计。两者都可以改变系统表现,而不涉及模型微调。

ADK 安全文档分别讨论模型指令、工具内的限制,以及操作前后的检查。重点是:叫 AI“不要付款”是一项指令;让工具根本没有付款权限,则是另一层控制,不能相互替代。

四、模型微调:通过训练调整模型

微调是用训练数据调整模型的可训练参数,即影响它如何生成回答的数值设置,不是单纯把偏好存成一条记录。

Google 一份已标记为弃用的 Gemma LoRA 教程可用来理解这个区别:LoRA 保持原有权重不变,加入较少量、可训练的新权重。因此,微调不一定更新全部原有参数。这里只引用其机制说明,不沿用旧教程的安装步骤或账户要求。

比较本次对话、可检索记忆、规则流程及模型微调,避免把保存偏好说成重新训练。
图一|对话、记忆、规则与微调是不同机制;要看实际产品及系统设置。

记得需求,不等于有权执行

AI 知道你想买什么,与它能否登录网站、提交订单或付款,是不同问题。ADK 的授权说明指出,工具使用的身份必须获得外部系统授权;若只获得只读权限,即使模型决定写入,工具仍不能执行。

以下图解是我们建议的控制设计:先读取资料、提出建议,由人决定,再按授权执行并核对结果。它不是所有 agent 的默认行为,也不是产品界面截图。

商品跟踪示例:读取资料、提出建议、由人决定、按授权执行及核对;记忆不等于购买权限。
图二|建议的控制流程。读取资料、生成建议与实际操作应分开判断;这不是任何产品界面截图。

职场示例:整理活动物资需求

行政同事准备活动物资,可把系统设计成三项用途,以下不是实测结果:

  • 沿用阅读偏好:记录“先列摘要”,下次生成相同结构;需要跨对话保存及检索设置。
  • 找回过往规格:从获准读取的活动记录中找出物资尺寸,并附上记录出处;需要可访问的资料及检索工具。
  • 整理申请草稿:按“缺资料先询问”的规则,列出数量、用途及待确认项目;不因此取得提交申请或购买权限。

即使成功取回记录,也要确认是否仍然适用。上次活动的规格,不一定适合这次;记忆是参考资料,不是自动成立的正确答案。

十分钟练习:测试它究竟记得什么

选一个你已有权使用、并提供相关功能说明的工具,只用虚构资料。先告诉它“示范项目偏好三点摘要”,在同一对话中要求整理文字;再开启新对话,观察它是否仍采用该格式。若产品允许查看或修改记忆,再更改偏好后重试。

记下四个问题:它用了哪项资料?资料从哪里来?修改后有没有更新?没有相关资料时,会承认不知道,还是自行补上?

一次答对不能证明已微调;一次忘记,也未必代表没有记忆功能,可能是未保存或未检索成功。官方文档说框架“支持”,也不等于某款产品已启用。

学会分清“知道什么、怎样做、获准做什么”,比只问 AI 是否会自我学习更有用。想继续建立判断工具与核实结果的基础,可从 Fluent AI HK 的免费十二章 AI 课程开始。

一起讨论

社区

登录后分享你的做法或问题;留言经审核后公开。

登录后留言