Fluent AI HK
← 返回文章列表

AI agent 記得你,就是學會了?分清對話、記憶、規則與微調

AI 記得你的偏好,不代表模型經過重新訓練,更不代表它取得網站或付款權限。以 Google ADK 文件為例,理解四種不同機制,再用職場示範和簡短練習判斷工具實際做到甚麼。

Google 的 Agent Development Kit(ADK)是供開發者建立 AI agent 的工具框架。AI agent 可理解為能配合工具處理任務的 AI 系統;ADK 提供管理對話、檢索過往資料及控制工具操作的方法。它不是一個開啟後便自動學會所有事情的聊天產品。

當工具聲稱「愈用愈了解你」,背後可能是保存偏好、讀取舊資料,或改了工作指示,不一定涉及訓練模型。先分清以下四件事,才知道應期待甚麼。

一、本次對話:知道你剛才說過甚麼

你先說「請用繁體中文」,再要求整理一段文字,AI 可以利用同一段對話的內容回應。在 ADK 的 Session 說明中,一個 Session 代表一條對話,包含訊息、工具操作紀錄,以及該次互動的暫存資料。

這解釋了「在這次聊天記得」,卻不能證明開啟新對話後仍會記得,更不能證明模型已被重新訓練。

二、長期記憶:到資料庫找回相關資訊

ADK 的 MemoryService 文件把記憶比喻為可搜尋的資料庫:系統將對話資料加入記憶,再按需要找回相關片段。例如,下次整理文件時,取回你偏好「先摘要、後細節」的紀錄。

必要條件是系統有保存及檢索安排。「長期記憶」也不保證永久保存:ADK 的 InMemoryMemoryService 在程式重新啟動後便會失去資料;其他方案才提供持續儲存。這是框架內不同實作的差異,不能套用到所有 AI 產品。

三、規則與流程:改變做事方法

「先列出欠缺資料,再提出建議」是工作指示;「整理資料後交人核對」是流程設計。兩者都可以改變系統表現,而不涉及模型微調。

ADK 安全文件分開討論模型指示、工具內的限制,以及操作前後的檢查。重點是:叫 AI「不要付款」是一項指示;讓工具根本沒有付款權限,則是另一層控制,不能互相代替。

四、模型微調:透過訓練調整模型

微調是以訓練資料調整模型的可訓練參數,即影響它如何產生回答的數值設定,不是單純把偏好存成一條紀錄。

Google 一份已標示棄用的 Gemma LoRA 教學可用來理解這個分別:LoRA 保持原有權重不變,加入較少量、可訓練的新權重。因此,微調不一定更新全部原有參數。這裏只引用其機制說明,不沿用舊教學的安裝步驟或帳戶要求。

比較本次對話、可檢索記憶、規則流程及模型微調,避免把保存偏好說成重新訓練。
圖一|對話、記憶、規則與微調是不同機制;要看實際產品及系統設定。

記得需求,不等於有權執行

AI 知道你想買甚麼,與它能否登入網站、提交訂單或付款,是不同問題。ADK 的授權說明指出,工具使用的身分必須獲外部系統授權;若只獲唯讀權限,即使模型決定寫入,工具仍不能執行。

以下圖解是我們建議的控制設計:先讀資料、提出建議,由人決定,再按授權執行及核對結果。它不是所有 agent 的預設行為,也不是產品介面截圖。

商品追蹤示例:讀資料、提出建議、人作決定、按授權執行及核對;記憶不等於購買權限。
圖二|建議的控制流程。閱讀資料、產生建議與實際操作應分開判斷;這不是任何產品介面截圖。

職場示範:整理活動物資需求

行政同事準備活動物資,可把系統設計成三項用途,以下不是實測結果:

  • 沿用閱讀偏好:記錄「先列摘要」,下次產生相同結構;需要跨對話保存及檢索設定。
  • 找回過往規格:從獲准讀取的活動紀錄找出物資尺寸,並附上紀錄出處;需要可存取的資料及檢索工具。
  • 整理申請草稿:按「缺資料先詢問」的規則,列出數量、用途及待確認項目;不因此取得提交申請或購買權限。

即使成功取回紀錄,也要確認是否仍適用。上次活動的規格,不一定適合今次;記憶是參考資料,不是自動成立的正確答案。

十分鐘練習:測試它究竟記得甚麼

選一個你已有權使用、並提供相關功能說明的工具,只用虛構資料。先告訴它「示範項目偏好三點摘要」,在同一對話要求整理文字;再開新對話,觀察它是否仍採用該格式。若產品容許查看或修改記憶,再更改偏好後重試。

記下四個問題:它用了哪項資料?資料從哪裏來?修改後有否更新?沒有相關資料時,會承認不知道,還是自行補上?

一次答對不能證明已微調;一次忘記,也未必代表沒有記憶功能,可能是未保存或未檢索成功。官方文件說框架「支援」,亦不等於某款產品已啟用。

學會分開「知道甚麼、怎樣做、獲准做甚麼」,比只問 AI 是否會自我學習更有用。想繼續建立判斷工具與核實結果的基礎,可從 Fluent AI HK 的免費十二章 AI 課程開始。

一起討論

社群

登入後分享你的做法或問題;留言經審核後公開。

登入後留言