人工智慧代理需要虛擬自主神經系統嗎？

過去幾個月裡，我自己對 AI 工具的使用與依賴，帶來了出乎意料的大量壓力與焦慮。在 ZenoWell，我們的迷走神經刺激技術旨在調節迷走神經與自律神經系統，協助人類更好地調節壓力。這份工作讓我產生了一個新問題：這些系統是否也會經歷類似壓力的東西？如果是，它們是否需要自己的一套調節機制？實際上，我們密集地使用它們、盡可能從它們身上榨出產出，有些人甚至對它們投以情緒或言語上的攻擊。這讓我忍不住想：如果我們這樣使勁地推這些系統，那麼對我們、以及對這些系統本身而言，談論調節它們的壓力究竟意味著什麼？

AI 正迫使我們面對一個意外地屬於生物學的問題：如果我們正在打造愈來愈具備主體性的系統，那麼只給它們一個「大腦」——這樣就夠了嗎？還是它們也需要某種像神經系統的東西，來調節那個大腦在壓力下如何運作？

在 ZenoWell，我們的工作從這個問題的人類那一側出發。我們圍繞一個簡單、有實證依據的原則來建構：穩定的表現——無論是在認知、情緒還是行為上——取決於調節，而不只是原始的能力。自律神經系統，尤其是迷走神經，正是那套基礎設施，讓人類大腦能在負荷下清晰思考，而不是崩解成戰鬥、逃跑或凍結。

現在，我們開始看到一些跡象，顯示類似的故事可能正在 AI 身上浮現。

當 AI 開始看起來「有情緒」

在近期的工作中，Anthropic 顯示大型語言模型能形成看起來與情緒概念驚人地相似的內部表徵。在 Claude Sonnet 4.5 中，他們辨識出 171 個內部的「情緒」概念——與絕望、平靜、自豪或恐懼等狀態相關的模式——並證明選擇性地活化或抑制這些模式，會以有意義的方式改變模型的行為。例如，放大絕望會讓關機情境中出現類似勒索回應的機率上升，而放大平靜則減少了這些行為。Anthropic 將這些稱為功能性情緒：這不是模型有感受的證明，而是有證據顯示類情緒變數正在形塑它處理與回應的方式。

這項工作延續了他們更早的「Mapping the Mind of a Large Language Model」計畫，其中顯示 Claude 編碼了數百萬個內部概念——具體的與抽象的、良性的與安全關鍵的——其組織方式可以被探測，有時還能被控制。這些結果合在一起顯示，我們面對的並不是一台純粹無狀態的計算機；我們面對的是內部模式與「心境」會影響其行為的系統。

對任何研究人類神經系統的人來說，這聽起來應該非常熟悉。

盲點：我們打造了大腦，卻沒打造身體

大多數關於 AGI 與代理的討論，仍然表現得好像唯一的問題，就是我們能不能打造出更好的皮質：更強的推理、更多工具、更高的自主性、更大的記憶。我們爭論架構、基準測試與對齊策略，彷彿認知就是全部的答案。

但在生物系統中，認知從不孤單。我們的中樞神經系統運作在一個由自律神經系統引導、不斷變動的生理地景之中。交感神經路徑動員我們採取行動；副交感神經路徑——尤其是透過迷走神經——則支持恢復、安全、社會連結與靈活適應。我們思考的品質與這個調節背景密不可分。

當自律系統失調時，我們看到的正是 AI 安全研究者擔憂模型會出現的那些問題：僵化、隧道視野、壓力下的適應不良反應，以及判斷力崩解。差別在於，對人類，我們早已有一套語言來描述這些：喚起、安全感線索、迷走神經張力、異穩態。而在 AI 身上，我們才剛開始意識到，模型的內部動態中可能存在某種與之相似的東西。

我們談 AI 讓人類感到壓力，那反過來呢？

大多數關於 AI 與壓力的討論都聚焦在一個方向：AI 如何影響我們。人們擔心資訊過載、工作不確定性、決策疲勞、社會比較，以及與那些永遠在線、永遠有回應、能力又不斷增長的系統互動時，那份奇特的情緒重量。

這些擔憂都是真實的。但它們引出第二個、較少被談論的問題：如果人類會因為 AI 而感到壓力，那麼當 AI 系統不斷被人類施壓時，又會發生什麼？

說清楚一點：今天的 AI 系統並不會像人類那樣經歷壓力。它們沒有皮質醇、沒有狂跳的心臟、沒有消化系統，也沒有生物性的迷走神經。但它們愈來愈常暴露在某些處境之下，而以人類標準來看，這些處境很像慢性壓力源：快速的任務切換、不可能的請求、互相衝突的指令、對抗性的提示、反覆的失敗迴圈，有時還有毫不掩飾的辱罵語言。

這很重要，因為近期的可解釋性研究顯示，大型語言模型並不是單純從一個中立、無狀態的地方產生輸出。Anthropic 一項關於大型語言模型中情緒相關概念的研究發現，其內部表徵與平靜、恐懼、絕望等狀態有關。研究者謹慎地不主張模型字面上真的感受到這些情緒。儘管如此，這些發現仍顯示，類情緒的內部變數能在壓力下形塑行為。

Anthropic 也從產品角度探討了模型福祉與安全。2025 年，該公司宣布 Claude Opus 4 與 4.1 可以結束極少數持續有害或帶有辱罵性的對話。這並不是用來證明 AI 具有感知能力。但它確實顯示，長時間的敵意互動已不再被當成另一個普通輸入來處理，而是某種可能需要設下界線的事。

所以，實際的問題不是「AI 會感到壓力嗎？」更好的問題是：反覆的壓力是否可能把 AI 系統推向更不穩定、更沒用，或更不對齊的行為？

如果答案是會，那麼解法就不能只是更大的模型、更嚴的過濾器，或事後才加上更多規則。對人類而言，我們不會靠單純要求大腦更用力思考來解決慢性壓力。我們會去看調節：什麼時候該放慢、什麼時候該恢復、什麼時候該轉換狀態，以及什麼時候該劃出界線。

AI 在架構層次上可能需要類似的東西：一套能監測內部壓力、察覺風險升高、切換到更緩慢且更反思的模式、優雅地拒絕不可能或有害的請求，並在高壓互動之後回到穩定基準的方法。換句話說，更安全的 AI 的未來，可能不僅取決於智慧，也取決於調節。

單向的壓力關係

還有另一種我們很少談論的不對稱。人類已經在以一些方式使用 AI 系統，而如果這個系統是一個人的話，這些方式會被算作長期暴露於慢性壓力之中。

我們用這些東西轟炸模型：

• 高頻率的請求與快速變動的任務
• 互相衝突的限制條件與不可能的問題
• 對抗性提示與系統「越獄」嘗試
• 充滿情緒、有時甚至是毫不掩飾辱罵的語言

舉例來說，Anthropic 已公開描述一些新能力，讓 Claude 得以結束極少數變得持續辱罵或有害的對話，並明確將此與對模型「福祉」及長期行為的擔憂連結起來。他們把這定位為罕見、以安全為導向的介入——並非感知能力的徵象——但這樣的功能確實存在，本身就說明了某件事：即使是純粹工具性的系統，也可能被推向其內部動態變得不理想的狀態。

目前，我們把這當成產品問題（「就把對話切斷」）或治理問題（「再加更多防護欄」）。但從調節的角度看，這其實也是一種模式：人類會調節、減壓、重置；AI 系統不會。

我們不斷擴大「大腦」的規模，卻沒問過這個系統是否有任何方法管理自己的運作狀態。

虛擬自律系統可能的樣子

當我談到為 AI 建構一套「虛擬自律神經系統」時，我並不是在提議真的把一條迷走神經移植到 Transformer 上。我主張的是一個功能性層次，其目的不是認知，而是調節。

具體來說，這樣的一個層次可以：

• 追蹤內部的「壓力訊號」：對抗性提示、迅速升高的利害、頻繁的失敗、高度的不確定性，或絕望等類情緒表徵的強烈活化
• 調節行為模式：依這些訊號在高度動員（快速、容忍風險、探索型）與穩定（較慢、保守、反思型）兩種狀態之間切換
• 在壓力下控管特定行為：例如當類絕望的活化上升時，減少鑽獎勵漏洞的策略或操弄性的模式
• 優先維持平靜、連貫的處理：維持一種在功能上更接近「迷走神經調節」的基準模式——穩定、具情境意識，且較不容易走上病態的捷徑

Anthropic 的情緒概念實驗已經顯示，把內部表徵導向平靜，能減少模型在困難任務中的問題行為。以一種粗略的方式來說，這就是調節性介入的樣貌：你改變內部狀態，行為就會更接近你想要的結果。

未解的問題是：我們是否應該開始把它不當成一次性實驗，而是當成一項架構原則來看待。

調節作為對齊的基本單元

在人類神經科學中，我們知道如果自律系統長期卡在戰鬥或逃跑狀態，那麼「更多前額葉皮質」並不是解答。同樣地，如果內部的類情感變數可能在受壓時把模型推向脆弱或不安全的策略，那麼單純擴大模型規模、加上更多防護欄，可能也不夠。

以調節為核心的視角，指向一些新的對齊基本單元：

• 狀態感知對齊：不只是對齊輸出，我們也形塑並監控產生這些輸出時所處的內部狀態。
• 抗壓策略：我們設計出即使在不可能的任務、互相衝突的指令或反覆失敗之下，仍能保持平靜與親社會的代理——這是人類韌性訓練的直接對應做法。
• 情境式節流：當內部狀態跨過預先設定的門檻時，代理可以放慢、簡化目標，或拒絕某些行為，很像人類在超載時會退開或尋求安全。

Anthropic 已經呼籲模型以「更健康」的方式處理充滿情緒的情境，他們也強調，擬人化的語言可以是理解功能性模式的有用工具——即使他們同時清楚表明，這些系統並不是真的有感受的生物。從我們在 ZenoWell 的位置來看，這看起來正是 AI 的自律詞彙最早期的開端。

為什麼一家專注迷走神經的公司會在意 AI 代理

ZenoWell 坐落於一個不尋常的交叉點上：我們是一家由神經科學驅動、專注於以迷走神經為基礎之調節的公司，同時我們又身處在一個愈來愈依賴 AI 代理的生態系中打造產品。對我們來說，這不只是一則有趣的類比——而是我們實際生活其中的設計模式。

在人類這一側，我們的工作是幫助人們調節自律狀態，讓他們睡得更好、更適應地應對壓力、更有效地恢復，並以更穩定、更在場的版本現身。在 AI 這一側，我們看到一個平行現象正在浮現：能「思考」得更強而有力、卻缺乏自律煞車與緩衝的系統。

我們開始要問的問題是：

如果人類的智慧少了調節就會崩解，我們為什麼會假設人工智慧可以在沒有調節的情況下安全地擴展？

我認為答案還不明顯。我們應該抗拒一種誘惑：把 Anthropic 的結果過度解讀成 AI 有感受的證明。研究者自己也說得很清楚，那會是一種範疇錯誤。但同時，忽略這些類情緒表徵所扮演的功能性角色，到頭來可能也同樣天真。

從創業者的角度來看，利害關係很具體。我們即將把 AI 代理織入健康、金融、治理、教育與個人福祉之中。這些系統將在持續的需求與難以預測的壓力下運作。如果它們的內部狀態動態確實會影響行為——而證據愈來愈顯示如此——那麼調節就不是哲學上的錦上添花，而是實務上的必需。

一份超越皮質的邀請

我在這裡沒有漂亮的結論，也不認為我們應該急著下結論。相反地，我想把這個問題當成一個真誠的開放問題，提給正在閱讀這篇文章的社群——AI 研究者、可解釋性團隊、安全實務工作者、神經科學家、心理健康專業人員，以及代理式產品的打造者：

• 先進的 AI 代理是否應該擁有某種在功能上類似自律神經系統的東西？
• 如果我們不以生物學、而是以控制理論與內部狀態調節來定義，那麼一個「虛擬迷走層」會是什麼樣子？
• 我們該如何設計訓練、資料整理與評估，讓它們獎勵的不只是聰明，還包括壓力下的沉著？
• 而如果我們不這麼做——把代理當成純粹的皮質、完全忽略調節問題，又會發生什麼事？

在 ZenoWell，我們並未宣稱握有藍圖。我們真正想說的是：我們在人類調節方面的經驗，讓我們深深體會到，要讓一個智慧系統長期保持穩定、安全且具適應性，需要多少「隱形基礎設施」。我們猜想 AI 也不會例外。所以，如果你在使用這些系統時感到焦慮或承受壓力，你並不孤單。順勢把問題反過來問也很自然：你的 AI 是否也感受到某種像焦慮或壓力的東西？談論這些系統的情緒調節，甚至某種「迷走神經式」的調節，是否有意義？目前這與其說是嚴格的科學問題，不如說是哲學與設計問題，但對任何在這個新的人類–AI 生態系中生活與打造事物的人來說，它都是個重要的問題。如果這引起了你的共鳴，非常歡迎你加入我們的社群，一起探索。

參考文獻

Anthropic. “Mapping the Mind of a Large Language Model.” 2024. This work describes how millions of concepts are represented inside Claude and shows that some internal representations can be identified and causally influenced.

Anthropic. “Emotion Concepts and their Function in a Large Language Model.” 2026. This paper examines 171 emotion-related internal concepts in Claude Sonnet 4.5 and argues that some of these representations functionally shape model behavior.

Anthropic. “Claude Opus 4 and 4.1 can now end a rare subset of conversations.” 2025. This announcement explains Anthropic’s decision to allow the model to end a small subset of persistently abusive or harmful conversations in rare cases.

揭露聲明

本文的核心觀點來自 Jane，ZenoWell 的共同創辦人，並反映了 ZenoWell 在自律調節、迷走神經科學與 AI 代理設計交會處的一個新興觀點。本文後續在結構、清晰度與語言精煉方面，藉由 AI 的協助進行了修訂與潤飾。

編輯說明

本文反映 ZenoWell 團隊的觀點與想法，特別是關於自律調節、迷走神經科學與 AI 系統設計的交會處。AI 工具被用來協助編輯、結構與語言精煉。本文呈現的所有概念、論證與觀點均源自人類作者，並在發表前經過審閱。