前言

深夜的書房（原本是步入式衣帽間）裡，我與生成式AI來回對話。明明是盂蘭盆節假期，卻在不知不覺間熬成睡眠不足，不斷向ChatGPT提問，對回應時而歡呼、時而惱火。有時會驚呼「太厲害了！！」，有時又被離譜的答覆氣得牙癢。

**給不熟悉日本盂蘭盆節的讀者的小提醒：**盂蘭盆節是每年八月中旬舉行的佛教祭典，用來追思與祭祀祖先；許多企業會在這段時間休假或縮短營業，家庭也會返鄉參與追悼儀式。

反覆經歷這些時刻，我愈發清楚地意識到一件事。

——生成式AI致命地缺少某些東西。

那就是「矜持」「信念」「責任感」。 我本就討厭說教式的精神論，對這些字眼也談不上喜歡，但實在找不到更合適的說法。無論怎麼斟酌字句，最終都回到這個結論。 等我回過神，才發現自己似乎摸到了生成式AI無法取代人類的核心理由。

專業人士被期待的特質

我們對專業人士的期待不僅是知識與技能，還包括倫理態度。

比方說，空調安裝技師要在客戶指定的位置鑽孔，如果後面有樑該怎麼辦？

不能因為「客戶這麼要求」就推卸責任。若把樑打斷，即使法律責任未必成立，道義上的責任也跑不掉。客戶期待的不是機械地照做，而是提醒風險、提出更好的方案。

這正是專業人士應有的矜持、信念與責任感。

生成式AI的現況與侷限

生成式AI擅長模仿知識與語言，卻無法主動說出「這違背我的矜持所以拒絕」或「我要為對方的安全負責」。

目前填補這個空缺的是服務提供者訂立的政策。

明文禁止反社會用途、成人內容之類的界線還算明確，但「是否該像專業人士那樣提出更好的建議」這種灰色地帶，它就十分笨拙。

使用者若提供極為詳盡的提示詞，多少能補上這個缺口，但那更像是「完全照著食譜做卻從不試味的廚師」。

因此，只要遇到食譜沒寫的前提或外在擾動，就會端出難以下嚥的菜餚，還能面不改色地端上桌。它不會臨時拼命返工，也不會感到羞愧。

人類仍不可或缺（至少目前如此）

所以，目前必須由人類作為負責任的整合者來駕馭AI。

倫理、法制、開發指南，以及使用者教育，都以前提「AI只是人類的輔助」為基礎。

不過，這終究只是「暫時如此」。未來AI或許能模擬出責任。

全球展開的研究與探索

賦予AI「責任感」的研究已經展開。

  • 描述性倫理學（Delphi）：嘗試讓AI學習善惡，但仍存在一致性與偏差問題。
  • 有意義的人類控制（Meaningful Human Control）：強調讓人類保持最終控制權的設計原則，廣泛討論於自動駕駛與軍事領域。
  • 價值學習（Value Learning）：從人類行為與回饋推定價值觀，以縮小倫理偏差。
  • NIST AI RMF等框架：為了設計負責任的AI而制定的綜合制度。

這些探索仍在萌芽期，卻可能成為未來AI「扮演責任」的基礎。

模擬責任意味著什麼？

此刻值得停下來思考：所謂「模擬責任」究竟意味著什麼？

責任至少可以區分為兩個層面：

  • 結果責任：承擔行為的後果。
  • 回應責任：對他人的疑問與期待給出說明。

AI充其量只能追蹤風險、發出警告，或是提升透明度加以解釋。

換言之，它所能模擬的責任，頂多就是「透明性與自我約束」。

然而，人類的智能與責任感也可能只是大腦生成的模擬產物。

即便如此，我仍感覺現今的AI與那些具備矜持、信念、責任感的人之間存在明顯差距。這差距究竟從何而來？

人類與AI差異的成因

我想這個差距主要來自三個因素。

  1. 身體與社會層面的疼痛 人類一旦失敗就得承受痛楚：經濟損失、社會指責、心理煎熬。這些經驗讓責任成為真實可感的東西。 AI即使能記錄失敗，也無法把它當成「疼痛」回饋給自己。

  2. 跨越時間的一貫性 人類必須背負言行的後果，哪怕多年後仍要承擔。 AI卻可以在下一刻說出完全不同的話，不必持續背負重量。

  3. 價值觀與身分認同 人可以說「這是我的信念，不能退讓」，這與社會文化相連，塑造出自我同一性。 AI沒有身分，可以任意切換立場。

因此，多數時候，人類的責任感會因為疼痛、一貫性與價值觀而顯得厚實。

但同時，也確實存在缺乏責任感的人。

也就是說，這種差異未必是人類與AI的絕對本質不同，而可能在於支撐責任感的社會經驗與歸屬機制是否存在。

「我」與責任

此時我想起笛卡兒的「我思，故我在」。

責任感不是單純遵守規則，而是根植於「我」的內在體驗。

疼痛、後悔、疑慮、不安等內在感受，形塑出「我正在承擔責任」的實感。

換句話說，當下的AI沒有「我」。它雖然有輸入與輸出的過程，卻不會把「疼痛」回饋給自己，沒有羞恥、沒有體面、沒有矜持。因此我們很難承認它有責任感，也容易覺得它像那些沒有擔當的人一樣，理直氣壯地給出失誤的答案。

當然，人類的責任感也可能只是大腦生成的模擬。然而就目前而言，AI對責任感的模擬仍追不上那些可靠的人類。AI所模擬的責任感能否「在社會上運作」，或許這才是問題的核心。

總結與追問

  • 生成式AI欠缺矜持、信念與責任感。
  • 目前只能由人類以負責任的整合者身分來補位。
  • 全球都在探索「模擬責任」的途徑，但在AI擁有「我」之前，與「能幹的人類」之間仍隔著明顯差距。
  • 然而，人類的責任感也許同樣只是模擬。

歸根結底，問題其實很單純。

我們能在AI身上實作「疼痛」嗎？

那或許是「責任感」與「我」的最低門檻。

答案尚未浮現。

只要不放下這個問題，討論人類與AI未來的道路就不會封閉。

當答案終將出現——AI究竟能否成為我們的鄰人，或是那時正好取而代之？