現在，人們談論「人在迴圈中」（human in the loop）。但 AI 迴圈中的人就像倉鼠滾輪裡的倉鼠。也許感覺運動得很棒，但根本沒有在掌舵。我們需要將 AI 納入人本迴圈（AI in the loop of humanity）。
這具體意味著什麼？這意味著我們共同掌握方向盤。我們利用 AI 作為輔助式智慧，幫助尋找交集，將衝突轉化——不是像火山爆發那樣的能量，而是將岩漿轉化為地熱能。為了實現強大的共同創造，我們可以將關係健全度最大化。一旦我們共同實現了這一點，我們就能攜手共創無限未來。
這就是我們在臺灣具體所做的。在臺灣，我們深知壓力。壓力造就鑽石。根據 V-Dem 的數據，過去 12 年來，我們一直是全球極化攻擊的頭號目標。但我們適應了。我們學會用「利社會架構」取代反社會的媒體動態。我們知道，「引用嘲諷」或「酸」（dunk）是極化的根源。因此，我們建立的系統讓人無法酸任何人。相反地，我們只讓那些並非極端、而是在左右兩派之間搭橋的言論廣為流傳。這就是我們所說的「罕見共識」（uncommon ground），這是臺灣模式的核心。
十年前，當共享乘車服務 Uber 進入臺灣時，引發了社會各界的激烈衝突。但我們使用了 Polis 這個橋接系統，來描繪人們實際達成共識的地方，就像一張團體自拍。僅僅三週，我們就將衝突轉化為每個人都能接受的政策選項。不是左翼，不是右翼，而是「上翼共識」（up-wing consensus）。如今，這種演算法已在全球範圍內被廣泛用作「社群備註」（Community Notes）。
去年，當我們面臨來自網路深偽詐騙的新威脅時，許多人看到了臺裔 NVIDIA 執行長黃仁勳的臉。如果你點擊進去，黃仁勳會想送你免費的加密貨幣或提供一些投資建議。當然，那不是黃仁勳本人，那是運行在 NVIDIA GPU 上的他的深偽影像。
然而，如果你單獨詢問臺灣民眾，他們都會說：「喔，政府應該遠離網路審查」，畢竟，正如我們的總統蔡博士所言，在網路自由方面，我們是全亞洲最自由的。那麼該怎麼辦？
我們向全臺灣的隨機號碼發送了 20 萬封簡訊，邀請召開公民大會來審議這個議題。最終隨機選出了 447 人，他們的背景組成與臺灣人口結構相同，以十人為一組，由 AI 協助主持。我們告訴這 45 個會議室：「你們必須提出一個能與視訊會議室中其他九個人產生共鳴的想法，才能被納入考量。」
一個會議室說：「讓我們顯著標示所有廣告，直到有人以數位方式簽署負責。」另一個會議室說：「如果有人因未簽署的投資詐騙損失了 700 萬，讓我們讓平臺（例如 Facebook）承擔全部責任。」也就是說，如果 Facebook 刊登了未簽署的廣告，它就必須支付這 700 萬元的損失。非常好的主意。另一個會議室說：「TikTok 當時在臺灣沒有辦公室。如果他們無視我們的規定，每無視一天，我們就把他們影片的連線速度降低 1%，但不是審查他們。」
基本上，這些想法在當天結束時由小型語言模型彙整起來，然後大家進行投票。這 447 人中，不分背景，超過 85% 的人表示同意。另外 15% 的人也能接受，認為這相當具有正當性。那是去年三月的事，到了五月，我們通過了《電子簽章法》的修正案。七月，我們通過了《詐防專法》。今年，這些深偽詐騙已經不復存在了。詐騙廣告下降了 90% 以上。
柏林建立了橋樑，歐洲推動了互通性和可攜性——這也是橋樑。這種精神如今已使你能夠帶著你的資料、你的社交關係圖退出即時通訊應用程式，就像你更換電信業者時可以保留電話號碼一樣。這就是「自由架構」。
因此，我們必須抵制數位殖民主義，以捍衛線上的行動自由，就像臺灣十年前抵制 Uber、去年抵制深偽廣告一樣。政策正在迅速跟上。現在我們明白，網路平臺也是公共場所。歐盟的《資料法》賦予我們資料可攜性，《數位市場法》則帶來了互通性。現在讓我們擴展這種精神。
我們需要自由的協定，保障行動、結社、審議和安全。將它們視為公共的道路、橋樑和公園，而不是私人的圍牆花園。因為當退出成為可能時，平臺就必須在「關懷」（care）上競爭，而不是在「攫取」（capture）上競爭。
在接下來的專題討論中，我們將討論全民數位韌性，但可以說，獨裁者的劇本是全球性的。我們剛才聽到的間諜軟體、五毛農場、跨國鎮壓——我們的應對措施不能只是在傷害發生後進行本地下架，我們必須進行「預先澄清」，我們必須從設計上確保架構安全。
我們需要「選擇性揭露」，只驗證我們憑證中相關的部分，例如「我已滿 18 歲」或「我是柏林人」，而無需透露我們的完整身份，拒絕起底。
我們需要「邊緣 AI」，在我們的設備上運行的智慧防禦者，在無需監控、無需回傳資料的情況下保護我們的社群。
我們需要「自帶政策」，我們當地的安全規則和審議規範需要伴隨我們跨越網路，這種方法對於反制跨國鎮壓至關重要。我們可以使用 AI 來檢測騷擾，但我們必須讓每個社群自行決定行為準則並做出最終判斷。「沒有我們的參與，就沒有關於我們的決定」，必須是我們自由架構的原則。
建立更強大的民主絕非易事。我們需要將這個過程視為在公民健身房中鍛鍊，並建立一個關懷迴圈。
在牛津，我正在開發「關懷六力」（6-Pack of Care），包含六個基本動作：傾聽民意，信守承諾。讓人們投入過程，共同驗證結果。盡可能實現雙贏，並盡可能在地化。
我們可以用這種方式訓練 AI 智慧體，超越僅僅追求分數最大化或遵守單薄的規則，這稱為「關係式對齊」，我們與關懷的過程對齊。
因為如果我們將民主和政策辯論委託給聊天機器人，那就像派我們的機器人去健身房為我們舉重一樣。我確信它們的表現會令人印象深刻，可以舉起很重的重量，但我們的公民肌力將會萎縮。
我們需要的超級智慧不是機器，而是我們以關懷進行協調的能力。
我們全民，就是超級智慧。
看見「萬物聯網」，我們將智慧聯網。
看見「機器學習」，我們將協力學習。
看見「虛擬實境」，我們將實境共享。
看見「用戶體驗」，我們將體驗人際。
聽說「奇點即將接近」—— 多元宇宙，已經來臨。
謝謝大家。
以非暴力的方式。
請繼續。您也可以說「they」。我的代名詞字面上就是「 無所謂 」。
隨時都可以。
太棒了——我完全同意每一點。所以，沒什麼好辯論的！我來補充一個臺灣特有的細微差別。
技術威權主義之所以能滲透，一個原因是那些提出替代方案的人是深度分裂的——因為我們生活在一個高 PPM 的環境中。不是二氧化碳的百萬分濃度（PPM）（儘管那也很重要），而是每分鐘的極化程度（Polarization Per Minute）。「透過激怒換取參與」驅動著注意力經濟。反對威權主義的各派系往往四分五裂，並且視彼此為敵人的程度，超過了他們對威權主義者的抗爭。
在臺灣，我們一直在將民主升級為一種技術，以穿越這種高 PPM 環境，方法是建立 「利社會」媒體，而非「反社會」媒體。反社會媒體是廣播：擴音器放大了極端的聲音。利社會媒體是廣泛傾聽：病毒式擴音器提升了「罕見共識」——那些能在原本會意見不合的人們之間引起共鳴的想法。
舉個簡單的例子。去年三月，我滑 Facebook 和 YouTube 時，看到了以 NVIDIA 的台裔美籍執行長黃仁勳為主角的廣告，影片中的他要「回饋」臺灣，提供投資建議和免費的加密貨幣。如果我點進去，「黃仁勳」就會用他的聲音跟我說話——這是一個在 NVIDIA GPU 上運行的深偽複製品。許多人因此損失了數百萬。但如果你單獨去問民眾，他們會說：「不要監管內容；讓政府少管。」臺灣在網路自由方面領先亞洲；人們重視網路中立性。
在個人層面上，沒有一套連貫的想法來反擊。因此，我們在全臺灣隨機發送了 20 萬封簡訊：「我們應該一起做些什麼？」人們分享了想法；數千人自願參加線上市民大會。我們隨機選出了 447 位在人口統計上具代表性的人。在一個下午的時間裡，他們在 45 個線上的 10 人視訊室中討論，集思廣益該怎麼做。我們一開始就說：只有在一個討論室內達到「罕見共識」的想法，才能傳播出去。
極端的觀點無法說服其他九個人；而細緻、可行的想法則可以。其中一間房提議：預設將 所有 社群媒體廣告標記為「可能是詐騙」——只有在廣告商使用 KYC（認識你的客戶）、數位簽章和個人身份憑證進行數位簽署後，才能移除該標籤。好主意。
另一間房提議：如果有人因為平台主動推送到他們動態上的未簽署投資廣告而損失了 700 萬美元，不應只對平台罰款——應使其承擔全部 700 萬美元的賠償責任，因為用戶並沒有訂閱那個發布者。
另一間房提議：TikTok 在臺灣沒有辦公室，所以它可以忽視責任規則。雖然不要封禁，但是要調節觸及率，每忽視我們規則一天，就將他們的影片傳輸速度降低 1%。廣告收入將會流向競爭者。
這些想法贏得了掌聲，因為它們是令人驚訝的「罕見共識」。這 400 多名參與者確實感受到了新共識浮現時的能量。然後我們使用不會產生幻覺的語言模型，將 45 個討論室的見解編織成連貫的方案——這項工作若由引導團隊來做，需要好幾天。接著每個人都進行投票。超過 85% 的人同意這個方案；其餘的人也可以接受，並認為這個過程是正當的。
那是三月。四月我們與大型科技公司舉行了多方利害關係人諮詢——「這是否違反了物理定律？」沒有。「這是否可以實施？」可以——只是很昂貴。五月我們修正了《電子簽章法》；七月通過了《詐防條例》。今年，如果你在臺灣滑 Facebook 或 YouTube，幾乎完全看不到深偽廣告了。我們因 Facebook 違規對其處以將近 2000 萬新台幣的罰款。從廣泛傾聽到立法，只花了兩個月，你們也可以做到。即使你沒有收到簡訊，你的朋友和家人可能收到了——所以他們的想法也納入了「罕見共識」之中。
當我們在布魯塞爾腦力激盪 EuroStack 時，我喜歡透過 Francesca 提到的 互通性 來建構它的想法。
在美國有先例：布希總統任內，電信商之間的號碼可攜性。電信公司起初反對，因為這意味著你可以更換電信商並保留你的號碼——而你舊的電信商不能保留你的通訊錄。那是超越企業圍牆的移動自由。
這不是美國、歐洲或臺灣的專利——這是關於基本自由：移動、結社、表達的自由。用數位方式表達這些自由是強大的。在猶他州，《數位選擇法案》將於明年七月生效。如果你是猶他州居民，你可以從 X 平台切換到 Bluesky 或其他開放平台，並保持互通性——帶走你的社群。新的按讚和追蹤會介接到你的新網路。
這改變了誘因。平台將不得不在 關懷的品質 上競爭。今天，平台困住了我們——人類被困在平台 AI 的迴圈中——就像倉鼠在滾輪上。滾輪轉得更快；多巴胺在流動；但你無法 轉向 。滾輪是固定的，它是一個圍牆花園。
如果我們將科技置於 社會的迴圈 中，社會就可以要求更小、更「利社會」的替代方案。然後，小的替代方案才能真正競爭——因為人們可以一個接一個地移動。大型科技公司將不得不創新——建立在尊重明確偏好而非顛覆它們的開源推薦引擎之上。他們將不得不採用「利社會」的系統，否則人們將自由地離開。一個去中心化、可互通的 EuroStack，比建立垂直的「歐洲冠軍」技術堆疊更強大。
對我來說，《多元宇宙》就像一個地熱引擎，將衝突的火山熱能——那種高 PPM 的極化——轉化為共同創造的能量。我們不迴避衝突：我們將其轉化為共享的成果，跨越分歧的社群——比方說，「氣候正義」倡議者和實踐「關懷受造界（creation care）」的虔信者——可以看到他們談論的是同一件事，並在具體的政策上達成一致。
「多元」是 Francesca 所描述的 「人民主權」的先決條件。人民主權不是在孤立中對個人進行民意調查；它是連結社群而不摧毀它們——幫助我們內在被多個社群拉扯的部分，透過跨越差異的合作而凝聚起來。
只有一個嗎？來個簡單的：擺脫我稱之為「Max OS」（不是 macOS）的東西——功利主義的最大化作業系統。許多 AI 政策和訓練的目標是 最大化 某個指標——參與度、注意力、GDP。被訓練來最大化的系統，總會找到方法達成數字，同時卻造成大規模損害。
我們不需要那個。我們可以從 關懷倫理 （ethics of care）來訓練 AI，這種倫理關心 小型社群 的關係健康。在我們 45 個 10 人的房間裡，一個 數百萬參數 ——而非數十億——的本地智慧體（local agent），就可以深度理解對話，並幫助彌合分歧。
