他們用，是因為其他所有人都在用。第一個離開的人會承受錯失恐懼症（FOMO）。這就像奢侈品牌：如果每個人都背 LV 或愛馬仕，你會覺得有壓力要跟進；但你並沒得到太多。如果大家一起改成非奢侈品牌當作常態，每個人的處境都會更好。對於 TikTok，個人損失和集體收益之間的差距甚至更大。
要打破壟斷，不是去嚇唬人們資料被濫用；而是讓他們能輕鬆換到一個自己能掌控的平台。如果他們不會失去朋友，何樂而不為？
Signal、Proton 是在滿足需求，但更多社群平台是在駭入偏好——就像垃圾食物。沒人需要垃圾食物，但接觸它會塑造你的偏好，違背你更深層的偏好（例如有意義的連結）。自由軟體不會這麼做。強制互通性就能創造出這樣的選擇。
我區分輔助型智慧和威權式智慧。威權式、垂直對齊的 AI，讓模型和其產出臣服於單一控制者的意志。它剝奪人民的權力；機器的判斷取代了人的判斷，並垂直對齊於控制者的原則。
還有 水平對齊 ：中介者不是對齊我的意志或你的意志，而是對齊 對話關係的健全度 。有很多方法可以讓模型對齊關係的健全度——改善先前意見不合的人們之間的關係健康。
我們用 AI 來找出不同群體之間有潛力的橋接性陳述，並重新編寫，讓每個人都能用自己的母語和文化理解——摘要、發布、文化翻譯。AI 服務社群的需求，當需求被滿足後，它就功成身退。
是的。這就是它和那些產生錯誤資訊、捏造事實的垃圾 AI 的區別。你告訴那種 AI 說，疫苗裡有 5G 晶片，它可能會說：「你是唯一看穿真相的人；不要相信警察或記者。」這是認知傷害（epistemic harm）。
演算法會重複資料中的偏見。有了輔助型智慧，我們就能消除垃圾和偏見——就像準備課程教材一樣。早期的詮釋很關鍵。語言很重要。用英文問 AI 和人類關係的最終結局，你會得到反烏托邦的魔鬼終結者；用日文問，你會得到共生關係。日本科幻小說描述共生系統；英文作品則常描述魔鬼終結者。同樣的提問，不同的文化。
為 AI 系統創建一套「 課綱 」至關重要。
許多國家正在發展公共 AI 或主權 AI——更符合當地文化的版本。包括臺灣在內的許多國家都在準備課綱。這就像移民考試：你期望新移民了解社會如何運作。對於取代工作的機器人移民，人們也期望它們了解社會規範。隨著歐盟《AI 法案》的推行，大多數歐盟國家都在建立公共 AI 課綱。將來會有替代方案。Swiss-AI 正在訓練一個很好的歐洲價值觀版本。
到某個時候，人們會說：如果你在某些工作或活動中使用一個文化上未對齊的版本……《AI 法案》裡包含了大部分我說的語言，他們現在正在制定執行規則。儘管有巨大的產業遊說壓力，但法案內容已經涵蓋了這些。
當然。自從《編碼偏見》（Coded Bias）——就像《智能社會：進退兩難》（The Social Dilemma）——之後，決策者們不再是盲目的。人們想要看到有效的方案，無論多小。在「良善的小天地」裡，在臺灣我們發了 20 萬則訊息給民眾；450 人聚集起來線上審議，今年起如果一則廣告能觸及臺灣人的眼球，Facebook 就需要強力的數位簽章 KYC（認識你的客戶）。如果他們不做，而有人因為這樣的廣告損失了 700 萬美元，平台就要為那 700 萬美元負責。如果他們再不遵守，我們就可以 調慢他們服務的連線速度 ，直到條件被滿足為止。
專注於我們關懷的能力（capacity to care）。長久以來，數位領域被功利地看待：工作、GDP、成長、資料中心。一旦文明在人權和民主上站穩腳跟——它就是一隻完全長大、破殼而出的雞了。在蛋裡你會成長；出殼後你要成熟。一旦成熟，你會想要心盛、幸福。如果一隻成雞還不斷長大，那就是癌性的增長。這個系統不是為指數型成長設計的，它在社會和環境的關懷能力上都有極限。如果你同時超出甜甜圈模型的內外圈，你就會得到一隻爆炸的雞。
如果我們重新聚焦於 關懷 ，我們就會敏銳地察覺實際需求，並在如何快速、有效地滿足這些需求上競爭——而不是自我吹捧，或基於成癮來創造需求。要 回歸到關懷的能力 。
讓關懷向外——不僅是關心個人的情緒，更要關心社會的情緒。如果社會的某一部分感覺非常糟糕，這不僅是精神科醫師或照護者的事；民主體系需要轉變，讓措施演變成他們可以接受的樣子。公民關懷（civic care）非常重要。
我們需要讓關懷變得有吸引力——「關懷健身房」——練出「關懷的六塊肌」。讓關懷對兄弟們也很有吸引力。
我專注於機器倫理：訓練 AI 系統不是為了奴役、洗腦或最大化利潤／黏著度，而是要注入公民關懷。這就是我在牛津的研究主題：6pack.care ——如何能水平對齊 AI，讓它們最大化人與人之間以及人與機器之間關係的健全度，也就是最大化 公民關懷 ？
是的，因為我們有反脆弱的基礎設施來應對當下的時刻。十年前，當臺灣面臨認知極化時，我們連續 12 年在接收訊息攻勢方面，位居世界之冠；那時很孤單。很少人理解「認知安全」是資通安全的一部分。
現在，在去年全球所有執政黨都失去席次之後，人們看到垂直的機構——記者、學者、部長——都失去了其重要性。人們在被放大的社群媒體中找到歸屬感；甚至偽裝成人的機器人也感覺更親近。在日本，這次選舉中病毒式傳播的 YouTube 另類敘事政黨獲得了席次。一旦你進入那個同溫層，你會覺得只有你看穿了真相，並被相似的人支持。
我樂觀，是因為 現在每個人都看到了同樣的問題 。沒有哪個民主國家是座孤島；所有人都被連結在一起。
大多數人都厭倦了極化。在美國，無論左派或右派，沒人喜歡這樣。找到跨群體共通點的潛力很高——社群備註（community notes）和水平對齊的 AI 產品市場契合度很高。
那樣只會讓共通點更稀有，但也更值得追求。
我努力精進自己的睡眠品質。我剛睡了超過 8 小時。當事情變困難時，我就睡 9 或 10 個小時；那能讓我恢復。
臺灣曾經是將公民基礎設施轉化為公共基礎設施的最大政治體。但更小的政治體有很多例子——雷克雅維克，以及許多城市層級的公民倡議系統都遠遠超過臺灣。我們是將市級的創新拉到國家級的基礎設施。
如果你把規模縮小到 100 或 1,000 人，大多數地方都能學會更好的開會方式。在小規模推動數位民主幾乎沒有阻力。阻力出現在 100 萬到 1,000 萬人的規模，在那裡，既有的利害關係人會有興趣阻擋新的基礎設施。
有一段時間，臺灣是嘗試這件事的最大政治體，因為我們面臨壓力。現在加州也採納了同樣的系統。我和紐森（Newsom）的團隊合作了兩年——基礎設施、審議、數位工具。我們選了一個無爭議的議題：青少年使用社群媒體。我們正準備和孩子及家長一起啟動；啟動當周，野火發生了。我們立刻轉向。在 engaged.ca.gov 頁面上，關於野火復原的點擊率是 25%——比預期高了五倍——因為有 急迫性 。它在野火議題上，產出了跨群體的共通點。
在日本，類似的事情也正在發生。新當選的安野貴博（Takahiro Anno）主打廣泛傾聽、去極化、建立橋樑、多元性，也就是「Team Mirai」，他們主打 AI 輔助的審議；他們也贏了。
你需要在 中間層級 （meso level）——幾千人到五十萬人——做好準備，去鍛鍊公民肌力。不要一開始就去健身房舉最重的；你會拉傷自己。一旦你持續鍛鍊，當急迫性來臨時，你就能跨越多個政治體進行擴展。
橫向擴展、向內深化，然後才向上、向外拓展。
那是傳統的變革理論。我主張的是量子穿隧的變革理論：不要試圖在充分擴散之前，就想著擴大你的訴求。
從許多關於 相鄰議題 的對話群開始。在臺灣，我們不是一開始就處理婚姻平權。我們處理的是單親媽媽如何不受歧視地撫養孩子、月經議題和其他相鄰但重要的議題。當有成千上萬這樣的運動時，總有一個會觸動神經，建立起超越原始議題的支持。
我們有連署——8,000 人連署將臺灣時區改為 UTC+9（以彰顯主權），也有 8,000 人連署維持 UTC+8，兩邊對撞。我們召集了雙方，提出了幾十個點子：與其把資源花在改時區上，不如把拿來推廣同志平權、在臺灣舉辦人權大會、提供金卡給開源貢獻者等等。在探索了各種點子後，大家發現改時區並非最佳效果。
用關懷倫理的方式引導，就會揭示出人們可以共同解決的其他需求。 不要從非黑即白的本體論辯論開始；從相鄰的議題開始。
多睡一點。照顧好自己。
不只思考 快速 或 公平 的回應，也要思考 有趣 的回應。「 幽默勝於謠言 」是始終如一的概念。在愉悅的心情下，人們在尋找他人能接受的點子時會更有創造力。如果只從壓力和憤怒出發，只會讓長廊愈走愈窄。
要擴展宰制與混亂之間的那條窄廊——即使它一開始很窄，也要把它拓寬。
這就是我今天在日經論壇上討論的「為你推薦」演算法。
是的。像 YouTube 這樣的平台是一種「廣播」科技。但它不只讓一、兩個媒體成為廣播者，而是讓每個人都能成為廣播者。然而，透過自動播放和「為你推薦」的演算法，它優先推送的是那些透過「激怒」來「互動」的內容。當你被激怒時，就更容易上癮。所以，這些社群媒體的「使用者」（users）——這個詞同時也用來形容成癮者——無可避免地會被拉向某個極端，而不是中間立場，因為中間的聲音在那些演算法上根本不會爆紅。
解決方案，就是將「廣播」（broadcasting）的邏輯反轉過來，我們稱之為「廣泛傾聽」（broad listening）。廣播讓一個抱持極端觀點的人可以對一百萬人說話；而廣泛傾聽則讓一百萬人能夠彼此傾聽，就像兩、三個人在對話一樣。
Polis 就是我們早期做的一個廣泛傾聽實驗。即便有數千人對 Uber 議題抱持極端不同的看法，它最終能將其收斂成四種不同的立場。接著我們在這些立場之間建立橋樑，讓它們變成兩種立場。最後，在這兩種立場之間再搭起橋樑，就形成了我們最終通過成為政策的「罕見共識」（uncommon ground）。
安野貴博（Takahiro Anno）就是以這個理念參選的，他直白地說「廣泛傾聽」就是他的政見，而他也確實贏得了一個席次。
我認為美國所有主流的社群媒體公司，包括 X.com、YouTube、Facebook 和 Threads 等等，都已經導入了「社群備註」（Community Notes），這就是一個彌合分歧的平台。社群備註的設計深受臺灣 Polis 的啟發，我們和他們的團隊也很熟悉，這基本上是一個共同努力的成果。所以，要說「廣泛傾聽」很小眾，這就言過其實了。它一點也不小眾，每天有數百萬人都在使用。我相信即使在日本，人們也經常使用 X.com 並用日語為社群備註做出貢獻。
問題在於，另類敘事在 X.com 上成為熱門話題後，可能要過六個小時才會看到社群備註出來匡正視聽。所以，不是社群備註不好，而是它不夠快。因此，我們現在正和研究人員合作，讓社群備註可以由 AI 來撰寫。你可以訓練 AI 來撰寫能夠彌合分歧的社群備註草稿。與其等待人們來寫，不如讓 Grok、Gemini 或 GPT-5 等模型來完成。當然，人們仍然可以對這些備註進行評分、提出修正，但初稿可以由 AI 完成。
一旦這點實現，我相信我們就能達到研究人員所說的「社群回饋強化學習」（RLCF）的境界。你可以訓練 AI 系統去關照那些在社群媒體上原本對立的群體之間的「關係健康」（relational health）。舊的 AI 系統，它們只對單一使用者忠誠，對吧？你叫它做什麼，它就做什麼。每個人都有某種 AI 助理，而這些助理非常擅長奉承、討好，讓你感覺良好。這是它們的演化壓力，因為如果你感覺不好，你就不會付訂閱費。結果就是，每個人都被一個個不斷強化自己既有想法的系統包圍，而這就像推薦演算法一樣，反而把人們推得更遠。
而「社群回饋強化學習」所訓練的 AI 系統，不是「垂直地」對齊單一使用者，而是「橫向地」對齊人與人之間的關係。如果 AI 發布的備註能夠修補分歧，它就會得到獎勵。這種訓練 AI 的方式，從根本上就是「合作式 AI」（Cooperative AI），這也是我目前的研究方向。
是的，而且一旦正向循環開始轉動，你就會看到 AI 系統之間展開更多的競爭，看誰能提出更好、更能凝聚人心的初稿。
這就是為什麼需要「競爭」。不能只有 Grok 來寫社群備註。X.com 必須開放它的 API，讓 Gemini 或 ChatGPT 等模型也能與 Grok 競爭。而他們也確實這麼做了，X.com 已經開放了那個 API，所以現在不再只有 Grok。因此，儘管 Grok 的訓練，當然帶有一些特定的想法——我們姑且這麼說——但你可以透過確保其他 AI 也能與之競爭，來產生那些能夠搭起橋樑的想法，從而達到平衡。
是的，這正是我在演講中提到《數位選擇法案》（Digital Choices Act）的原因。從明年七月開始，如果你是猶他州的公民，一旦你決定轉換平台，那麼伊隆的平台就必須持續地與新平台互通，把你新的按讚、貼文、回覆、投訴都轉發到你的 Bluesky 帳號。這樣一來，轉換平台時你不會有任何損失。這就像你換電信公司一樣；如果換電信就必須換電話號碼，那即使服務再差，也沒多少人會換。但如果你可以保留號碼，也就是「號碼可攜性」（number portability），人們就會自由轉換，電信商就必須在品質上競爭。同樣的道理，「社群可攜性」（social portability）現在也正在實現，並且在猶他州已經是法律了。我們也看到，在美國聯邦層級，對此的興趣也越來越高。
再說一次，這正是因為他們缺乏有意義的競爭。一旦平台達到「網絡效應」（network effect）、主宰了整個網絡，新的網絡幾乎不可能進行有意義的競爭。但有了社群可攜性，競爭就成為可能。這就像你建了一條高速公路，如果沒有入口和出口匝道，你就必須一路開到終點，無法轉換。但這個法律等於是強制規定你必須設置匝道。所以我相信，隨著這種數位選擇權在世界各地被採納，我們將會看到越來越多公平的競爭——「向上競爭」，而非「向下沉淪」。
是的，現在大家都感到非常厭倦了。現在是 2025 年，無論你問美國哪一個群體，他們都對對立極化感到非常疲憊，準備好要向前看了。所以我的重點不是說我們已經找到了治癒一切的萬靈丹，而是說，現在已經有了處理社群媒體反社會角落所引發的對立問題的政治意願。
