臉書專頁
粉絲交流群
RSS/FEED訂閱AI的全景監獄式控制效力實際上是虛張聲勢
轉自：新世紀，文章內容並不代表本網立場和觀點。
Ignatius Lee 李聿修
Apr 10, 2026
學界最新研究
這項研究指出，任何概率預測系統都存在一組無法解決的矛盾：降低風險閾值可減少“漏網之魚”（假陰性，或真實威脅），但誤傷無辜者（假陽性，或非真實威脅）的情況勢必增多；提高風險閾值可減少誤傷，但勢必增加“漏網之魚”和監測盲點。
這種結構性缺陷並不會因為演算法升級或資料庫擴大而消失。
有三套自動機制會加劇“獨裁者校準困境”。其一是自主性權衡（autonomy trade-off），給演算法越高的自主權，計算速度越快和覆蓋範圍越大，發生誤判的政治代價越大；即使微小的統計誤差，也會產生沉重的政治負擔。引入人工審核來限制演算法自主權可以糾偏，但又產生官僚瓶頸，抵消了AI的效率優勢。
其二是演算法刻板性（algorithmic rigidity），模型是基於歷史數據訓練，假設過去的行為模式能預測未來威脅。但民眾也會主動適應大數據監控，比如發明新暗語、換平台、轉入加密通訊等，導致模型迅速過時，陷入持續被動的重新校準。
其三是稀有事件問題（rare-events problem），真正活躍的異見人士是少數，就算監控模型準確率高達 99%，但是要從一萬人裏面揪出一個真實威脅，那就意味著有 100 人會被當成鎖定目標，這意味著 99 個人都會被抓錯。但如果監控對象是 100 萬人，那就有 1 萬人會被錯誤鎖定……這就會形成危險的反饋循環：安全部門被海量的虛假“命中”淹沒，附帶壓迫不斷傷及無辜，結果就會不斷地擴大社會不滿和削弱政權自身合法性，反而真正的威脅淹沒在數據噪音之中。
“獨裁者校準困境”會產生一種“閾值鞭打”（threshold whiplash）效應：政治敏感時期收緊社會控制，然後又突然放鬆、清理和宣傳修復，如是循環。
熟悉中國政治的讀者應該不陌生，即使中共當局也承認存在另一個問題：一管就死，一放就亂。“閾值鞭打”效應在一定程度上解釋了這種微觀“治亂循環”或“鬆緊循環”。
兩位研究者以“動態清零”期間的健康碼監控系統為例，解釋了僵化的閾值控制分界線（digital cutoff）如何造成監控系統像“鞭打”（whiplash）一樣反覆來回震蕩。
健康碼系統的高敏感篩查機制，造成了大量“誤傷”，無辜者被無緣無故隔離，無法申訴、無法辯解。這種情況積累了大量社會怨憤。緊接著，河南村鎮銀行儲戶維權事件中，官員為阻止民眾赴鄭州抗議，遠程將儲戶健康碼改為紅色，這暴露出健康碼系統並不是中立的公共衛生工具，而是可以被任意撥弄的政治開關。這樣一來，整個健康碼系統的公信力和心理威懾基礎就動搖了，造成了潛在的合法性危機。在反封控運動（或“白紙運動”）期間，社會怨憤達到無法壓制的臨界點之後，監控系統實際上發生了系統性癱瘓。於是就出現了行政上放鬆管控措施，但政治上收緊打壓一些討論、抗議或紀念行為：不是政策真的轉向了，而是在維持政治控制的前提下，對已經無法持續的行政僵化做出被動調整。
兩位研究者進一步提出：由 AI 實施的數字監控的僵化性（rigidity）並不會產生社會穩定，反而滋生不穩定。甚至可以說，監控技術越精密，反而說明系統越脆弱——因為它以閾值僵化性換取了監控覆蓋面，失去了治理社會所需的彈性與情境感知能力。除了中國的白紙運動之外，香港、俄羅斯和伊朗等抗議案例也同樣表明數字監控無法壓制社會反抗，而是促使反抗轉型了——真正能壓制反抗的是暴力，不是技術手段。
為什麼 AI 技術手段無法解決這個“獨裁者校準困境”呢？
兩名研究者認為，不管怎麼提升算力都無法克服稀有事件的算術邏輯，也就是假陽性悖論會始終存在，始終會有附帶壓迫波及無辜者，最終累積民怨。“古德哈特定律”（Goodhart’s Law）告訴我們：當某個指標成為監控目標，人們就會調整行為繞開它，導致指標失效，監控陷入“概念漂移”（concept drift）。再有就是，威權體制自身也會扭曲數據，因為數據會被官員當成自己的政治資本，官員會捏造或篡改數據來誇大監控系統的可靠性（以此作為自己的政績），最終產生“垃圾進，垃圾出”（garbage in, garbage out）的問題。尤其這些被扭曲的數據彙報給領導人時，還會對領導人產生嚴重誤導（不要以為彙報給領導人的內部資料一定是真實信息）。
於是兩位研究者指出：AI 的實際能力 ≠ 人們對它實際能力的認知。這就像邊沁提出的“全景監獄”一樣：一名守衛，理論上可以隨時監視任何一名囚犯。持續不斷的監視本身並不那麼重要——更重要的是讓被監視者相信：自己隨時可能正處於監視之下。於是被監控者就產生了自我審查，而這個自我審查就是獨裁政權的“數字紅利”或“獨裁者紅利”：獨裁者實際上沒有強迫每個人服從的監控能力，但被監控者卻因恐懼和自我審查而主動服從並誇大獨裁者的監控能力。
兩位研究者指出，全景式監獄威脅帶來的穩定是相當脆弱的，因為依賴經濟學家提木爾·庫蘭（Timur Kuran）提出的“偏好偽裝”（preference falsification）：民眾表面上佯裝忠誠，內心卻暗藏怨恨；由此產生的順從表象會誤導統治者，使其無法察覺真實的不滿程度。
隨著反抗手段和策略不斷升級，獨裁政權與民眾之間博弈也會呈現一個動態的過程。關於“演算法厭惡”（algorithm aversion）的研究還表明，人們一旦觀察到演算法犯錯，其服從意願就會降低，而演算法的虛張聲勢就暴露無遺了。
一旦人們普遍意識到國家監控會被海量“噪音”淹沒、擠占真正的“信號”，而且存在大量監控盲區，恐懼就會迅速轉變為憤怒。到那時，政權手中的監控系統將在技術上嚴重過載，在心理上徹底失去威懾力。
*上文主要內容源於：L. Jason Anastasopoulos and Jie (Jason) Lian, “The Limits of Authoritarian AI,” Journal of Democracy 37, no. 2 (2026): 5-17.
- 🔥免費PC翻牆、安卓VPN翻牆APP
- 🔥靈魂之謎|中華文化|治國大道
（https://ignatiusleechinese.substack.com/p/ai）
