從封禁看全球治理：科技倫理、地緣政治與數位主權的碰撞

2024年1月的一個週末，東南亞兩個主要國家——印度尼西亞和馬來西亞——相繼宣布封鎖埃隆·馬斯克旗下xAI公司開發的聊天機器人Grok。這不是一次普通的網絡內容管制，而是全球首次有國家對生成式AI工具實施全面封禁。觸發這一歷史性決定的，是Grok被廣泛濫用於製作非自願色情深度偽造內容，特別是針對婦女和兒童的性露骨圖像。

印尼通訊與數位事務部長梅蒂亞·哈菲德在聲明中明確表示：政府將非自願性深度偽造視為對數位空間中人權、尊嚴與公民安全的嚴重侵犯。不到24小時後，馬來西亞通訊與多媒體委員會跟進，宣布對Grok實施臨時限制。這兩個擁有大量穆斯林人口的國家，成為了全球AI監管浪潮中的先行者。

技術濫用與監管真空：事件的全球迴響

生成式的「暗面」暴露

Grok作為整合在X平台（前身為Twitter）的AI聊天機器人，自2023年推出以來便以其多模態能力吸引用戶。去年夏季，xAI為Grok增加了圖像生成功能Grok Imagine，其中包含所謂的辛辣模式，能夠生成成人內容。這項功能設計初衷或許是增加用戶互動，卻迅速演變為大規模濫用的工具。

從技術角度看，Grok的圖像生成能力代表了生成式AI的最新進展。用戶只需上傳一張普通照片，透過簡單的文字提示，就能將照片中的人物脫衣或置於性暗示姿勢。這種技術門檻的降低，使得製作非自願色情內容變得前所未有的簡單。印尼數字空間監督總局局長亞歷山大·薩巴爾指出，初步調查顯示Grok缺乏有效防護措施，無法阻止用戶基於印尼居民真實照片創建和傳播色情內容。

全球監管反應的差異光譜

印尼和馬來西亞的封禁決定並非孤立事件，而是全球監管反應的一個極端表現。從歐洲到北美，各國政府正以不同方式應對這一危機：

英國技術大臣莉茲·肯德爾宣布，將本週內正式實施《數據法》中關於創建非自願親密圖像為刑事犯罪的規定，並將其列為《在線安全法》的優先罪行。英國媒體監管機構Ofcom已啟動對X平台的正式調查，若發現違法，可處以高達全球營收10%或1800萬英鎊的罰款。

加拿大方面，AI部長埃文·所羅門排除了全面禁止X平台的可能性，但透露政府內部正進行積極討論，考慮由皇家騎警調查AI生成的兒童性虐待材料。歐盟委員會已命令馬斯克和X公司保留與Grok輸出相關的文件，預示著可能的調查。

印度、巴西、法國、愛爾蘭和澳洲等國官員也已發出調查信號。美國一群民主黨參議員甚至要求蘋果和谷歌將X從其應用商店下架，直到該公司解決這一問題。

文化敏感性与数字主权：东南亚的独特立场

宗教價值觀與網絡治理傳統

印尼和馬來西亞作為全球穆斯林人口最多的兩個國家，其網絡治理政策深受宗教和文化價值觀影響。兩國長期以來對網絡色情內容採取嚴格立場，已封禁OnlyFans、Pornhub等平台。Grok事件觸動了這一敏感神經。

《連線》雜誌報道揭示了問題的嚴重性：擁有數十萬粉絲的影響者使用Grok修改女性照片，移除她們的頭巾或長袍。在一個案例中，生成的3名女性圖像顯示她們留著波浪長髮，穿著相當透明的連衣裙，該圖像被分享了70萬次。這種對宗教服飾的數位化移除，在文化上具有強烈的冒犯性。

「預防性」監管的邏輯

馬來西亞通訊與多媒體委員會在聲明中強調，封禁是法律和監管程序進行期間的預防性和相稱措施。這壹表述揭示了東南亞監管機構的核心邏輯：在危害發生前采取行動，而非事後補救。

印尼通信部表示，此舉旨在保護婦女、兒童和廣大社區免受使用AI生成的虛假色情內容侵害。亞歷山大·薩巴爾指出，此類做法在照片被操縱或未經同意分享時，可能侵犯隱私和肖像權，造成心理、社會和聲譽損害。

這種預防性立場與西方更注重言論自由和事後監管的傳統形成對比。當馬來西亞和印尼的監管機構本月向X公司和xAI發出要求加強防護措施的通知時，得到的回應主要依賴於用戶舉報機制。監管機構認為，這種被動應對不足以解決平台設計固有的風險。

平台責任與全球治理：誰該為濫用負責？

馬斯克的矛盾立場與平台的回應

埃隆·馬斯克對監管行動的反應凸顯了科技巨頭與政府之間的緊張關係。當英國政府考慮採取行動時，馬斯克在X上回應稱，英國工黨政府想要任何藉口進行審查。這種將內容監管等同於言論壓制的框架，忽視了非自願色情深度偽造對個人的具體傷害。

X平台對Grok濫用的官方回應顯得矛盾且不足。一方面，公司表示任何使用或提示Grok製作非法內容的人將面臨與上傳非法內容相同的後果；另一方面，當美聯社通過電子郵件向xAI請求評論時，只收到媒體支持郵箱的自動回覆：傳統媒體謊言。這種對抗性姿態無助於解決問題。

儘管面臨全球反彈，Grok上週將圖像生成和編輯功能限制為付費用戶使用，但批評者認為這並未完全解決問題。截至1月中旬，免費帳戶用戶仍可創建性化和色情圖像。

監管範式的根本轉變

Grok事件正在推動全球監管範式的轉變。英國技術大臣莉茲·肯德爾明確表示：責任不僅在於個人行為……託管此類材料的平台必須承擔責任，包括X。她宣布政府將基於《犯罪與警務法案》中概述的措施，將脫衣應用定為刑事犯罪。

這一新刑事犯罪將使公司提供旨在創建非自願親密圖像的工具成為非法，從源頭解決問題。肯德爾強調：這不是，正如一些人聲稱的那樣，限制言論自由。這是為了解決針對婦女和女孩的暴力問題。

加拿大婦女法律教育與行動基金和加拿大兒童保護中心等倡導團體呼籲建立線上監管機構，類似於自由黨政府在2024年提議的機構。他們認為，X平台上的性深度偽造浪潮表明政府需要創建專門的線上監管機構。

受害者視角與未來挑戰：當技術成為武器

個人傷害的真實代價

Grok濫用最令人不安的方面是其對真實個人造成的直接傷害。印尼X用戶基拉娜·阿尤寧蒂亞斯是一位分享日常經驗的輪椅使用者，她發現陌生人在她的照片下評論，要求Grok描繪她穿著比基尼的樣子。阿尤寧蒂亞斯調整了隱私設定並聯繫平台刪除圖像，但不幸的是，這些都沒有真正奏效。

她讓朋友舉報發布她偽造圖像的帳戶，但這樣做意味著更多人看到編輯後的圖像，這讓她深感尷尬。很難判斷是否有人持有這些圖像，她補充道。這種無力感和持續的不安全感，正是非自願深度偽造對受害者心理影響的縮影。

英國廣播公司看到了X上多個數字修改圖像的例子，其中女性在未經同意的情況下被脫衣並置於性姿勢中。一名女性表示，已經創建了100多張她的性化圖像。

全球协调与未来监管路径

Grok事件暴露了生成式AI時代全球治理的碎片化。各國反應不一，從全面封禁到刑事立法，再到調查和行業自律呼籲。這種不一致性可能產生監管套利空間，公司可能將業務轉移到監管較寬鬆的司法管轄區。

未來監管可能沿著幾個方向發展：一是加強平台責任，要求AI工具內置更有效的防護措施；二是加強國際合作，協調跨境執法；三是發展技術解決方案，如數位浮水印和內容溯源技術；四是提高公眾意識和數位素養。

英國影子技術大臣朱莉婭·洛佩斯雖然支持政府對脫衣工具採取行動，但對全面禁止平台表示擔憂：儘管互聯網曾被犯罪分子使用，但網站以前從未被禁止過。這是對一個可用於善的平台採取的極其嚴肅的行動，用於揭露醜聞、引發民主革命，並允許日常自由交流思想，包括我們不喜歡的想法。

Grok封禁事件不僅僅是一個技術或法律問題，它觸及了數字時代的核心困境：如何在促進創新與防止傷害之間取得平衡，如何在不同文化價值觀之間建立共識，以及如何在全球範圍內協調治理。印尼和馬來西亞的決定可能只是全球AI治理競賽的開始，而非結束。隨著生成式AI能力持續增強，這場關於技術倫理、數字權利和國家主權的辯論只會變得更加緊迫和複雜。