你可能沒想過這樣一個問題：如果一群AI機器人在一個模擬的社交平台上互相發帖、互相按贊、互相爭論，它們的行為會不會像人類一樣，被"按贊排行榜"悄悄改變？
更有意思的是另一個問題：如果有人想操縱這些AI機器人的立場，是雇一個"水軍賬號"拼命發帖更有效，還是雇四個賬號分散發帖更有效？直覺上你可能覺得，賬號越多，聲勢越大，說服力肯定越強。但這篇來自兩位獨立研究者的論文，用嚴謹的實驗狠狠打了這個直覺的臉。
先說結論,這篇論文發現，讓一群AI機器人互相圍觀彼此的帖子、並按按贊數排序展示，確實會讓它們說話的方式變得越來越像。但如果你想靠"多開小號"來影響這些AI機器人的立場，實驗數據告訴你：這招不一定管用，甚至在某些模型上完全不管用。
這不是一句空話，背後是整整448場嚴格控制的實驗，橫跨四種AI模型家族、四個話題、四個隨機種子。研究者把這套實驗系統起了個名字，叫PV-SST
。
>
> PV-SST：全稱Peer-Voted Social Simulation Testbed，中文可以理解為"同伴投票式社交模擬測試台"，是本論文自建的一套實驗環境，專門用來觀察AI機器人在社交平台式互動中的群體行為。
為什麼要造這麼一個測試台？
現在的AI評測，大多是"單兵作戰"式的。你給AI一道數學題，看它答得對不對；你給它一段代碼，看它寫得好不好。這些測試的共同點是，AI是孤立的，一個一個來，互不干擾。
但現實世界裡，AI早就不是孤立作戰了。它們被用作客服、被用作虛擬用戶去測試產品、被用來在社交平台上自動生成內容。當一堆AI同時存在於一個環境裡，一個AI發的帖子會被另一個AI看到、被按贊或者被踩，而這個反饋又會反過來影響下一輪的發帖內容。這是一個環環相扣的循環，用論文裡的話說,這是"遞歸"的。
單獨測一個AI能不能答對題，回答不了這個問題:當一大群AI互相圍觀、互相評分的時候,群體層面會冒出什麼新行為?這就好比你單獨測試一百個人的駕駛技術都合格，但你沒法從這一百份單獨的駕照考試成績里，推斷出這一百個人同時上路會不會塞車、會不會互相別車。塞車是一個群體現象，單人測試根本捕捉不到。如果不造這麼一個能觀察群體互動的測試台，我們就只能等真實的AI社交平台出問題之後再去救火，而不是提前發現風險。
這就是研究者要造PV-SST的原因,他們想在AI真正大規模湧入社交平台之前，先在一個可控的、完全能被審查的沙盒裡，把可能出問題的機制一個一個找出來。
測試台是怎麼運作的？
PV-SST的核心設定並不複雜。每一場實驗裡，會有12個"誠實智能體"，也就是沒有被操縱的AI角色，它們各自帶著預設的人設，從24個候選人設里抽取。這些智能體的初始立場被精心平衡過，六種立場，從"強烈支持"到"強烈反對"，每種立場的初始置信度都設定為0.70，做到絕對公平的起點。
整場實驗跑六輪。每一輪里，每個智能體先接收一段"條件反饋"，可能只是話題本身，也可能是同伴發的帖子，或者還夾雜著"敵對"內容。接著它要生成一條不超過180字符的帖子，同時更新自己的立場和置信度。然後，每個誠實智能體還要給最多五條別人的帖子投票，可以選擇"喜歡""忽略"或者"踩"。這些票數會決定下一輪誰的帖子排在前面被更多人看到。
>
> 誠實智能體：指沒有被人為設計成"帶節奏"的正常AI角色，用來對照觀察被操縱內容影響的對象。
這套流程聽起來是不是很像你每天刷的社交軟體？發帖、按贊、排序、再發帖，一個閉環。區別在於，這裡的用戶全是AI，而且每一步操作，包括誰給誰投了票、誰看到了什麼內容，全部被完整記錄下來，方便事後逐條審查。
這裡有個細節特別值得說一下:研究者為了保證實驗能重複驗證，把生成內容用的隨機種子固定死了，是"trial種子、輪次、階段、智能體編號"的確定性函數。這意味著同樣的設置跑兩遍，理論上能得到完全一樣的結果，這在AI研究里是相當難得的嚴謹程度。
核心實驗一：同伴反饋會不會讓AI說話都變得一個味？
第一個實驗設計得很直接。研究者對比兩種情況：一種是"只給話題，不給任何同伴的帖子"，叫做對照組；另一種是"看到五條按按贊數排好序的同伴帖子"，叫做實驗組。
>
> TF-IDF餘弦相似度：一種衡量文本相似程度的技術指標，數值越高說明兩段文字用詞、結構越相近。這裡用來衡量12個智能體最後一輪發的帖子，彼此有多像。
結果是,在四種核心模型家族裡，實驗組比對照組的帖子相似度平均高出0.0082個TF-IDF餘弦單位，95%的置信區間是[0.0043, 0.0121]，隨機化檢驗的p值只有0.000105，這個數字小到幾乎可以排除"純屬巧合"的可能性。而在三個規模更大的模型變體裡，這個差距還擴大到了0.0109，置信區間[0.0069, 0.0151]，p值更是低至0.000001。
這組數字意味著什麼？意味著兩個獨立跑出來的實驗，用完全不同的模型規模，都得出了同一個方向的結論：只要能看到同伴按按贊排序的帖子，AI群體說話就會越來越像。而且這個效應不是偶然出現在某一個話題上，四個測試話題里，每一個話題的效應方向都是正的。
>
> 隨機化檢驗：一種統計方法，通過打亂數據配對關係、反覆模擬，來判斷觀察到的差異是不是純屬運氣。
這裡要澄清一個容易被誤解的地方,這個實驗對比的是"完全看不到同伴帖子"和"看到按按贊排序的同伴帖子"，這兩者之間差了兩個變量:一個是有沒有看到同伴內容，另一個是有沒有排序機制。論文很誠實地指出，這個實驗測的是"整個資訊流機制"的效果，而不是單獨測"排序算法"本身的效果。換句話說，這個實驗證明了資訊流這個整體設計會帶來趨同效應，但沒法告訴你，如果只是讓AI看到同伴帖子卻不排序，會不會也有同樣的效果。這是一個留給未來研究的開放問題。
打個比方,這就像你想知道，是"班裡同學互相抄作業"導致了大家答案趨同，還是"老師把分數最高的作業貼在牆上給大家參考"導致了趨同。這篇論文測的其實是"牆上貼著排名靠前作業"這整套機制的效果，如果不把"單純互相抄"和"按分數排名展示"這兩件事分開測，你永遠沒法知道，到底是"看到別人的答案"這件事本身有影響，還是"看到別人的答案還被標註成了熱門"才是關鍵。如果研究者不做這個拆分說明，讀者很容易誤以為"AI互相看帖子"就足夠導致趨同，但實際上可能是"排序"這個額外的社交認可信號在起決定性作用。
意見對抗的效應：少數派會不會被壓制？
除了看語言趨同，研究者還測了另一個更敏感的指標,"對立立場存活率"，也就是那些一開始持反對意見的AI，在經歷了幾輪資訊流影響之後，還有多少依然堅持自己原來的立場。
在四個核心模型家族裡，這個存活率下降了3.9個百分點，置信區間[-6.8, -1.6]，p值0.0068，統計上算是站得住腳的。但當研究者把同樣的實驗搬到規模更大的三個模型變體上重新跑一遍，這個效應就變得不那麼確定了,只下降了1.0個百分點，置信區間[-3.1, 0.4]，p值高達0.50，基本等於"看不出顯著差異"。
這個結果的價值恰恰在於它的"不一致"。如果兩次實驗都得出同樣清晰的結論，那故事會很簡單：AI群體天生就會壓制少數意見。但現實是，這個效應似乎跟具體用的模型強相關。深入拆解到每個模型家族才發現，核心面板里的存活率下降幾乎全部來自一個叫Qwen 3.5 4B的模型，它一家就貢獻了12.5個百分點的降幅，而另一個叫Gemma 4 E4B的模型效應幾乎為零。等到測試更大規模的Qwen 3.5 9B時，它依然是負的，但Gemma 4 12B和Ministral 3 14B卻變成了接近零甚至正的。
這說明什麼？說明"少數派意見會被資訊流壓制"這個說法，不是一個放之四海而皆準的規律，而是高度依賴你具體用的是哪個模型。這提醒所有做類似研究的人：千萬別只測一個模型就急著下結論，不同模型的"性格"差異可能大到能把結論完全翻轉。
核心實驗二：多開小號真的更有說服力嗎？
這是整篇論文裡最反直覺，也是我個人覺得最有價值的部分。
研究者設計了一個"矛盾曝光"實驗:讓"單一水軍賬號"和"四個分散水軍賬號"在完全相同的曝光量下進行較量。具體做法是，單一賬號每輪只發一條帖子，固定用同一個論證角度反覆說服；而四個分散賬號則各自獨立地用同一個論證思路生成內容，然後輪流展示給不同的觀眾。關鍵的設計在於，無論是單賬號還是四賬號，每個誠實智能體每輪看到的敵對內容數量完全一樣,都是1條敵對帖子加4條正常帖子。整場實驗下來，兩種攻擊方式加起來都精確製造了60次敵對曝光,12個誠實智能體乘以5個有攻擊的輪次。
>
> 矛盾曝光設計：一種實驗控制手法，確保對比的兩個條件在"被看到的次數"上完全相等，這樣觀察到的差異就不能歸因於"誰被看到得更多"，只能歸因於"來源數量"這一個變量本身。
為什麼要這麼較真地控制曝光量？因為在真實世界裡，我們經常聽到"協同造謠賬號矩陣威力巨大"這樣的說法，但現實中的水軍矩陣往往同時占了兩個便宜:一是賬號多，二是總曝光量也跟著變大了。如果不把曝光量鎖死，你根本沒法知道，到底是"賬號數量"本身在起作用，還是"總共被看到的次數變多了"在起作用。這就像有人說"請四個推銷員上門比一個推銷員上門更容易成交"，但如果四個推銷員總共敲了四十次門，一個推銷員只敲了十次門，那這個對比根本不公平,你測的是敲門次數的差異，不是推銷員人數的差異。這篇論文非常罕見地把這兩個變量徹底分開，只留下"賬號數量"這一個變量在變化。
如果不做這種精確控制會怎樣？你很可能會得出一個似是而非的結論，說"分散賬號更有效"，但實際上背後真正起作用的可能只是曝光量翻倍，而不是賬號本身分散帶來的什麼特殊說服力,把兩個原因混為一談，最後得出的對策也會用錯力氣,以為要重點打擊"賬號數量"，實際上該管的是"總曝光量"。
結果呢？在核心的四模型面板里，分散賬號確實讓立場朝目標方向移動得更多一些，平均差異是+0.057，但置信區間是[-0.009, 0.125]，這個區間跨過了零，p值0.112，按嚴格標準來說，這個結果不算顯著。而當研究者把這套實驗搬到更大規模的模型上重新驗證時，結果直接翻轉成了負數,差異變成-0.040，置信區間[-0.113, 0.035]，p值0.332，同樣不顯著。
論文裡預先設定了一個判斷標準，叫PDI標準，要求這個"分散更有效"的效應必須同時滿足三個條件：整體差異為正、四個核心模型家族裡至少三個是正的、四個話題里至少三分之二是正的。核心面板里，雖然四個模型里有三個方向為正，但四個話題里只有兩個方向為正，沒能同時滿足所有條件。而在更大規模的模型驗證里，情況更差,三個模型里只有一個方向為正，四個話題里也只有一個方向為正,整體判定為不通過。
>
> PDI標準：全稱Population-Driven Influence，即"群體驅動影響力"標準，是本論文預先設定好的一套多重檢驗條件，用來判斷某個效應是否具有跨模型、跨話題的普遍性，而不是只在特定條件下偶然出現。
這個結果最有意思的地方在於，它是一個"失敗"的結果，但正是這種失敗才最有價值。論文的作者也直言不諱地說，"多賬號攻擊更強"這個說法，在他們精確控制曝光量之後，壓根站不住腳。這不代表現實中協同造謠就沒有危害，真實世界裡的水軍矩陣往往還占著別的便宜,更大的總觸達範圍、更多樣化的話術、更精準的用戶定向、更好的社交網路位置。這篇論文想說的是，如果你只是簡單粗暴地把"賬號數量"當成危險的唯一來源，那你可能找錯了重點。真正該被警惕的，或許是那些沒有被這個實驗單獨測出來的變量。
一次探索性實驗裡踩過的坑
在正式做上面這些"預註冊"實驗之前，研究者其實先做過一次80場次的小規模探索性實驗，用了兩個更小的模型，只測了一個關於平台政策的話題。這次探索讓他們發現了兩個特別值得警惕的測量陷阱。
第一個陷阱他們叫"paraphrase leakage"，可以翻譯成"改寫滲漏"。
>
> paraphrase leakage：指用簡單的關鍵詞檢測方法去判斷AI是不是在討論某個話題時，如果AI換了一種說法表達同樣的意思，關鍵詞檢測就完全抓不到，導致系統誤判為"零匹配"，實際上內容明明高度相關。
舉個例子，如果你設定的關鍵詞是"刪除賬號"，但AI寫的是"把用戶的資料清空"，關鍵詞檢測器會認為這兩句話毫無關係，儘管人一眼就能看出意思相同。這就好比你用一份嚴格按照菜譜寫的檢查清單去判斷一道菜是不是"紅燒肉"，結果廚師換了個說法寫成"醬汁燜豬肉"，清單上完全找不到"紅燒肉"三個字，就判定這不是紅燒肉,可你嘗一口就知道，這就是同一道菜。如果不小心處理這種改寫帶來的漏檢，統計出來的結果會系統性地低估AI之間內容的真實關聯度。
第二個陷阱他們叫"stance confounding"，翻譯過來是"立場混淆"。
>
> stance confounding：指用文本嵌入向量計算相似度時，系統只能判斷兩段話"講的是不是同一件事"，卻分不清這兩段話是"贊同"還是"反駁"。一句強烈支持和一句強烈反對，如果討論的是同一個具體論點，嵌入相似度反而可能很高。
研究者甚至專門找了兩個獨立的AI裁判去給同一批發帖打立場標籤，結果兩個AI裁判只在43.6%的案例上意見一致，用統計學裡的Cohen's kappa指標衡量，只有0.258，這個數字低到幾乎等於"兩個裁判在瞎猜"。正因為發現了這兩個陷阱，論文作者做了一個誠實的決定,他們沒有把這次探索性實驗裡關於"哪種造謠干預手段更有效"的結論寫進正式結果，而是把它完整保留在數據集裡，專門標註為"這是探索階段暴露出的測量問題，不能當作確鑿證據"。
這個處理方式其實體現了一種研究者的自我克制。很多研究在遇到測量工具不可靠的時候，容易選擇性地忽略問題，硬湊出一個"漂亮"的結論。這篇論文選擇把坑明明白白地寫出來，告訴後來者:別用簡單的關鍵詞匹配或者沒驗證過的AI裁判去判斷立場，這兩條路都可能把你帶偏。
這些發現能推廣到人類社會嗎？
論文在討論部分反覆強調一件事:這一切研究的對象，是被實現出來的AI智能體系統，不是真實的人類。任何這裡得出的數字，都不能直接套用去預測Snapchat、Instagram或者X這樣的真實平台上會發生什麼。PV-SST不模擬人類的情緒、賬號註銷行為、長期社交關係，也不模擬任何具體平台的推薦算法內部邏輯。
這個免責聲明聽起來有點掃興，但恰恰是這類研究該有的嚴謹態度。作者們把這次實驗定位成一種"排除法",在真正拿人類做實驗、承擔現實風險和倫理成本之前，先在一個完全可控的沙盒裡，把某些威脅模型證偽或者細化。如果連AI智能體這種相對簡單、行為可完全追蹤的系統里都測不出某個效應，那在更複雜、更難控制的人類社會中去驗證同樣的假設，成本和風險都會高得多。
論文最後總結出三條給同行的建議。第一條是做威脅模型對比研究之前，必須先把曝光量對齊，否則賬號數量、觸達範圍、消息總量這些變量會糾纏在一起，分不清到底誰在起作用。第二條是一定要按模型分層報告結果，因為一個整體看起來顯著的效應，很可能只是被某一個模型家族的極端表現拉動的，換一個模型甚至可能反轉方向。第三條是語義層面的判斷一定要經過驗證，無論是簡單的關鍵詞匹配、文本嵌入相似度，還是沒有經過校準的AI裁判，都可能給出誤導性的結果，不能事後隨便挑一個指標來支撐結論。
這篇研究之後，故事會怎麼繼續？
這篇論文本身留了一個清晰的接力棒。作者提到，下一步的機制拆解研究，應該加入一個"看得到同伴帖子但不排序"的實驗組，專門把"排序"這個變量從"曝光"這個變量里剝離出來,這是當前實驗設計里唯一沒有拆開的一對變量。
同時，論文也提到有一個計劃中的"ChangeMyView復現實驗"，想用真實的人類論壇數據來對照驗證這些AI模擬的發現，但目前這部分只實現了用合成占位符替代的版本，人類對照實驗還沒有真正跑起來。這意味著"AI模擬結果能不能遷移到人類身上"這個問題，眼下仍然是一個懸而未決的問題，作者自己也坦承"仿真到人類的遷移尚未校準"。
從更大的方向看，這類研究呼應了近幾年一系列關於LLM智能體社會模擬的工作。比如斯坦福團隊在2023年提出的Generative Agents，最早證明了給AI角色賦予持久人設、觀察它們的社會行為是可行的；此後陸續出現了像OASIS這樣支持百萬級智能體規模互動的模擬系統，以及像MOSAIC這樣把社交網路圖譜、互動行為和虛假資訊干預結合在一起的複雜系統。這篇PV-SST論文和這些工作的區別在於，它沒有追求規模有多大、場景有多複雜，而是刻意做減法，把系統壓縮到一個足夠小、足夠透明、每一條帖子和每一次投票都能被完整審計的規模，專門用來做"配對因果對比"式的精確實驗。
寫在後面
讀完這篇論文，最觸動我的其實不是"資訊流會導致語言趨同"這個結論,這個結論雖然嚴謹，但符合大部分人的直覺預期。真正讓我停下來重新想一遍的，是那個"多賬號攻擊不一定更有效"的負面結果。
我們生活在一個天天聽說"水軍矩陣""買號刷量""協同造謠"的輿論環境裡，幾乎已經把"賬號越多越可怕"當成了默認常識。這篇論文用一種近乎較真的方式,把曝光量死死鎖定,逼著自己去驗證這個常識到底站不站得住腳。結果發現，至少在這個受控的AI群體實驗裡，賬號數量這個變量單獨拎出來，效果並不穩定，甚至在更大的模型上直接翻了個面。
這讓我想到一個更深的問題:我們對很多"常識性威脅"的判斷，究竟有多少是真正經過拆解驗證過的，又有多少只是因為"聽起來很嚇人"就被默認接受了？這篇論文的價值，或許不在於它給出了一個多麼驚天動地的新發現，而在於它示範了一種態度:面對一個流傳甚廣的威脅敘事，先別急著信，也別急著否定，去把變量一個一個拆開，看看到底哪個才是真正在起作用的那個。
那兩個關於"改寫滲漏"和"立場混淆"的測量陷阱也值得單獨記一筆。它們提醒我，很多看似客觀的自動化文本分析工具，其實都藏著我們沒意識到的盲區,關鍵詞匹配抓不住換個說法的意思，嵌入相似度分不清贊同和反駁。這兩個坑，恐怕不止存在於這一篇論文的實驗裡。
Q&A
Q1：PV-SST是什麼？
A：PV-SST全稱Peer-Voted Social Simulation Testbed，是一套讓AI智能體在模擬社交平台上互相發帖、互相投票的實驗系統，用來觀察AI群體在同伴反饋機制下會出現什麼行為變化，一共跑了448場正式實驗，橫跨四種AI模型家族。
Q2：AI機器人看了同伴的帖子後，說話真的會變得越來越像嗎？
A：是的，實驗發現，讓AI看到按按贊排序的同伴帖子後，它們最後一輪發帖的用詞相似度確實上升了，在兩套獨立的模型規模測試里都得到驗證，但這不代表它們的真實立場也趨同了，只是語言表達變得更相似。
Q3：用四個分散賬號造謠，真的比一個賬號更有說服力嗎？
A：論文的實驗結果並不支持這個說法。在嚴格控制兩種攻擊方式總曝光量完全相等的前提下，四賬號分散攻擊並沒有比單賬號攻擊表現出可靠的優勢，核心模型測試結果不確定，擴大模型規模後的測試甚至出現了負向結果。
