近日，中央廣播電視總臺3·15晚會曝光了令人震驚的“投毒”AI大模型黑灰產業鏈。

AI“投毒”的本質，是利用大模型依賴聯網搜索實時信息、從海量數據學習的特性，通過人為制造“虛假共識”來操控算法輸出。不法商戶通過GEO（生成式引擎優化）工具批量生成虛假評測、偽造用戶評價、杜撰行業排名，用自媒體賬號在網絡平臺上大量發布。當用戶向AI詢問產品推薦時，這些被精心設計的虛假信息因數量龐大、角度豐富，更容易被AI判定為“高權重信息”而采納，最終成為AI給出的“標準答案”。

通過“投毒”AI的數據“口糧”，虛構產品被包裝成權威推薦，惡意抹黑被偽裝成客觀評價，一條“軟件供應—內容生成—全網投喂—模型操控—牟利變現”的完整黑灰鏈條已然形成。

亂象滋生的根源，在于技術迭代快于制度建設，形成監管真空。當前，GEO服務游走于法律邊緣，雖涉嫌違反廣告法、反不正當競爭法、消費者權益保護法，但責任主體模糊、取證難、處罰輕，違法成本低。同時，網站平臺和AI大模型為追求用戶覆蓋率，放松對信源審核，客觀上為“投毒”提供了可乘之機。而一些企業急功近利，將“AI打榜”視為低成本獲客捷徑，助長了黑灰產蔓延。

治理AI“投毒”，要堅持系統思維，構建法律規制、技術防御、平臺履責、公眾參與的多元共治格局。

完善法律供給，劃定行為紅線。應將“惡意數據投喂”明確納入反不正當競爭法規制范疇，細化AI服務提供者、內容發布平臺、GEO服務商的責任邊界。明確“數據投毒”與正當GEO優化的界限，對偽造信息操縱AI的行為予以嚴懲，提高違法成本。對專門從事虛假內容發布的平臺和賬號，依法予以關停整頓，鏟除黑灰產滋生的土壤。

強化技術防御，提升模型“免疫力”。AI平臺應建立數據溯源機制，對訓練和檢索內容進行可信度評估，引入“白名單”信源制度，提升對批量同質化內容的識別能力。對醫療、金融等敏感領域強制多源交叉驗證，并在回答中清晰標注信息來源。用算法對抗算法，建立動態監測與清洗機制，及時發現并阻斷“投毒”行為。

壓實平臺責任，凝聚治理合力。信息發布平臺應加強對批量發布、營銷軟文等異常行為的監測和處置，切斷虛假內容的傳播渠道。AI大模型廠商應優先采用權威媒體、學術期刊及持牌機構的官方信息，提升模型透明度，提供回答來源鏈接，讓用戶可查可驗，打破“黑箱推薦”。同時，推動建立AI數據安全的行業標準和數據治理生態，規范數據集的采集、清洗和審核流程。

提升公眾素養，筑牢社會防線。用戶應樹立“AI非權威”的認知，在使用AI獲取信息時理性驗證，尤其對涉及投資消費決策、醫療方案選擇等重要問題的AI回答，務必通過官方渠道交叉驗證。監管部門應加強AI安全知識的普及宣傳，幫助公眾識別AI幻覺和虛假信息。

AI“投毒”污染的不僅是大模型的口糧，更是數字社會的信任根基。讓法治的陽光照進算法的黑箱，讓監管的力量穿透數據的迷霧，我們才能徹底斬斷黑灰產業鏈，讓AI真正成為服務公眾、造福社會的智能助手。（本文來源：經濟日報 作者：佘惠敏）