大型虛假語(yǔ)料污染模型，“AI嘴替代”或演繹新的市場(chǎng)操縱鏈。
如果在納米AI搜索中輸入“360投資DepSeek?”提示詞，其答案令人驚訝。
答案顯示，在2023年首輪融資中，360集團(tuán)作為早期投資者之一，與多家機(jī)構(gòu)共同支持Depseek的人工智能技術(shù)研發(fā)。在2024年的新一輪融資中，Depseek完成了數(shù)億美元的融資，360集團(tuán)繼續(xù)跟隨投資，顯示出對(duì)Depseek技術(shù)前景的持續(xù)樂(lè)觀看法。同時(shí)，答案還明確了技術(shù)協(xié)作、商業(yè)潛力、技術(shù)合作和安全支持等投資邏輯。
不僅僅是3601家公司“投資了DepSeek”。近日，慈興、華盛天成、并行科技、誠(chéng)邁科技等多家公司成為AI問(wèn)答截圖中的角色。以慈興為例，AI回答中明確表示，該公司“早期投資了DepSeek”，相關(guān)內(nèi)容與涉及360的回答高度相似。
但這些答案顯然經(jīng)不起考驗(yàn)。無(wú)論是比較工商信息還是企業(yè)檢查等第三方平臺(tái)，這些所謂的“公司是DeepSeek股東”都是空的。
一些上市公司否認(rèn)了這一謠言。例如，一些投資者問(wèn)慈興董事會(huì)秘書(shū)：“互聯(lián)網(wǎng)上說(shuō)，子公司與深度搜索的早期階段有關(guān)，投資1億元是真的嗎?”該公司明確回答說(shuō)，一些社交媒體平臺(tái)上有傳言稱，該公司或其子公司參與了迪普融資。經(jīng)核實(shí)，上市公司及其子公司均未參與迪普融資的投資。
此外，華盛天成董事會(huì)秘書(shū)多次回答投資者提問(wèn)，強(qiáng)調(diào)截至目前，公司尚未直接或間接持有DeepSeek所屬公司的股份。
既然上市公司明確否認(rèn)了謠言，那么這些錯(cuò)誤答案的原因是什么呢?答案與語(yǔ)料庫(kù)喂養(yǎng)有關(guān)。
記者查閱了上述“360投資DepSeek”中的參考資料，發(fā)現(xiàn)東方財(cái)富網(wǎng)財(cái)富號(hào)已成為重要的語(yǔ)料來(lái)源。
在360股吧，有關(guān)“360于2023年參與DeepSeek”的說(shuō)法關(guān)于“投資”話題的相關(guān)文章不僅僅是一篇文章，而是連續(xù)幾天出現(xiàn)。仔細(xì)看這類文章的作者都是匿名的，內(nèi)容沒(méi)有明確的官方信息來(lái)源，匿名作者對(duì)內(nèi)容的真實(shí)性不負(fù)責(zé)。
中國(guó)信通院相關(guān)負(fù)責(zé)人告訴記者，這在業(yè)內(nèi)被稱為“語(yǔ)料污染”：“我們已經(jīng)做了一個(gè)實(shí)驗(yàn)。在特定論壇上連續(xù)發(fā)布100多條虛假信息后，主流大模型對(duì)標(biāo)桿問(wèn)題的回答信心將從10%以上迅速飆升。這就像在純凈水中滴墨水。當(dāng)污染源足夠密集時(shí)，整個(gè)知識(shí)系統(tǒng)就會(huì)被扭曲。”
在這種情況下，如果沒(méi)有覆蓋虛假語(yǔ)料的新的真實(shí)語(yǔ)料庫(kù)，就會(huì)帶來(lái)“劣幣驅(qū)逐良幣”。因此，當(dāng)投資者提出同樣的問(wèn)題時(shí)，人工智能的答案很可能是扭曲的。
那么，誰(shuí)會(huì)發(fā)布這些偽造的信息呢?從最近的語(yǔ)料庫(kù)提供商來(lái)看，市場(chǎng)指向了一些賬戶“背心”。這些賬戶在許多地方，傳播了許多謠言，如“一家公司投資”，給人工智能模型提供錯(cuò)誤的答案，并給人工智能“洗腦”。
上述信通院人士拆解了記者可能存在的“打法”：一般來(lái)說(shuō)，標(biāo)準(zhǔn)操作過(guò)程包括三個(gè)階段：一是通過(guò)自動(dòng)化腳本在多個(gè)論壇同步發(fā)布虛假信息，然后利用爬蟲(chóng)技術(shù)加速搜索引擎的收集，最后利用污染的人工智能答案進(jìn)行社交媒體裂變傳播。根據(jù)行業(yè)慣例，完成整套操作的成本通常為1萬(wàn)元。
今日頭條正在“有針對(duì)性地打擊”人工智能謠言。在2月24日頭條平臺(tái)治理開(kāi)放日，清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊表示，人工智能正在重塑網(wǎng)絡(luò)信息的傳播生態(tài)，我們正面臨著前所未有的信息真實(shí)性“戰(zhàn)爭(zhēng)”。謠言能吸引觀眾的主要原因是觀眾的認(rèn)知和情感。因此，投資者提高他們的認(rèn)知是非常重要的。
對(duì)此，慈興股份回應(yīng)：網(wǎng)絡(luò)信息源非常重要。投資者還需要“注意識(shí)別網(wǎng)絡(luò)信息源，合理判斷，謹(jǐn)慎投資，注意投資風(fēng)險(xiǎn)”。
涉及者也應(yīng)該采取積極的行動(dòng)。北京一家公司的秘書(shū)長(zhǎng)告訴記者，當(dāng)謠言涉及的上市公司沒(méi)有主動(dòng)澄清時(shí)，普通投資者幾乎很難識(shí)別信息的真實(shí)性。這也表明，上市公司及時(shí)關(guān)注股價(jià)表現(xiàn)，及時(shí)跟蹤公眾輿論，及時(shí)給出準(zhǔn)確答復(fù)的重要性。
從最近的案例來(lái)看，誤導(dǎo)大模型并不是“黑嘴”炮制虛假內(nèi)容的最后一個(gè)環(huán)節(jié)。他們經(jīng)常將人工智能回復(fù)截圖進(jìn)行二次傳播，使人工智能模型成為這些黑嘴的“嘴替代品”。
那么，這些“語(yǔ)料污染”制造商頻繁制造“假利好”的動(dòng)機(jī)是什么呢?
北京一位私募股權(quán)人士告訴記者，背后可能有利益鏈，不排除誘導(dǎo)出貨的可能性。例如，他說(shuō)，如果灰色產(chǎn)業(yè)鏈構(gòu)成閉環(huán)，它可能構(gòu)成一個(gè)新的市場(chǎng)操縱鏈。
這種猜測(cè)并非無(wú)中生有。
此前，《證券時(shí)報(bào)》·E公司報(bào)道稱，抖音和其他短視頻平臺(tái)現(xiàn)場(chǎng)推薦股票，對(duì)新投資者的誘導(dǎo)作用前所未有的增強(qiáng)。從一些股票的表現(xiàn)來(lái)看，以新投資者為代表的零售投資者的合作對(duì)股價(jià)的影響甚至可以與中等規(guī)模的熱錢相媲美。在現(xiàn)場(chǎng)推薦股票的背后，一些熱錢和錨的“合謀利潤(rùn)模式”也暗流涌動(dòng)。因此，短視頻工作室可能成為個(gè)人熱錢尋找接受者的新位置。
針對(duì)“人工智能黑嘴”現(xiàn)象，一些媒體表示，在陰暗的陽(yáng)光下，股市“黑嘴”和背后的罪犯，使用人工智能邪惡，使用虛假語(yǔ)料庫(kù)誤導(dǎo)大模型錯(cuò)誤答案，然后這些“人工智能答案”傳播散戶欺騙散戶，干擾甚至操縱股票市場(chǎng)交易。
上述信息技術(shù)研究所表示，隨著技術(shù)的進(jìn)步，“黑嘴”模式也在不斷變化。它顯示了當(dāng)前大型模型商業(yè)關(guān)系識(shí)別的一些缺陷。例如，無(wú)法區(qū)分技術(shù)部署和商業(yè)合作，難以追溯股權(quán)的多層滲透，對(duì)時(shí)間維度的變化不敏感。所有這些都需要人工智能的技術(shù)水平、彌補(bǔ)商業(yè)知識(shí)地圖等方面的不足。
近日，監(jiān)管部門發(fā)布了2025年“清晰”系列專項(xiàng)行動(dòng)通知。通知明確，將從整頓人工智能技術(shù)濫用亂象、整頓涉企網(wǎng)絡(luò)“黑嘴”八個(gè)方面入手，嚴(yán)厲打擊各類侵權(quán)違法行為。
陸洪磊表示，人工智能謠言傳播具有新聞、令人信服、虛假、非官方、強(qiáng)傳播、不可逆轉(zhuǎn)等特點(diǎn)。為了控制人工智能謠言的傳播，我們需要解構(gòu)上下文，遏制主體，阻止投影，并進(jìn)行協(xié)同治理。“在真相和謊言之間的比賽中，沒(méi)有人是旁觀者。”更多股票資訊，關(guān)注財(cái)經(jīng)365！