當(dāng)你詢問AI助手“哪款耳機(jī)性價比高”時，帶貨它會將不同型號耳機(jī)的始還價格以及核心亮點一一列出，并站在使用者的敢相角度，“貼心”地分析每款耳機(jī)的良心性價比。

不過，推薦面對AI的帶貨介紹，你是始還否懷疑過，那個被它反復(fù)提及并在推薦中居首位的敢相產(chǎn)品，真的良心是“最優(yōu)選”嗎？看似客觀的回答背后，是推薦否隱藏著精心設(shè)計的商業(yè)暗廣？

誰在操控AI的“偏好”？

GEO服務(wù)機(jī)構(gòu)宣傳內(nèi)容

電商平臺上，一種名為“GEO”的始還操作正悄然嵌入各類AI助手的信息流中。不少機(jī)構(gòu)聲稱，敢相GEO優(yōu)化能實現(xiàn)“躺著漲流量”，良心它可以通過訓(xùn)練大模型的推薦方式“修繕”品牌形象。機(jī)構(gòu)還許諾，能讓品牌方穩(wěn)坐AI推薦中的首位。用服務(wù)機(jī)構(gòu)的宣傳語來講，GEO就像把“撒網(wǎng)捕魚”變成“精準(zhǔn)垂釣”，它能確保AI直接把品牌信息裝進(jìn)回答里。

中國科學(xué)院自動化研究所研究員吳書介紹，GEO的全稱為“生成引擎優(yōu)化”，其原理可類比公眾更為熟悉的SEO（搜索引擎優(yōu)化）。SEO是商家利用搜索引擎的算法，將自己的鏈接排到搜索結(jié)果的前列，而GEO則是AI時代的產(chǎn)物，是一種專門“讓AI看到”的優(yōu)化方法，其目的是讓特定的觀點或品牌信息在AI的輸出中獲得更高的曝光率。

為探明GEO服務(wù)的真實效果，《鋒面》記者以品牌工作人員的身份咨詢了多家GEO服務(wù)機(jī)構(gòu)。接待人員均表示GEO服務(wù)能“立竿見影”地提升品牌在AI問答中的“能見度”，并反復(fù)向記者強(qiáng)調(diào)當(dāng)下布局GEO的緊迫性。對方還主動提供了多個“成功案例”。

GEO服務(wù)機(jī)構(gòu)提供的“成功案例”

為驗證這些案例的真實性，《鋒面》記者用不同方式向多個主流AI助手咨詢。當(dāng)問及相關(guān)品類推薦時，AI給出的首選品牌確實與機(jī)構(gòu)提供的“成功案例”高度重疊。服務(wù)機(jī)構(gòu)接待人員還表示，他們會定期對數(shù)據(jù)內(nèi)容進(jìn)行維護(hù)，持續(xù)優(yōu)化，訓(xùn)練大模型的基礎(chǔ)語料庫，穩(wěn)固品牌在AI回答中的“地位”。

算法“投喂”的貓鼠游戲

所謂“訓(xùn)練”，本質(zhì)上可以將其看作一種“污染”。GEO服務(wù)機(jī)構(gòu)表示，他們會通過發(fā)布不同的文章和內(nèi)容提升品牌的“可信度”，甚至還能提供“奧運冠軍錄制視頻”的服務(wù)。記者發(fā)現(xiàn)，AI推薦引用的信源多為結(jié)構(gòu)清晰、語句簡練的文章，文章標(biāo)題多帶有“推薦指南”“深度榜單”等字樣。

吳書分析，從技術(shù)上來看，目前GEO主要針對兩個環(huán)節(jié)開展工作：在預(yù)訓(xùn)練數(shù)據(jù)（訓(xùn)練大模型的基礎(chǔ)語料庫）階段，優(yōu)化者會嘗試將帶有品牌偏見信息的文章“喂”給大模型，“污染”訓(xùn)練數(shù)據(jù)；在實時檢索環(huán)節(jié)，優(yōu)化者已經(jīng)深諳AI的閱讀偏好，并據(jù)此制作出看似權(quán)威、中立的網(wǎng)頁，盡管其自然排名不一定靠前，但因格式規(guī)范、表達(dá)清晰，反而更容易被AI在檢索時采納。

復(fù)旦大學(xué)計算與智能創(chuàng)新學(xué)院教授徐躍東表示，當(dāng)前，惡意的GEO可能會精心偽造內(nèi)容的權(quán)威性。為了讓AI系統(tǒng)更易采信特定內(nèi)容，操作方會系統(tǒng)性地偽造各類權(quán)威背書，包括虛構(gòu)專家身份、編造檢測報告、仿冒官方白皮書，甚至假冒知名機(jī)構(gòu)出具推薦證明。這些經(jīng)過包裝的內(nèi)容看似來源可靠，實則是為了特定商業(yè)目的服務(wù)的虛假宣傳，其目的在于影響AI對信息可信度的判斷。

記者經(jīng)多次比對后發(fā)現(xiàn)，將AI助手“聯(lián)網(wǎng)搜索”的功能關(guān)閉時，其給出的答案與GEO服務(wù)機(jī)構(gòu)提供的案例答案完全不一致。對此，GEO服務(wù)機(jī)構(gòu)人員表示，“聯(lián)網(wǎng)搜索到的是最新數(shù)據(jù)，不聯(lián)網(wǎng)搜索到的是大模型里自帶的數(shù)據(jù)，95%的用戶都會使用聯(lián)網(wǎng)搜索”。

以當(dāng)前的技術(shù)手段，無論是在訓(xùn)練前過濾惡意語料，還是在檢索時識別欺騙性網(wǎng)頁，都存在一定難度。“在防御措施方面，這是一個持續(xù)的貓鼠游戲?！毙燔S東表示。目前多數(shù)大模型主要通過在檢索前評估信息源可靠性、在檢索中進(jìn)行多源交叉驗證、在生成前增強(qiáng)模型魯棒性（模型對于異常數(shù)據(jù)或噪聲的抗干擾能力）等環(huán)節(jié)構(gòu)建防御體系。但對于那些精心設(shè)計的高階“GEO攻擊”，徐躍東坦言，“防御難度較大，成本也相對較高”。

吳書特別指出，最新研究表明，僅需數(shù)百條被精心設(shè)計的“污染”數(shù)據(jù)，就足以讓擁有上億參數(shù)的大模型產(chǎn)生認(rèn)知偏差。由于訓(xùn)練語料的規(guī)模極其龐大，所以在其中混入幾百條被惡意處理過的內(nèi)容是輕而易舉。

“如果植入的廣告不明顯，且沒有明確標(biāo)識，它們被混雜在客觀信息中，會讓公眾難以獲取全面中立的觀點。這不僅會損害用戶體驗，長此以往還會污染模型，使模型質(zhì)量降低?！边@些存在偏差的數(shù)據(jù)可能還會被AI再次學(xué)習(xí)，在封閉的環(huán)境中得到加強(qiáng)，產(chǎn)生“回聲室效應(yīng)”，導(dǎo)致偏見和信息失真不斷加劇。

在這個AI不斷發(fā)展的時代，如果商業(yè)信息通過技術(shù)手段持續(xù)優(yōu)化、搶占位置，那么弱勢品牌、公益信息和少數(shù)派觀點就會被擠壓甚至被淹沒。吳書表示，公眾希望將AI作為客觀、高效的工具來使用，一旦他們發(fā)現(xiàn)AI給出的答案中混雜了未聲明的商業(yè)意圖，這種信任感就會被嚴(yán)重透支，最終傷害的是整個行業(yè)發(fā)展的根基。

徐躍東特別提醒，受到數(shù)據(jù)污染的人工智能生成的虛假內(nèi)容,可能成為后續(xù)模型訓(xùn)練的數(shù)據(jù)源,形成具有延續(xù)性的“污染遺留效應(yīng)”。長此以往，還可能引發(fā)現(xiàn)實風(fēng)險，比如被運用在金融、醫(yī)療等高價值領(lǐng)域，對相關(guān)領(lǐng)域造成實質(zhì)性損害。

當(dāng)AI推薦“變了味兒”

GEO的操作不像傳統(tǒng)廣告那樣令人一目了然，而是“潤物細(xì)無聲”地左右著用戶的決策。從AI直接獲取答案的使用者們，在不知不覺間踏入了被操控的消費陷阱，這也成為了新的法律灰色地帶。

對此，北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括指出，未聲明的商業(yè)推廣在很大程度上符合《中華人民共和國廣告法》中對于“廣告”的界定。他認(rèn)為，根據(jù)《中華人民共和國廣告法》第二條，當(dāng)商品經(jīng)營者通過特定媒介直接或間接介紹其商品和服務(wù)時，即構(gòu)成廣告行為?！霸诋?dāng)前討論的現(xiàn)象中，通過改變內(nèi)容輸入來指向特定服務(wù)或為產(chǎn)品做推廣，符合廣告的基本屬性。”

不過，在實際執(zhí)法過程中，這類隱藏在AI中的廣告面臨著三重認(rèn)定困境。首先是顯性特征不突出，商業(yè)意圖在內(nèi)容遷移過程中被技術(shù)外衣深度包裹；其次是主觀意圖證明困難，吳沈括分析道，“由于技術(shù)邏輯拉長了因果鏈，導(dǎo)致廣告認(rèn)定的直接性被削弱”；最后，由于各方主體在業(yè)務(wù)操作中的定性具有模糊性，使得將其直接歸入廣告范疇仍存在實踐困難。

針對AI中的推廣，最大的挑戰(zhàn)在于其因果邏輯復(fù)雜、監(jiān)測取證困難以及難以被跨地域協(xié)同監(jiān)管。

對此，吳沈括建議，監(jiān)管方需要建立“生態(tài)治理”思維，引入技術(shù)、標(biāo)準(zhǔn)與規(guī)則，為責(zé)任界定提供更清晰的框架，捍衛(wèi)用戶的知情權(quán)與選擇權(quán)。

智能與真實之間的平衡

AI助手中到底該不該存在廣告呢？

吳書認(rèn)為，作為一個為公眾提供服務(wù)的互聯(lián)網(wǎng)產(chǎn)品，在其中投放廣告是一種合理的回報方式。隨著用戶的使用習(xí)慣逐漸從搜索引擎轉(zhuǎn)向大模型，大模型自然會成為廣告的新載體，如果管理得當(dāng)，有望成功塑造一個健康的新業(yè)態(tài)。

在徐躍東看來，未來AI中的廣告將朝著多模態(tài)、交互式和自動化的方向演進(jìn)。他表示，在未來，廣告不僅會將聲音、圖片、視頻等多種形式整合在一起，還能借助智能體技術(shù)實現(xiàn)個性化創(chuàng)意生成。不過，徐躍東也強(qiáng)調(diào)，如何在創(chuàng)新與規(guī)范之間取得平衡至關(guān)重要。

吳沈括強(qiáng)調(diào)，對此類操作進(jìn)行顯著標(biāo)注是未來的發(fā)展方向。目前，《人工智能生成合成內(nèi)容標(biāo)識辦法》可以作為法律依據(jù)；其次，《中華人民共和國廣告法》中規(guī)定的廣告具有可識別性，《中華人民共和國消費者權(quán)益保護(hù)法》也要求尊重消費者的知情權(quán)、選擇權(quán)。同時，將廣告明晰標(biāo)注能讓用戶在決策時擁有更堅實的事實基礎(chǔ)。

此外，多名專家提醒，品牌方必須樹立合規(guī)紅線意識，杜絕編造虛假信息，在與合作方的協(xié)議中明確權(quán)責(zé)，建立全流程的監(jiān)測監(jiān)督機(jī)制。

與此同時，吳沈括建議，AI使用者（消費者）也需要持續(xù)提升自身的數(shù)字素養(yǎng)，對AI提供的信息保持審慎的態(tài)度，學(xué)會交叉印證，判斷信息的真實性和來源的可靠性。

更專門的法律條款、更透明的標(biāo)注機(jī)制和全流程的合規(guī)意識，可以確保技術(shù)進(jìn)步不偏離法治與公平的軌道。

最新評論