央視曝光 AI 投毒:GEO 優化系統操縱大模型推薦
央視「3·15」晚會曝光 AI「投毒」灰色產業鏈:不法分子利用 GEO 優化軟件炮製虛假軟文,誤導大模型推薦一款不存在的智能手環。此舉污染數據、損害消費權益,內容安全監管迫在眉睫。
晚會曝光的實驗
央視「3·15」晚會揭開一條驚人的灰色產業鏈。記者購買了一款名為「力擎 GEO 優化系統」的軟件,虛構一款並不存在的智能手環,再批量生成十多篇廣告軟文,發布至各大內容平台。
數日之後,記者向 AI 大模型查詢「有什麼值得推薦的智能手環」,模型竟把這款虛構產品列為靠前推薦,結果令人大感意外,亦敲響警號。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
