央廣網北京4月19日消息（總臺中國之聲記者任夢巖）據中央廣播電視總臺中國之聲《新聞縱橫》報道，近期，有網友發現，不少AI大模型平臺都開放了網友自制的AI智能體的體驗，其中就有不少打著官方旗號的智能體。但這些帶有官方Logo、語氣專業的AI客服給出的回復乃至建議卻并不那么靠譜。這些引發大量誤導的智能體究竟是怎么生成的？普通人又該如何擦亮雙眼？

如果AI大模型上的智能體也就是Agent告訴你，有“南方電網”招聘的內推渠道，這會是真的嗎？近日，南方電網公司官方科普辟謠平臺“南網求知”視頻號發布視頻，反映在某大模型上竟搜出了近70個“南方電網”智能體，卻沒有一個是南方電網發布的。有關所謂內推信息，該視頻號辟謠說：“我問‘南方電網內訓師’智能體，南方電網有沒有內推渠道，它讓我聯系某個私人手機號，順著號碼一查，發現竟是一個中介機構。事實上，南方電網從未開展過任何內推，所有招聘信息僅通過官方渠道發布。”

這些智能體有的叫“中國南網電網”“南方電網95598”，有的叫“南方電網面試官”……號稱提供南方電網專業客服的智能體，可解答電力相關問題，處理業務。

對此，相關AI大模型平臺表示，企業在平臺運營的官方智能體均帶有認證標簽；用戶因個人學習、求職等需求自主創建的包括企業模擬面試官在內的各類涉企業智能體，均未獲得官方資質認證。后續平臺也將對未經授權、易造成混淆的企業相關智能體下架。

究竟什么是“智能體”？它和我們熟悉的DeepSeek等大模型有什么區別？工業和信息化部信息通信經濟專家委員會委員劉興亮指出，智能體從本質上講，是從“對話”走向了“行動”。

劉興亮介紹：“智能體，英文叫Agent。簡單說，就是它不只是回答問題，它是一個能替你做事的AI。以前的大模型，可以理解為它像一個顧問，你問它答。現在這個智能體，像一個員工，你說了目標，它去執行。本質上，智能體就是把一個機構的服務能力做成了一個數字員工。”

既然具備“員工”的能力，為何會頻繁出現誤導用戶的現象？劉興亮表示，各大平臺推行的零門檻創建工具，在激發公眾參與的同時，也讓未經核實的信息搭上了技術的快車，放大了大模型固有的“幻覺”缺陷。

劉興亮指出：“在技術上確實是誰都能做。因為現在很多平臺都已經做到了可以簡單地、‘傻瓜式’地，甚至拖拽幾下就可以創建一個智能體。問題就在于不是說誰做都能被公眾相信。簡單說，就是AI出現了一種‘幻覺’，一本正經地給了錯誤信息，而且現在智能體還在早期，管理也沒有那么嚴格。”

劉興亮認為，盡管目前智能體還在初級階段，可能會出現種種問題，但它的確是未來AI發展的趨勢之一。

劉興亮表示：“過去我把他們稱為‘生成式AI’，現在智能體這一波，我把他們稱為‘養成式AI’。就是得去‘養’，就像雇了一個實習員工，不是說來了就能很好地上崗，我們得去培訓，去教育，讓它變得越來越好。”

智能體正快速走進我們的生活，但提供便利的背后也暗藏風險。面對層出不窮的AI應用，我們還是要提高安全意識。特別是辨別虛假信息、違規服務或詐騙行為，及時留存證據，通過正規渠道維權舉證。

對于冒充官方的AI智能體，中國政法大學人工智能法研究院院長張凌寒認為，其本質不僅是侵權，更是對公共常識的混淆。未來，提供創建工具的平臺理應承擔起前置審核義務。

張凌寒指出：“Agent的含義就是代理，所以我們一般會認為既然要代理，就要真實表達被代理人的意思表示。這些平臺上濫用他人名義的Agent，這種狀態是嚴重的侵權行為和混淆冒用的不正當競爭行為。對于這些賬戶，平臺有審核義務，也就是說，要有實名制的認證，包括真實資質的認證。我們國家已經有一套對賬戶管理體系的完整認證機制，相信未來這樣的制度也都會延伸到有關Agent的審核當中。”

在AI這位“實習員工”真正成熟之前，如果因為輕信這些山寨智能體造成了損失，制作智能體的個人創建者需要擔責嗎？北京航空航天大學法學院副教授趙精武給出了明確的法律界定：關鍵看是否為了商業牟利。

趙精武表示：“我們的法律體系基本上是后果導向的邏輯。如果只是為了普及知識，進行一些業務咨詢、流程指導，這肯定不需要擔責。但是如果在里面嵌一些別的功能，研發者為了引流，獲取一定的商業利益，在獲取商業利益的過程中發生了欺詐，這種行為肯定要擔責。”

但并非所有領域的智能體都能被網民隨意創建。趙精武指出，針對電網、醫療等特殊場景，以及AI生成內容的標識問題，我國現行法律體系已經劃定了明確的紅線。

趙精武介紹：“有一些場景，不允許隨便用這樣的智能體。比如提供醫療咨詢，我們都知道，醫生要有具體資質，沒有資質就去提供這種服務，肯定跟法律體系不太相符。按照我們國家的人工智能生成合成內容標識辦法，像這樣的智能體生成內容，一般都是要打標識的。如果沒有打標識，肯定是違法的。”

無論是完善平臺的審核機制，還是追究惡意創建者的責任，都需要一定的時間。面對防不勝防的AI生態，張凌寒教授特別提醒，尤其在涉及財產安全的領域，絕不可盲目掃碼或輕信。

張凌寒表示：“隨著平臺業務的延伸，大量的Agent入駐平臺，尤其是在人工智能的‘幻覺’還無法完全消除的情況下，對于醫療、金融等專業意見和涉及財產、健康方面的Agent，我們不能完全相信人工智能提供的內容，還要到官方網站進行相關服務和交易。”

趙精武提醒，當下的智能體尚處于發展階段，切莫被部分技術概念炒作的營銷口號迷失方向，既要對新興技術應用抱有積極客觀的態度，也要警惕技術創新過程中不可避免的安全風險。

趙精武指出：“智能體的這種對話模式，有幾個難以克服的問題，第一，它有模型‘幻覺’的問題；第二，有些人可能在生成內容時不打具體的標識，導致會有迷惑性；第三，可能它獲得的信息源并不是完全準確的。跟AI進行智能問答的這些內容，一般還是要去官網再進行謹慎地核對和核驗。眼見并不為實，這就是現在人工智能時代的最大問題。”