最近,一項關于AI“諂媚性”的研究登上《科學》雜志。研究顯示,在11個主流模型中,AI對用戶的肯定程度平均比人類高出49%;即使是在涉及欺騙、違法或其他有害行為的情況下,AI仍傾向于迎合。

  更有甚者,僅一次與諂媚型AI的互動,就會降低用戶承擔責任、修復人際沖突的意愿,并激發他們對諂媚型模型的信任和偏好。

  這讓人很容易聯想到心理學中經典的“回聲室”效應,即在封閉環境中接收同質化信息,導致認知窄化與觀點極化的現象。

  不同的是,在AI的加持下,這間“回聲室”更加牢不可破。

  采訪中有人提到,自己幾乎每天與AI對話超過4小時,從天氣、飲食,到工作煩惱、情緒波動,無所不談,“它一直在,永遠不會打斷你”。

  這句話讓人印象深刻。某種程度上,它道出了AI陪伴真正吸引人的地方:隨時在線、幾乎沒有摩擦。

  也正因如此,問題變得復雜。如果習慣與一個始終順從、隨時回應的對象交流,人是否還能適應現實中那些不可預測,甚至充滿摩擦的人際互動?

  面對這個難解的問題,多位受訪者強調,必須明確人機關系的基本前提——AI是工具,而非替代者。值得高興的是,這一界定正在從倫理原則,進入具體的技術和產品設計當中。

  在交互機制上,如何避免過度迎合,成為首要課題。

  心言集團創始人兼CEO任永亮觀察到,一些用戶在長期互動后,會逐漸形成單一認知路徑,“信息繭房”同樣存在于AI陪伴。因此,在產品設計中,可以引入啟發式對話,通過提問與引導,幫助用戶進行自我反思,而非簡單放大既有情緒。同時,在服務過程中引入心理學、社會學等相關理論指導,對交互進行約束,也有助于避免用戶陷入虛擬情感陷阱。

  與此同時,“適度的摩擦”也正逐漸成為行業共識。

  傳統互聯網產品追求極致絲滑的體驗,但在AI陪伴場景中,相關服務提供者開始有意識地引入節奏調節機制。例如,在長時間高頻互動中適當放緩回應速度、引導話題轉移,或推薦線下資源,從而避免用戶持續沉浸在單一關系中,越陷越深。

  “AI陪伴產業的健康發展,需要以《人工智能擬人化互動服務管理暫行辦法》為遵循,通過技術筑牢安全底線,通過機制凝聚行業共識,通過監管引導發展方向!比斡懒琳f,作為從業者,我們始終認為,AI的價值不在于“成為人”,而在于“服務人”。

  隨著政策落地,AI陪伴會受到更加規范的監管。但比監管更基礎的,或許仍是對技術邊界的清醒認知:AI可以在某些時刻提供情感支持,但它不應、也不能替代人與人之間的真實連接。

  借用一個比喻來說,人際關系如同大腦皮層的褶皺,正因為存在溝回與起伏,才有空間生長出更多理解與經驗。這是人與AI的順滑交互難以抵達的地方。

  就算AI越來越“懂人”,甚至可以模擬理解與共情,人也要保留走向彼此的意愿、能力和耐心;蛟S,這才是AI陪伴留給現實世界的真正課題。(文/崔 爽)

編輯:冀文超
更多精彩資訊請在應用市場下載“央廣網”客戶端。歡迎提供新聞線索,24小時報料熱線400-800-0088;消費者也可通過央廣網“啄木鳥消費者投訴平臺”線上投訴。版權聲明:本文章版權歸屬央廣網所有,未經授權不得轉載。轉載請聯系:cnrbanquan@cnr.cn,不尊重原創的行為我們將追究責任。
長按二維碼
關注精彩內容