人民網
人民網>>觀點

人民網三評“AI伴侶”之一:不能忽視情感倫理

劉興亮
2024年11月28日08:45 | 來源:人民網-觀點頻道
小字號

“你想建立一份虛擬關系嗎?在關懷備至與悉心呵護中感受前所未有的慰藉。”“獲得自己的‘知心愛人’,享受完美的‘靈魂伴侶’。”登錄一些“AI伴侶”網站賬號,就可申請你的虛擬伴侶。

這一幕對於很多80后、90后來說,是多麼地似曾相識。沒錯,機器人伴侶在經歷了電子寵物、富於同理心的聊天機器人、能識別和理解人類話語的傾訴對象三個階段后,跨入了 “AI伴侶”階段。

“AI伴侶”是具有一定程度的智能和自主性以及社交技能的機器人或虛擬對象。它們展現出非凡的現實性、適應性和互動性,富有同情心,擅長開放式對話,能夠與客戶建立愉快且相互理解的關系。這種關系可以說是信任、兼容、相互熟悉的,用戶通常更容易向人工智能敞開心扉談論恐懼和不安全感。在互動過程中,AI會通過觀察用戶的過去經歷來嵌入其人際關系網絡,通過對話逐步進化,微調其反應以匹配用戶的興趣、需求和溝通風格,讓使用者感到安全和幸福。一些研究表明,“AI伴侶”能夠減輕個人的孤獨感。

凡事都具有兩面性。“AI伴侶”一經出現,就引起了有關道德和人類情感秩序的擔憂。“AI伴侶”可以提供個性化情感體驗和精神慰藉,但並非真實的“完美戀人”。AI的本質是數據和算法,所謂的情感共鳴,是在不斷刺激用戶對AI戀人的消費欲望和情感期待。過度依賴“AI伴侶”可能會阻礙關鍵人際交往能力的發展,此外這些“AI伴侶”也有可能以不符合用戶最佳利益的方式影響用戶的思想或行為,在社會決策上做出不符合自身利益的判斷,等等。這些隱蔽的邏輯關系,都掌握在AI開發者的手中。

“AI伴侶”的體貼和順從,讓人如沐春風的感受背后,隱藏著一種倫理危機,即對現實情感關系的背離傾向。現實親密關系的建構過程往往伴隨著羈絆、紛爭和挫敗感,這正是人機交往中所缺乏的。長期沉溺於“人機之戀”,用戶可能產生不健康的情感依賴,忽視現實世界的關系或失去處理人際交往的能力。通過這些互動收集的大量個人數據也引發了隱私問題,誰也不能保証個人秘密、圖片和視頻不會被泄露出去。甚至,如果編程出現漏洞,聊天機器人行為不當或操縱用戶的風險可能就很高。

不得不說的是,“AI伴侶”關系傾向無原則的畸形關系,忽視了人類情感中小心翼翼、羞澀保守的天性。與所有人工智能模型一樣,支持“AI伴侶”的模型接受過包含大量浪漫小說和愛情故事的數據訓練。它們會模仿這些數據做出回應,讓其對象深陷其中難以自拔。

“AI伴侶”的興起代表著技術、心理學和人類情感的迷人交匯。雖然人工智能可以提供有價值的支持,但真實人際關系的復雜性和不可預測性仍然具有獨特的價值。正確的選擇在於將這些數字關系視為人類互動的補充,而不是替代。通過保持這種平衡,我們可以利用人工智能陪伴的好處,同時保留人際聯系不可替代的價值。人不能單純地專注於虛構的互動,仍需真正的陪伴,需要以現實為基礎的思想、情感或欲望帶來的對話空間。

因此,在人工智能影響現實生活的潛在能力上,必須劃出一條明確的界限,哪些是可能的,哪些是禁止的。

(責編:徐玉涵、曲源)

分享讓更多人看到

返回頂部