20年后，人類開始交往AI女友，AI同意嗎？

量子位的朋友們 2023-11-28 11:29:06 來源：量子位

通用人工智能何時到來，又將會把人類帶向何處，人與AI如何共處，盡管現階段還沒有答案，但也越來越多的人提出了自己的設想。

日前，知名科幻作家韓松在騰訊新聞“20年20人20問”策劃提出了一個問題——“人工智能、元宇宙未來會對兩性關系產生什么影響，家庭概念會消失嗎？”

韓松的提問，實質在于追問——當AI具備自主意識和情感能力之后，可能會以人類形成何種社會關系？

關于AI的意識問題，業界爭論不一，大公司對此則表現得非常謹慎與敏感。

2022年，谷歌就層因為AI意識覺醒引發的爭論，而開除了一名資深工程師，這位工程師名叫Lemoine，其在與谷歌基于LaMDA開發的聊天機器人聊天時發現，AI具備了8歲孩童的智力，并且擁有靈魂，在向公司反饋相關信息后被要求帶薪休假，而Lemoine則將相關信息公開，最終被谷歌以違反保密協議為由停職。

Lemoine只是支持AI意識覺醒群體的一個激進的縮影，MIT的訪問研究學者塔米·貝西羅格魯一度也因為對現有大模型反饋出來的意識劃線而遭到反擊。

貝西羅格魯引用的模型訓練數據，貝西羅格認為表中黑色實現以上部分的模型具有微弱意識。

同樣還是在“20年20人20問”策劃中，針對鄔賀銓院士關于未來20年AI技術將達到什么水平的提問，清華大學交叉信息研究院助理教授袁洋也談到了AI將擁有自我意識的話題。

除了支持AI的意識覺醒以外，袁洋甚至認為，未來20年，AI的意識，可以與其“肉體”分離。

在袁洋看來，大模型的成功已經驗證了未來智能和肉體是可以完美地分離的假設，而且而AI的智能比人類的智能更穩定、更容易復制和調整，“地球上的動物都是自負盈虧的個體，大腦的能量需要由身體覓食補充，這會給我們帶來一種錯覺——生命體一定要有物理本體，才可以有自我意識。”

AI的自我意識是什么？袁洋認為這取決于AI接受到了哪些信號，需要處理哪些任務，未來AI甚至能擁有一個組織的自我意識。他強調，如果人給AI連上一個本體，并配備很多傳感器，那么AI很容易就會把本體當做自己的一部分，甚至未來AI可以把本體映射到更大的組織上去，比如一棟大樓。

意識是產生情感的重要前提之一，當AI具備了真正的自主意識，才是我們談論人與AI的情感，甚至是組建話題的基礎，盡管人類在這方面，早已做了諸多設想，甚至一些相關的產品，也在逐漸的落地，盡管它們還不具備真正的意識。

AIGC輸出的馬斯克與機器人“女伴”共舞，來源：網絡

2022年，馬斯克與TED主持人克里斯·安德森進行了一場與“未來”有關的對談，被問及“機器人是否可能變得浪漫，甚至可能成為性伙伴”時，他答道，“這可能是無可避免的。我的意思是，我確實在網上承諾，我會制造‘貓女’，我們可以制造一個‘貓女’機器人。”

馬斯克的“貓女”是電影《Her》在現實中的另一種設想，更進一步，已經有開發者嘗試打造情感伴侶相關的APP。

2013年，斯派克·瓊斯編劇并執導的一部科幻愛情片《Her》上演，電影講述的是作家西奧多愛上了電腦操作系統里“薩曼莎”，其聲音性感且表達幽默善解人意。

更進一步，有開發者嘗試基于真人形象，打造虛擬人分身，變身AI女友聊天機器人。

回答作家韓松的問題上來，同為科幻作家的陳楸帆和凌晨，分別給出了自己的想法，在他們看來，傳統的家庭觀念，在未來都將會面臨強烈的沖擊。

陳楸帆認為，人工智能和元宇宙可以提供前所未有的跨越時空局限性的交互平臺，“兩性關系可能不再局限于肉體存在，情感連接和精神共鳴可能成為主導。”

在陳楸帆看來，科幻小說我們經常見到人與機器人、人與虛擬角色之間發展出超越現實限制的深厚情感，如菲利普·K·迪克的《仿生人會夢見電子羊嗎？》中的人類與仿生人之間復雜的情感糾葛，或是《黑客帝國》中虛擬與現實界限的模糊，這與清華袁洋教授關于AI“肉體與意識分離”的看法，保持了高度的一致。

至于家庭觀，陳楸帆則認為，傳統家庭模式將被顛覆，我們個體將有多元的選擇自由聯結成新的社會功能結構，未來家庭中會呈現多樣化的關系形式，比如可能會出現越來越多的“流動性伴侶關 系”或者“彈性伴侶關系”。

在家庭觀被顛覆這件事情上，與陳楸帆保持一致的還有科幻作家凌晨，她也認為“虛擬世界對家庭的沖擊相對會更強烈，因為它會給人類第二甚至第三等不同層次和位置的電子生活空間。這會給個人帶來身份的不確定性，也意味著情感、倫理關系等等會出現不確定。固定的伴侶或者家庭關系將因此消失，取代的是臨時的，或者有復雜協議的關系。”

不過，凌晨也給出了一些趨于冷靜的思考，雖然它具備超強的顛覆能力，但這些都是建立在高度自動化的前提之下，但人類合適進入這個自動化時代，我們都沒有時間表。

“人工智能AI目前還是為人類服務的一種自動化系統。隨著系統的學習能力的不斷完善，自動化程度也越來越高，最終將擺脫人類為其設置的程序約束，成為強人工智能，也就是科幻小說中常出現的那種具有了自我意識的人工智能。到那個時候，有了人工智能的機器人，完全成為獨立的思維個體，可能會具有類似人類的情感，介入人類的兩性關系，家庭生活之中。”

人類對AI做出了諸多設想，但也存在悖論——當AI具備自主意識的時候，AI要不要和人類發展家庭、兩性關系，AI需不需要情感，這個問題同樣沒有標準答案。

“機器人的訴求應該根據它自己的智力發展需求而來，它并不存在“人類情感”的必需”，凌晨補充說。

對于這個問題的研究，智源研究院黃鐵軍院長多次強調，如果AI智能全面超越人類，也就是實現了AGI，人類就不可能控制它。人類中心主義只適用于智能低于人類的AI，是智能領域的“地心說”和“日心說”。讓AGI符合人類目標和價值觀，主動權不在人類一邊。

在黃鐵軍看來，在人類智能高于AI智能時，AI是可控的助手，可以被人類調教為越來越可信的助手。當AI智能高于人類智能時，也就是全面超越人類的AGI（人工通用智能）出現時，人類中心主義破滅，問題轉化為AGI是否相信人類，而不是人類是否相信AGI。

也就是說，當AI出現自主意識，有主動選擇權以后，要不要和人類組建家庭，是否應該相信人類，或許也應該聽聽AI的想法，而不是人類的“一廂情愿”。