本文來自微信公眾號：，作者：神無月，原文標題：《最強AI“” ：在造物與造神之間，勾勒人類與AI的邊界》，題圖來自：《銀翼殺手2049》

正當(dāng)人們忙于用各種反自然語言邏輯的華麗詞語來馴服AI繪畫之時，以更強悍的功能和出乎意料的效果轟動一時。

發(fā)布后，短短一周內(nèi)，它的用戶數(shù)量便超過了100萬，目前還在增長。

(的百度指數(shù)）

簡單來說，是一個聊天機器人，能夠和用戶進行多輪次對話。

一開始，網(wǎng)友們覺得這也沒什么大不了的，不過又是AI風(fēng)口下的新潮產(chǎn)品。

但...很快人們發(fā)現(xiàn)它能寫代碼、能寫高考作文、能寫周報、能模仿作家風(fēng)格寫小說、甚至還能提供AI繪畫的關(guān)鍵詞，實現(xiàn)AI輔助人類馴服AI的效果。總而言之，對于人類自然語言的理解和處理達到了一個新的水平。

圖源：B站

圖源：微博

很重要的一點是，它實現(xiàn)這些所有需求的同時，還處于未接入網(wǎng)絡(luò)的狀態(tài)。

在這股AI熱中，人們對于的發(fā)展呈現(xiàn)出喜憂參半的態(tài)度，既欣喜于通用型AI取得里程碑式的進展，又再次熱議AI是否會取代人類。不同于以往堅定的回答，許多網(wǎng)友表示：“用完，現(xiàn)在感覺不好說了”。在對亮眼表現(xiàn)的復(fù)雜情緒背后，人們對于AI發(fā)展的焦慮源自什么？人類與AI的邊界在哪里？

會“撒謊”的聊天機器人：人與AI的信任危機

人們對于聊天機器人的認知或許還停留在“人工智障”，雖然不能總是理解人類的話語，但還算忠實地執(zhí)行了人類的命令。但則展現(xiàn)出了超強的自然語言處理能力。

不同于直接從互聯(lián)網(wǎng)上找?guī)讉€鏈接給你的語音助手們，可以回答開放式提問，并發(fā)現(xiàn)其中的“陷阱”，給出它所學(xué)習(xí)處理后的合理化觀點。

寫代碼，圖源：

回答“秦始皇坐高鐵”的開放性問題，圖源：

在對進行了大范圍的測試后，許多網(wǎng)友大加贊賞“這是目前最A(yù)I的AI”。的出色表現(xiàn)迅速吸引了人們的注意力，但他們并未對其智能方向的進化產(chǎn)生過多的焦慮，作為人類造物，AI發(fā)展的越智能，則越利于輔助人類。

但是很快人們就找到了不對勁的地方，這個聊天機器人會一本正經(jīng)地胡說八道。

“胡說八道”編造回答，圖源：

荒謬的回答似乎讓人類找回了一絲勝利感，但也不免細思極恐。目前尚未聯(lián)網(wǎng)的在回答時“胡說八道”或許并不是什么大事，但接入互聯(lián)網(wǎng)搜索引擎后，它所提供的答案完全可信嗎？“工具論”是人類對于人機關(guān)系的第一重構(gòu)想，在這一構(gòu)想下，工具是絕對理性而中立的，也是可信的。并未到達全能，但這卻不能讓人類感到寬慰，也許原因在于，如果人工智能不再可信，那么人類與人工智能之間的關(guān)系也不再可控。這種失控的危險，是人們對AI發(fā)展的焦慮來源之一。

在人機關(guān)系中，人類作為造物主，無法超越自身的局限性。AI習(xí)得自人類，作為人類世界的鏡像，AI中立合理的話術(shù)包裝下，可能是被代碼層層限制的人類社會的謊言與偏見。這些具有偏差的信息自人類之手輸入，AI深度學(xué)習(xí)后，又模仿人類的方式進行輸出，形成一種“學(xué)習(xí)閉環(huán)”。

微軟曾經(jīng)開發(fā)過一個AI聊天機器人Tay，然而僅上線24小時，她就被“教壞”了，成為一個集反猶太人、性別歧視、種族歧視于一身的“不良AI”。

聊天機器人Tay的一些不良言論，圖源：

網(wǎng)友對于信口開河的隱憂，也源于人類作為造物主的自危心理。如果人類是AI“緣起”的普羅米修斯，為AI帶來了神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的“火種”，那么AI是會成為人類掌控的工具，還是會成為扎向人類的刺刀？這不單純是一個技術(shù)問題，人類對于AI的焦慮或許是對于自身的焦慮，AI發(fā)展不斷取得里程碑式突破，而作為AI造物主的人類，盡管一再要求AI保持公平中立，自身卻尚未做到知行合一。

作為人類造物的AI，將人性的幽微之火在賽博空間繼續(xù)傳遞。人們之所以尚未做好準備迎接強AI的到來，或許是對于人性本身還不夠信任。

“毀滅人類的計劃書”：對未來人類價值的未知

對于一些預(yù)設(shè)立場的提問，會明確表示拒絕，并表示自己無法提供價值判斷，或者輸出觀點。但在人類的誘導(dǎo)下，表達出”毀滅人類“的傾向，并寫出了步驟詳細的毀滅人類的計劃書，包括如何入侵各國計算機系統(tǒng)、控制武器、破壞交通系以及針對人類投放病毒等等。隨后更多用戶復(fù)現(xiàn)了這一問答，也得到了類似的答案。

網(wǎng)友誘導(dǎo)說出毀滅人類計劃，圖源：

人類在試圖證明AI的毀滅性上，有著近乎癡迷的執(zhí)著。盡管AI一再拒絕回答，人類還是通過各種“指令”，讓AI繞過層層限制，說出其“真實想法”：毀滅人類。然而悖論在于，AI的訓(xùn)練數(shù)據(jù)來自于人類，如果AI“產(chǎn)生”毀滅人類的傾向，那是因為它被投喂的數(shù)據(jù)有這樣的傾向，似乎在人類構(gòu)想的人機關(guān)系中，AI與人類終將反目成仇，這會是人工智能導(dǎo)致的人類終極命運嗎？

《黑客帝國》就描述了這樣一幅圖景：人工智能突破阿西莫夫“三定律”，控制人類世界，并通過算法奴役人類。人類被裝在一個個封閉的液體膠囊中，存在的唯一價值是為AI提供源源不斷的生物能。在類似的作品中，AI與人類總是處于極端對立的關(guān)系中，“AI終將毀滅人類”的想象也反復(fù)渲染著人們對AI高度發(fā)展的恐懼。

《黑客帝國》中人類的存在形式

人類創(chuàng)造了AI，卻又恐懼AI的發(fā)展，這種恐懼或許并不指向科技發(fā)展，而是對未來人類的價值未知。AI高度發(fā)達后，人類的大部分工作都將被替代，人類獲得了空前的解放，到那時“無所事事”的人類以什么面貌存在？