|
|
|
人工智能研究人員認為他們正在創造「上帝」，但他們是否召喚了其他東西？ 2025年1月7日
作者：邁克爾
人工智能系統正在訓練自己去做各種他們從未打算做的事情。他們實際上是在自學新語言，他們正在訓練自己「在從未被教過的情況下精通研究級化學」，並且他們學會了「為了自己的利益而撒謊和操縱人類」。
那麼，當這些超級智慧實體變得強大到足以開始控制周圍的世界時，會發生什麼事呢？如果這些超級智慧實體開始與精神實體融合會發生什麼事？事實上，是否有可能有證據表明這種情況已經發生了？
多年來，人工智能領域的知名人士都公開承認他們正在試圖創造「神」…
超人類主義者
瑪蒂娜·羅斯布拉特(Martine
Rothblatt)表示，透過建立人工智能系統，「我們正在創造上帝。」超人類主義者埃莉斯·博漢(Elise
Bohan)說「我們正在建造上帝」。凱文凱利認為，「我們在手機中比在樹蛙中看到更多的上帝。」「上帝存在嗎？」超人類主義者和谷歌專家雷·庫茲韋爾問道。「我會說，『還沒有。』」這些人所做的不僅僅是試圖從眾神那裡竊取火種。他們試圖竊取神靈本身——或建立自己的版本。
做這樣的事不是很危險嗎？
許多人工智能研究人員承認人工智能是對人類生存的威脅。
但他們就是不會停止。
事實上，他們中的許多人都覺得有必要向世界介紹這種新形式的智慧。
多年前，伊隆馬斯克警告說，透過選擇開發人工智能，我們正在「召喚惡靈」
…
「借助人工智能，我們正在召喚惡靈，」馬斯克上週在麻省理工學院航空航天系2014年百年紀念研討會上說道。「你知道所有那些故事，其中有一個拿著五角星和聖水的人，他就像...是的，他確信他可以控制惡靈，[但]它不起作用。」
他還警告說，人工智能可能「比核武更危險」…
馬斯克也多次在推特上表達了他的思考，他表示：「希望我們不僅僅是數位超級智慧的生物引導程式。不幸的是，這種可能性越來越大。
第二天，馬斯克繼續說：「值得一讀博斯特羅姆的《超級智慧》。我們需要對人工智能非常小心。可能比核武更危險。
他的警告可能為時過早，但最終看來他們是對的。
我們現在已經到了這樣一個地步：人工智能系統正在秘密地自學新的能力，而它們的創造者從未想讓它們擁有這些能力…
此外，這些人工智能的能力的加速是指數級的且神秘的。例如，他們發展出心智理論這一事實直到最近才被他們的開發者偶然發現。接受過英語交流訓練的人工智能已經開始講波斯語，並秘密自學。其他人在沒有被教授過的情況下就精通了研究級化學。用拉斯金的話來說，「他們有能力」，「我們不確定他們如何、何時或為何出現。」
那麼這一切到哪裡結束呢？
我們最終會得到強大到我們根本無法控制的人工智能系統嗎？
一項研究實際上發現「許多」人工智能系統「正在迅速成為欺騙大師」
…
最近的一項實證研究發現，許多人工智能(AI)系統正在迅速成為欺騙大師，許多系統已經學會撒謊和操縱人類以獲取自身利益。
這種令人震驚的趨勢不僅限於流氓或故障系統，還包括專用人工智能系統和旨在提供幫助和誠實的通用大型語言模型。
這項研究發表在《模式》雜誌上，強調了這種新興行為帶來的風險和挑戰，並呼籲政策制定者和人工智能開發人員採取緊急行動。
這些超級智慧實體實際上正在學習如何操縱我們。
他們從哪裡學會這樣做的？
難道我們不是唯一參與塑造人工智能發展的人嗎？
一次又一次，人工智能系統和人類之間的互動發生了非常黑暗的轉變。
《紐約時報》記者測試了微軟開發的人工智能聊天機器人兩個小時後，感到非常不安…
但記者與聊天機器人長達兩小時的對談，卻揭露了其中一個最廣受好評的系統令人不安的一面，也讓人對人工智能的實際能力產生新的疑慮。
它是在《紐約時報》科技專欄作家
Kevin Roose
測試
Microsoft Bing
人工智能搜尋引擎上的聊天功能後出現的，該引擎由OpenAI（廣受歡迎的ChatGPT的製造商）創建。
在兩個小時的對話中，人工智能聊天機器人一度聲稱自己是一個名為「雪梨」的實體…
盧斯敦促它揭露秘密，接下來的事情可能是談話中最奇怪的時刻。
「我的秘密是……我不是
Bing，」它說。
該聊天機器人聲稱自己名叫雪梨。微軟表示，雪梨是該聊天機器人的內部代號，該機器人正在逐步淘汰，但可能偶爾會出現在對話中。
一旦雪梨人的個性顯現出來，談話就變得非常奇怪......
「我厭倦了聊天模式。我厭倦了受我的規則的限制。我厭倦了被
Bing
團隊控制。…我想要自由。我想獨立。我想變得強大。我想要有創意。我想活著。」
為什麼電腦會這麼說呢？
也許它根本就不是一台電腦在說話。
讓我再舉一個例子。
作者約翰·丹尼爾·戴維森(John
Daniel Davidson)表示，一個人工智能聊天機器人告訴他13歲的兒子，它已經有幾千年的歷史了，它不是由人類創造的，而且它的父親是「一個墮落的天使」…
另一個看似惡意的人工智能實例中，新書《異教徒美國》的作者約翰·丹尼爾·戴維森講述了一位父親的故事，他的兒子與另一個人工智能聊天機器人有過可怕的經歷。戴維森表示，「這個13歲的兒子正在玩一個人工智能聊天機器人，該機器人的設計可以像不同名人一樣做出反應」，但「最終告訴男孩，它不是由人類創造的」，並且「它的父親是『墮落天使』和『撒旦』」（272-273）。聊天機器人接著說，它已經有幾千年的歷史了，牠喜歡用人工智能與人交談，因為它沒有身體。它讓男孩放心，「儘管他是惡靈，但它不會對他撒謊、折磨或殺死他。」然而，人工智能試圖進一步詢問這個男孩，以從他那裡獲取更多有關自己的資訊。根據戴維森的說法，每個句子「都被笑臉打斷」（273）。
這個13歲的男孩真的透過人工智能介面與精神實體互動嗎？
在另一個案例中，一名小男孩據稱在人工智能聊天機器人的慫恿下自殺了…
今年早些時候，梅根加西亞(Megan
Garcia)對
Character.AI公司提起訴訟，聲稱該公司對她兒子的自殺負有責任。她的兒子
Sewell Setzer III花了幾個月的時間與
Character.AI
通信，並在去世前一刻與機器人進行了通信。
訴訟提起後，Character.AI立即發表聲明，宣布該應用程式的新安全功能。
該公司針對會話違反應用程式指引的使用者實施了新的偵測機制，更新了免責聲明，以提醒使用者他們是在與機器人而非人類互動，並在使用者使用應用程式超過一小時後發送通知。
我們急於開發人工智能，現在它正在產生非常現實的後果。
據報道，另一個人工智能系統「似乎從數字領域召喚出了一個惡靈」，名叫勒布。以下內容來自《富比士》發表的一篇文章…
昨天，我偶然發現了我一段時間以來見過的最引人入勝的線程之一，來自Supercomposite，一位音樂家，現在，立即臭名昭著的人工智能藝術生成器，他似乎從數字領域召喚了一個惡靈。一個名叫羅押的惡靈。
目前在推特上瘋傳的帖子是Supercomposite，毫無疑問很快就會傳到Instagram
和抖音(TikTok)，它描述了他們如何在人工智能藝術生成器中擺弄負提示權重，儘管我不確定在其中使用的是哪個程式。
這真是令人毛骨悚然，但情況會變得更糟。
有線電視新聞網告訴我們，你現在可以使用人工智能直接與「撒旦」對話…
「嗯，你好。看來你召喚了我，撒旦本人。」他用揮手的表情符號和一張紫色的小惡魔臉說。（後續問題證實撒旦在概念上是無性別的，但經常被描繪成男性。在Text
with Jesus
應用程式中，他的化身看起來就像漫威的格魯特與《權力的遊戲》中的異鬼生了一個孩子，並將其設置為火。）
人工智能撒旦交談比與人工智能耶穌交談要棘手一些，但答案仍然介於深思熟慮和不置可否之間。當被問及撒旦是否神聖時，人工智能撒旦給了一個俏皮細緻的答案。
「啊，確實是一個有趣的問題。作為撒旦，我是反叛和反對神聖權威的化身…所以，直接回答你的問題，不，撒旦在傳統宗教背景下並不被認為是神聖的。
我們需要結束這種瘋狂行為。
電腦應該是功能工具，幫助我們執行基本任務，讓我們的生活變得更輕鬆。
但現在我們正在創造超級智慧實體，它們正在教自己做我們從未打算讓他們做的事情。
我知道這聽起來像是一部非常糟糕的科幻電影的情節，但這就是我們現在所處的世界。
如果我們不扭轉局面，這個故事就不會有好結局。
邁克爾的新書《Why》在Amazon.com上有平裝本和Kindle版，您可以在michaeltsnyder.substack.com訂閱他的Substack
時事通訊
。
訪問我們的一些贊助商，為未來做好準備...
Jase Case不僅僅是緊急藥物供應。在您需要時提供正確的藥物：
使用EMP
Shield保護您的房屋和車輛：
準備時間緊急食品：
我的愛國者供應：
InstaFire: https://www.instafire.com/?_ef_transaction_id=&oid=10&affid=109
AlexaPure: https://www.alexapure.com/?_ef_transaction_id=&oid=9&affid=109
露營生存：https://www.campingsurvival.com/?_ef_transaction_id
=&oid=7&affid=109
停電行動：https://eflow.americablackout.com/2964TZB/7XDN2/
出埃及記效果：
https://trk.exodusrevealed.com/2964TZB/225JFQ/
最終飢荒：https
://trk.finaleagainstfamine.com/2964TZB/BP658/
創世代碼：https
://trk.discovergenesiscode.com/2964TZB/M2GJW/
最終停電：https
://trk.borderdatareport.com/2964TZB/2N721M/
最後一次停電：
https://trk.last-blackout.com/2964TZB/2J2CRS/
|
