馬斯克等千人簽署公開信,人工智能開發危及“文明控制權”?

                                                                                  分享到:

                                                                                  馬斯克等千人簽署公開信,人工智能開發危及“文明控制權”?

                                                                                  2023年03月30日 00:22 來源:中國新聞網
                                                                                  大字體
                                                                                  小字體
                                                                                  分享到:

                                                                                    中新網3月30日電 美劇《西部世界》和好萊塢電影《終結者》里曾描繪,人工智能(AI)的“覺醒”可能危及人類。最近,科幻片中的擔憂照進現實,有不少人工智能業界“大佬”突然呼吁暫停開發更強大的AI系統,提出具有人類水平智能的AI系統可能“對社會和人類構成潛在風險”。

                                                                                    他們的擔憂從何而來?人工智能開發會否危及人類的“文明控制權”?AI的發展是否已來到需要按下“暫停鍵”的轉折點?

                                                                                    一封公開信,四問AI風險

                                                                                    近期,美國億萬富翁埃隆•馬斯克和人工智能領域頂尖專家、圖靈獎得主約書亞•本吉奧(Yoshua Bengio)等人聯名簽署了一封公開信,呼吁暫停開發比GPT-4更強大的AI系統至少6個月,稱其“對社會和人類構成潛在風險”。

                                                                                  呼吁暫停巨型AI訓練的公開信。圖片來源:“未來生命研究所”網站

                                                                                    這封發布在非營利性組織“未來生命研究所”(Future of Life Institute)網站上的公開信主張,在開發強大的AI系統之前,應先確認其帶來影響是積極的、風險是可控的。

                                                                                    信中詳述了具有人類水平智能的AI系統可能對社會和人類帶來極大的風險,稱“這一點已經得到大量研究和頂級AI實驗室的認同”,并連續拋出四個疑問:

                                                                                    - 我們是否應該讓機器用宣傳和謊言淹沒我們的信息渠道?

                                                                                    - 我們是否應該讓所有的工作自動化,包括那些令人滿意的工作?

                                                                                    - 我們是否應該發展最終可能在數量上超過我們、在智能上超越我們、能夠淘汰并取代我們的非人類思維?

                                                                                    - 我們應該冒著失去對我們文明控制的風險嗎?

                                                                                    公開信指出,如果不能迅速實施此類暫停,政府應當介入并采取措施。此外,“AI實驗室和獨立專家應該利用這次暫停,共同開發和實施一套用于高級AI設計和開發的共享安全協議,并由獨立的外部專家進行嚴格審計和監督”。

                                                                                  資料圖:人形機器人在電腦上打字的示意圖。

                                                                                    信中還呼吁開發人員和政策制定者合作,大幅加快強大的AI治理系統的開發。這其中至少應當涉及監管機構、審計和認證系統、監督和追蹤高性能AI系統、人工智能造成傷害后的責任問題、為AI技術安全研究提供公共資金等方面。

                                                                                    公開信在最后提到,如今,我們的社會已經暫停其他可能造成災難性影響的技術,對于人工智能也應該如此,“讓我們享受一個漫長的‘AI之夏’,而不是毫無準備地進入秋天”。

                                                                                    技術、倫理、利益,呼吁放慢腳步為哪般?

                                                                                    從這些內容中不難看出,比起技術,公開信的支持者更在意的,是人工智能可能出現的“野蠻生長”,以及它的發展可能帶來的社會和倫理難題。

                                                                                    公開信中提到,此番暫停并不意味著從總體上暫停人工智能的開發,而是從危險競賽中“后退一步”。人工智能的研究和開發應該重新聚焦于使當今強大的、最先進的系統變得更加準確、安全、可解釋、透明、穩健、一致、可信且可靠。

                                                                                    紐約大學教授加里•馬庫斯所人為,“這封信并不完美,但精神是正確的”,他認為,人們需要放慢腳步,直到可以更好地理解這一切帶來的后果。

                                                                                    目前,該公開信已獲上千人簽署,其中不乏開源人工智能公司Stability AI首席執行官莫斯塔克(Emad Mostaque)、谷歌母公司Alphabet旗下人工智能企業DeepMind研究人員、計算機科學家斯圖亞特•羅素(Stuart Russell)等專家學者和科技公司高管。

                                                                                  資料圖:馬斯克。

                                                                                    發布公開信的“未來生命研究所”則主要由馬斯克基金會、硅谷社區基金會等資助。特斯拉首席執行官馬斯克正在將人工智能應用于自動駕駛系統,他也一直坦率表達自己對人工智能的擔憂。

                                                                                    路透社還稱,歐洲刑警組織(Europol)日前也表達了對ChatGPT等先進人工智能在倫理和法律方面的擔憂,警告此類系統可能會被濫用于網絡釣魚、虛假信息和網絡犯罪。此外,英國政府也公布了關于建立AI監管框架的提議。

                                                                                    在網絡上,這封信也引起熱烈討論,有網友表示認同,人們需要知道發生了什么,“僅僅因為我們知道可以建造它,并不意味著應該建造”。

                                                                                    但也有人懷疑馬斯克的動機,“馬斯克之所以會簽署它,因是為他想用自己的人工智能來賺錢?!?/p>

                                                                                    還有人分析,“這很可怕,但我認為有些項目不需要停止。技術正在發展迅速,負責任的創新也是必要的?!?/p>

                                                                                    關于人類和AI關系的思考,從技術誕生之初就沒有停過。著名物理學家霍金也曾說過,“成功創造了人工智能,很可能是人類文明史上最偉大的事件。但如果我們不能學會如何避免風險,那么我們會把自己置于絕境”。

                                                                                    如今,從通過資格考試,到進行藝術“創作”,AI能做的事越來越多,朝著“智能”的方向越走越遠。但同時,利用AI技術進行網絡詐騙勒索、傳播非法信息等犯罪行為也層出不窮。

                                                                                    不同于物理世界技術創新成果轉化的漫長周期,AI技術突破往往會通過互聯網一夜之間散播全球。在人類未能就AI倫理、監管等找到妥善解決之道前,這些討論和擔憂并不多余。

                                                                                  【編輯:周馳】
                                                                                  發表評論 文明上網理性發言,請遵守新聞評論服務協議
                                                                                  本網站所刊載信息,不代表中新社和中新網觀點。 刊用本網站稿件,務經書面授權。
                                                                                  未經授權禁止轉載、摘編、復制及建立鏡像,違者將依法追究法律責任。
                                                                                  Copyright ©1999-2023 chinanews.com. All Rights Reserved

                                                                                  評論

                                                                                  頂部

                                                                                  久久在国线观夜观欧美永久|欧美人与动性行为高清视频|欧美另类极度残忍拳头交|老湿亚洲永久精品ww47|青娱乐极品视觉盛宴午夜一个人