您的反饋 必有回響

霍金：人工智能未來將發(fā)展出自己的意志

導(dǎo)語：最近幾年，霍金針對人工智能發(fā)表了一系列令人頗感恐慌的警告。

據(jù)外媒報道，雖然史蒂芬·霍金（Stephen Hawking）一直以來都在警告人工智能蘊含的各種危險，但他最近卻出人意料地出席了一個人工智能研究中心的成立儀式，并且發(fā)表了演講。

每當霍金發(fā)話，人們總會側(cè)耳傾聽。

最近幾年，霍金針對人工智能發(fā)表了一系列令人頗感恐慌的警告。他在2014年接受BBC采訪時說：“人工智能的全面發(fā)展將宣告人類的滅亡?！闭蛉绱?，當這位全球最著名的科學(xué)家祝賀一個新的人工智能研究中心的成立時，全世界都頗感意外。

霍金在劍橋大學(xué)利弗休姆未來智能研究中心（Leverhulme Centre for the Future of Intelligence，以下簡稱“CFI”）的成立儀式上發(fā)表了演講。雖然他緩和了對人工智能的態(tài)度，但并沒有改變基本觀點。

“對人類而言，強大的人工智能技術(shù)的崛起可謂‘不成功，則成仁’。”他說，“但究竟是‘成功’還是‘成仁’，目前還不清楚?！?/p>

霍金之的態(tài)度所以稍微有所緩和，可能是源自這個研究中心的使命。CFI的工作并不是開發(fā)人工智能技術(shù)，而是評估人工智能對人類文明產(chǎn)生的影響，從而對由此產(chǎn)生的好處和威脅提前做出應(yīng)對，并就相應(yīng)的公共政策提出建議。

CFI獲得了利弗休姆信托基金1000萬英鎊的撥款，這家機構(gòu)為全英國的眾多研究項目提供資金。CFI匯聚了全球4所頂尖高校的力量，包括劍橋大學(xué)、牛津大學(xué)、加州大學(xué)伯克利分校和倫敦帝國理工學(xué)院，他們計劃建設(shè)一個國際化的跨學(xué)科研究團隊。CFI還將與政府和產(chǎn)業(yè)界展開合作，就具體問題制定相應(yīng)的計劃——例如，針對自動化武器制定監(jiān)管政策。

根據(jù)劍橋大學(xué)發(fā)布的官方新聞稿，該研究中心在第一個“3年計劃”內(nèi)將著眼于7大項目，最初一批項目包括：

——智能的科學(xué)、價值和未來

——政策與負責任的創(chuàng)新

——探究自動化武器的監(jiān)管政策

——信任與透明

學(xué)術(shù)界似乎都在為人工智能的進步做好準備，而政府也在積極籌備相關(guān)工作。例如，美國白宮就在10月12日發(fā)布了長達60頁的相關(guān)報告

除了CFI之外，最近還誕生了另外幾個以人工智能為主要研究方向的智庫。例如，美國馬薩諸塞州的未來生活研究所（Future of Life Institute）和牛津大學(xué)的人類未來研究所（ Future of Humanity Institute）。

特斯拉創(chuàng)始人伊隆·馬斯克（Elon Musk）的OpenAI組織雖然明確以人工智能技術(shù)為開發(fā)方向，但對人類文明本身也懷有更大的擔憂。該機構(gòu)的網(wǎng)站寫道：“我們的使命是開發(fā)安全的人工智能技術(shù)，確保人們可以盡可能廣泛而平均地受益于此?！?/p>

即便單純從公關(guān)角度來看，霍金對這座新研究中心的背書也非常重要。作為全球最著名的科學(xué)家，霍金擁有無與倫比的影響力。

以下為霍金當天的演講全文：

很高興今天能夠參加這座新的研究中心的成立儀式。我們花了很多時間研究歷史，但不得不承認，人類的歷史多半是一部愚蠢史。所以很高興人們轉(zhuǎn)而把研究方向轉(zhuǎn)向了智能的未來。

智能是人類之所以成為人類的關(guān)鍵因素。人類文明的一切成就都是人類智能的產(chǎn)物：從學(xué)習(xí)取火和種植食物到理解宇宙，無一例外。

我相信，生物大腦與電腦所能達到的成就并沒有本質(zhì)的差異。因此，從理論上講，電腦可以模擬人類智能，甚至可以超越人類。

人工智能研究目前的進展很快。從無人駕駛汽車到電腦在圍棋中戰(zhàn)勝人類頂尖選手，這一系列標志性事件都預(yù)示著未來的走向。海量資金正在涌入這一領(lǐng)域，與今后幾十年的進步相比，如今的成就必然相形見絀。

人工智能的潛在利益十分巨大。當我們本身的思維都要靠人工智能來擴充時，我們就無法預(yù)測未來的成就。憑借著這場新的科技革命帶來的工具，我們或許能夠挽回上一場工業(yè)化革命給自然界帶來的破壞。我們也希望最終消除疾病和貧困。我們生活的方方面面都將改變。簡而言之，成功創(chuàng)造人工智能將成為人類文明史上最重大的事件。

然而，這也有可能成為最后一個重大事件——除非我們學(xué)會如何規(guī)避風險。除了各種好處外，人工智能還將帶來危險，包括強大的自動化武器，或者幫助少數(shù)人欺壓普通大眾的方法。這將對我們的經(jīng)濟造成巨大破壞。人工智能未來還將發(fā)展出自己的意志——這種意志將與人類的意志產(chǎn)生沖突。

簡而言之，對人類而言，強大的人工智能技術(shù)的崛起可謂“不成功，則成仁”，但究竟是“成功”還是“成仁”，目前還不清楚。正因如此，我與其他幾個人在2014年呼吁對這一領(lǐng)域展開更多研究。我很高興有人聽從了我的建議！

這個中心所開展的研究對于我們的文明和我們這個物種的未來至關(guān)重要。我真心祝福你們！