ChatGPT之父警告AI可能滅絕人類

此前先是特斯拉CEO埃隆·馬斯克在內的1000多名行業高管和專家簽署公開信，積極呼吁在6個月內暫停更高級AI的開發；呼吁暫停開發比GPT-4更強大的人工智能6個月時間，要先制定一套安全協議。現在ChatGPT之父警告AI可能滅絕人類。

是的，你沒有看錯，不是在寫科幻小說。

“ChatGPT之父”等350名行業大佬共同警告：AI可能給人類帶來滅絕；這封信于周二發表在非營利組織人工智能安全中心（CAIS）的網站上，簽署者包括“ChatGPT之父”Open AI首席執行官山姆·奧特曼、DeepMind首席執行官Demis Hassabis、Anthropic首席執行官Dario Amodei以及微軟和谷歌的高管等。

這封信只有一段話：“減輕AI帶來的滅絕風險，應該與流行病和核戰爭等其他社會規模的風險一起，成為全球優先事項。”

當然呼吁政府進行加強監管這個本身是對的，此外，也有其他的一些聲音，比如微軟首席科學官埃里克·霍維茨曾公開宣稱：AI的研發應該要“加速”。

此前；七國集團領導人就制定和建立人工智能（AI）技術標準作出了積極呼吁，敦促行業和監管者確保人工智能“值得信賴”。歐盟已經接近通過一項人工智能技術監管的立法，這也有望成為全球首部全面的人工智能法案。

回顧一下有關叫停 6 個月 AI 研究的公開信的原文：

人工智能具有與人類競爭的智能，這可能給社會和人類帶來深刻的風險，這已經通過大量研究得到證實，并得到了頂級AI實驗室的認可。正如廣泛認可的阿西洛馬爾人工智能原則（Asilomar AI Principles）所指出的，先進的 AI 可能代表地球生命歷史上的重大變革，因此應該以相應的關注和資源進行規劃和管理。不幸的是，即使在最近幾個月， AI 實驗室在開發和部署越來越強大的數字化思維方面陷入了失控的競爭，而沒有人能夠理解、預測或可靠地控制這些數字化思維，即使是它們的創造者也無法做到這一點。現代 AI 系統現在已經在通用任務方面具有與人類競爭的能力，我們必須問自己：

我們應該讓機器充斥我們的信息渠道，傳播宣傳和謊言嗎？

我們應該將所有工作都自動化，包括那些令人滿足的工作嗎？

我們應該發展可能最終超過、取代我們的非人類思維嗎？

我們應該冒失控文明的風險嗎？這些決策不應該由非選舉產生的科技領導人來負責。只有當我們確信AI系統的影響是積極的，風險是可控的，我們才應該開發強大的AI系統。這種信心必須得到充分的理由，并隨著系統潛在影響的增大而增強。

OpenAI 最近關于人工智能的聲明指出：「在某個時候，可能需要在開始訓練未來系統之前獲得獨立審查，對于最先進的努力，需要同意限制用于創建新模型的計算增長速度。」我們同意。現在就是那個時刻。因此，我們呼吁所有 AI 實驗室立即暫停至少 6 個月的時間，不要訓練比 GPT-4 更強大的 AI 系統。這個暫停應該是公開和可驗證的，并包括所有關鍵參與者。如果無法迅速實施這樣的暫停，政府應該介入并實行一個暫禁令。

AI 實驗室和獨立專家應該利用這個暫停時間共同制定和實施一套共享的先進 AI 設計和開發安全協議，這些協議應該由獨立的外部專家嚴格審核和監督。這些協議應確保遵守它們的系統在合理懷疑范圍之外是安全的。

這并不意味著暫停AI發展，而只是從不斷邁向更大、不可預測的黑箱模型及其突現能力的危險競賽中退一步。AI 研究和開發應該重點放在提高現有強大、先進系統的準確性、安全性、可解釋性、透明度、魯棒性、對齊、可信度和忠誠度。與此同時，AI 開發者必須與政策制定者合作，大力加速 AI 治理體系的發展。這些至少應包括：

專門負責 AI 的新的、有能力的監管機構；

對高能力 AI 系統和大型計算能力池的監督和跟蹤；

用于區分真實與合成內容、跟蹤模型泄漏的溯源和水印系統；

健全的審計和認證生態系統；對 AI 造成的損害承擔責任；

技術AI安全研究的充足公共資金；

應對 AI 引起的巨大經濟和政治變革（特別是對民主制度的影響）的資深機構。人類可以在 AI 的幫助下享受繁榮的未來。在成功創造出強大的 AI 系統之后，我們現在可以享受一個「AI 盛夏」，在其中我們收獲回報，將這些系統明確地用于造福所有人，并讓社會有機會適應。在面臨可能對社會造成災難性影響的其他技術上，社會已經按下了暫停鍵。在這里，我們也可以這樣做。讓我們享受一個漫長的AI盛夏，而不是毫無準備地沖向秋天。

ChatGPT火爆之后還帶動了大模型的火爆，我們看到消息爆出首個大模型創業大賽獎金達千萬元。

首個大模型創業大賽獎金達千萬元

5月31日，百度創始人、董事長兼首席執行官李彥宏在摩根大通全球中國峰會期間宣布，百度將設立10億元人民幣的百度文心投資基金。而且啟動“文心杯”創業大賽，最高獎項為價值1000萬元早期投資。

我們希望百度積淀多年的AI大模型技術為創業者奠定堅實基座，與創業者共創、共建，共同打造開放繁榮的AI大模型生態。

大賽獲獎團隊將贏取豐厚的資金與資源支持：

一等獎：1，000萬元 早期投資（現金+資源）

二等獎：500萬元 早期投資（現金+資源）

三等獎：200萬元 早期投資（現金+資源）

此外，獲獎團隊還有機會獲得一系列創業加速扶持：

與多家頂級基金的資深投資人面對面交流

專屬大模型技術指導，與百度AI大咖深度交流機會

媒體宣傳與曝光，擴大市場聲量與影響力

獲獎者結成“校友群”，收獲創業路上的可靠伙伴

你怎么看？AI的發展會導致人類滅絕嗎？