2025年人工智能會(huì)發(fā)生哪些革命性的變化？斯坦福大學(xué)以人為中心的人工智能研究所的領(lǐng)先專家表示，2025 年人工智能的一個(gè)主要趨勢是協(xié)作人工智能系統(tǒng)的興起，其中多個(gè)專業(yè)代理協(xié)同工作，人類提供高級(jí)指導(dǎo)。這些設(shè)置設(shè)想人工智能團(tuán)隊(duì)解決健康、教育和金融領(lǐng)域的復(fù)雜問題。其他學(xué)者預(yù)計(jì)，人機(jī)協(xié)作的新方法將出現(xiàn)，同時(shí)開發(fā)者將面臨證明人工智能實(shí)際效益的更大壓力。

此外，學(xué)者們警告說，生成式人工智能可能會(huì)增加復(fù)雜詐騙的數(shù)量，同時(shí)美國已經(jīng)有限的監(jiān)管可能會(huì)變得更弱。

以下是從計(jì)算機(jī)科學(xué)、醫(yī)學(xué)、政策和教育等領(lǐng)域的學(xué)者那里得到的更多預(yù)測。

人工智能代理，較少監(jiān)管

我們真的會(huì)看到人工智能代理，已經(jīng)在研究中已經(jīng)看到了一些，但現(xiàn)在在學(xué)術(shù)和工業(yè)領(lǐng)域中看到了更多。基本上，如何將這些代理組合起來為你做事？我們現(xiàn)在看到了一些接口。例如，Anthropic 的 Claude 的一些 API 可以實(shí)際操作你的計(jì)算機(jī)來完成像安排會(huì)議或幫你購買機(jī)票這樣的事情。顯然，這存在一些風(fēng)險(xiǎn)——如果它們真的能夠使用你的計(jì)算機(jī)，它們可能會(huì)造成損害，可能會(huì)犯錯(cuò)誤。因此，對(duì)于這種做法存在一些擔(dān)憂。但盡管這些工具的第一版并不成功，我們現(xiàn)在看到了更多的潛力。

另一個(gè)故事是趨同。大型模型正在緩慢改進(jìn)。我們看到大型模型的發(fā)布速度比以前慢了，它們?cè)谀承┗鶞?zhǔn)測試上仍然令人印象深刻，但對(duì)于許多這些任務(wù)，它們的改進(jìn)速度要慢得多。我們只是稍微變好了一點(diǎn)，是因?yàn)樗鼈兪褂昧诉@么多數(shù)據(jù)，也許合成數(shù)據(jù)并沒有像一些人所期望的那樣有效嗎？事實(shí)上，一些新的模型在某些任務(wù)上可能甚至更差。現(xiàn)在，有些人問，這是人工智能的冬天嗎？但這些模型可以做很多事情，所以我不認(rèn)為這是冬天。但是，可能有些人會(huì)畫一條直線，認(rèn)為人工智能將接管世界或能夠做一切，我認(rèn)為這將需要更多的時(shí)間，直到有人在架構(gòu)上取得重大突破。

最后，隨著新特朗普政府的到來，預(yù)計(jì)美國的人工智能監(jiān)管將減少。我們已經(jīng)沒有很多監(jiān)管，但拜登政府的行政命令為美國政府設(shè)定了很多指導(dǎo)方針，這確實(shí)有影響，因?yàn)樗且粋€(gè)如此大的技術(shù)客戶。但預(yù)計(jì)特朗普政府將撤銷其中的一些。這并不意味著不會(huì)有人工智能政策或監(jiān)管。我們只是會(huì)看到來自歐盟或其他參與者，如州級(jí)監(jiān)管的政策。

——James Landay，HAI 聯(lián)合主任，計(jì)算機(jī)科學(xué)教授，工程學(xué)院的安德魯·拉賈拉曼和文基·哈里納拉揚(yáng)教授

更多詐騙，更少消費(fèi)者保護(hù)

我們將繼續(xù)看到生成式人工智能被濫用以幫助實(shí)施詐騙，尤其是在音頻深度偽造人的聲音方面。我預(yù)測，即將上任的政府將比當(dāng)前政府更輕地保護(hù)公眾免受這些詐騙。如果聯(lián)邦貿(mào)易委員會(huì)退居二線，那么州總檢察長將在消費(fèi)者保護(hù)中扮演更大的角色。銀行和其他金融機(jī)構(gòu)，以及電話、電子郵件和互聯(lián)網(wǎng)服務(wù)的提供商，應(yīng)加強(qiáng)努力教育客戶這些詐騙。特別是，他們（以及政府機(jī)構(gòu)）應(yīng)確保他們提供的資源不僅限于英語，因?yàn)橛⒄Z使用者并非詐騙的唯一目標(biāo)。

——Riana Pfefferkorn，HAI 政策研究員

“總承包商” LLMs

我們將開始看到由許多相互交流的人工智能系統(tǒng)組成的復(fù)雜問題解決系統(tǒng)。例如，想象一系列具有特定專業(yè)知識(shí)（微調(diào)）的大型語言模型結(jié)合在一起解決問題。在某些情況下，它們可能會(huì)相互協(xié)商；在其他情況下，它們將把任務(wù)交給“專家 LLMs”，后者將返回答案。因此，將有一種“總承包商” LLM 處理人類客戶，并將其中一些問題解決外包給其他具有專業(yè)知識(shí)的代理。這些系統(tǒng)首先出現(xiàn)的地方可能包括復(fù)雜模擬、健康決策制定、財(cái)務(wù)安排或教育項(xiàng)目。

——Russ Altman，HAI 副主任，工程學(xué)院的肯尼斯·方教授，以及生物工程學(xué)、遺傳學(xué)、醫(yī)學(xué)、生物醫(yī)學(xué)數(shù)據(jù)科學(xué)教授，（兼）計(jì)算機(jī)科學(xué)教授

教育人工智能中的健康懷疑主義

預(yù)計(jì)在教育領(lǐng)域?qū)⒏嗟仃P(guān)注多模態(tài)人工智能模型，包括處理語音和圖像。我們還可能看到新的教育特定或微調(diào)模型，以及所有這些，對(duì)實(shí)際有效的東西的懷疑和興趣增加——真正幫助學(xué)生更好地學(xué)習(xí)和教師更有效地教育的東西。

——Dorottya (Dora) Demszky，教育學(xué)助理教授，（兼）計(jì)算機(jī)科學(xué)教授

從 GenAI 定義價(jià)值

鑒于技術(shù)的快速發(fā)展和大量的資本投入，這些技術(shù)的開發(fā)者將面臨定義和驗(yàn)證其預(yù)期效益的壓力。在醫(yī)療保健領(lǐng)域，對(duì)臨床效益的評(píng)估將更加嚴(yán)格（我們最近在《自然》雜志上寫過關(guān)于這一點(diǎn)），我們將不得不制定超越當(dāng)前狹窄效率或生產(chǎn)力視角的思維方式。

我們的基礎(chǔ)模型研究中心的 HELM 項(xiàng)目所倡導(dǎo)的共享和透明的基準(zhǔn)測試將成為主流，以便就使用生成式人工智能在醫(yī)療保健中的聲稱效益做出明智的決策。

——Nigam Shah，斯坦福大學(xué)醫(yī)學(xué)院醫(yī)學(xué)和生物醫(yī)學(xué)數(shù)據(jù)科學(xué)教授，斯坦福醫(yī)療保健首席數(shù)據(jù)科學(xué)家

人工智能代理協(xié)同工作

在 2025 年，我們將看到從依賴單一人工智能模型到使用多個(gè)具有不同專業(yè)知識(shí)的人工智能代理協(xié)同工作的系統(tǒng)的重大轉(zhuǎn)變。例如，我們最近介紹了虛擬實(shí)驗(yàn)室，其中教授人工智能代理領(lǐng)導(dǎo)一組人工智能科學(xué)家代理（例如，人工智能化學(xué)家、人工智能生物學(xué)家）解決具有挑戰(zhàn)性的開放式研究問題，人類研究人員提供高級(jí)反饋。通過利用不同代理的跨學(xué)科專業(yè)知識(shí)，虛擬實(shí)驗(yàn)室成功設(shè)計(jì)了新的納米抗體，我們驗(yàn)證了這些納米抗體對(duì)最近的 SARS-CoV-2 變體具有有效的結(jié)合能力。展望未來，我預(yù)測許多高影響力的應(yīng)用將使用這樣的 AI 代理團(tuán)隊(duì)，這些團(tuán)隊(duì)比單一模型更可靠、更有效。我特別興奮于人類領(lǐng)導(dǎo)一組多樣化 AI 代理的混合協(xié)作團(tuán)隊(duì)的潛力。

——James Zou，生物醫(yī)學(xué)數(shù)據(jù)科學(xué)副教授，（兼）計(jì)算機(jī)科學(xué)和電氣工程副教授

重新思考人機(jī)協(xié)作

我們將體驗(yàn)到圍繞人類如何與人工智能代理合作的研究新范式。識(shí)別人工智能和人類合作以實(shí)現(xiàn)集體智能的最佳方式將變得越來越重要。目前，人工智能系統(tǒng)大多被評(píng)估為支持自主設(shè)置的能力；我們將看到更多考慮人機(jī)交互和人機(jī)協(xié)作的評(píng)估基準(zhǔn)和環(huán)境。隨著人工智能的發(fā)展，我們將繼續(xù)看到大量關(guān)于風(fēng)險(xiǎn)評(píng)估的工作。人工智能風(fēng)險(xiǎn)評(píng)估遠(yuǎn)遠(yuǎn)落后于人工智能能力發(fā)展研究。除了繼承傳統(tǒng)人工智能系統(tǒng)的這些風(fēng)險(xiǎn)外，基于 LLMs/VLMs 系統(tǒng)的廣泛采用還將放大其中一些風(fēng)險(xiǎn)并引入新的風(fēng)險(xiǎn)。

——DiYi Yang，計(jì)算機(jī)科學(xué)助理教授