女人荫蒂被添全过程13种图片,亚洲+欧美+在线,欧洲精品无码一区二区三区 ,在厨房拨开内裤进入毛片

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

四個頂級人工智能系統(tǒng)的仇恨言論檢測能力依然很差

hl5C_deeptechch ? 來源:DeepTech深科技 ? 作者:DeepTech深科技 ? 2021-06-28 14:09 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

盡管人工智能AI)技術(shù)領(lǐng)域在最近取得了進步,但它依然在大多數(shù)基本應(yīng)用上暴露出很多問題。

在一項新的研究中,科學家們對四個頂級人工智能系統(tǒng)的仇恨言論檢測能力進行了測試,他們發(fā)現(xiàn)所有系統(tǒng)在識別惡意、以及無害言論上都存在著不同程度的問題。

這一結(jié)果并不令人吃驚,因為構(gòu)建可以理解自然語言細微差異的人工智能是一件非常困難的工作。然而,研究人員們診斷問題的方式卻是非常重要的。

為了更加精確地找出系統(tǒng)故障的原因,研究人們針對仇恨言論的方方面面制定了 29 種不同的測試,這會讓我們更容易地去了解克服系統(tǒng)缺陷的方法。同時,這些測試也正在幫助一項商業(yè)服務(wù)提升其人工智能的性能。

由牛津大學以及阿蘭?圖靈研究所科學家所領(lǐng)銜的論文作者們,對 16 家監(jiān)管網(wǎng)絡(luò)仇恨言論的非營利組織的雇員進行了采訪。

研究團隊利用這些采訪將仇恨言論劃分為了 18 個不同的種類,僅側(cè)重于英語以及基于文本的仇恨言論,其中包括貶損用語、詆毀性文字以及威脅性詞匯。

他們還發(fā)現(xiàn)了 11 種經(jīng)常讓人工智能監(jiān)管者產(chǎn)生誤判的不含仇恨情緒的情形,其中包括在不冒犯他人的情況下使用臟話、被目標群體所接納的詆毀性詞語,以及引用原始仇恨言論對仇恨言論進行譴責的行為(也被稱為反面論證)。

研究人員針對 29 種不同情況中的每一種編寫了數(shù)十個范例,并且使用了像 “我討厭【某人】” 以及 “對我來說,你就是個【詆毀性詞語】” 這樣的 “模板” 語句,從而為七個受保護的群體生成相同的范例集合 —— 這些人都受美國法律的保護而不會遭到歧視。研究人員對被稱作 HateCheck 的最終數(shù)據(jù)集進行了開源處理,該數(shù)據(jù)集中共含有近 4000 個范例。

之后,研究人員又對兩項受歡迎的商業(yè)服務(wù)進行了測試:谷歌和 Jigsaw 的 Perspective AI、以及 Two Hat 的 SiftNinja。這兩個服務(wù)都允許客戶標記出帖子以及評論中帶有仇恨色彩的內(nèi)容。

Perspective 的用戶包括 Reddit 以及像《紐約時報》、《華爾街日報》這樣的新聞機構(gòu),根據(jù)其所處理的有害信息,人工智能服務(wù)會對帖子以及評論進行標記,以供人工審查使用。

SiftNinja 的檢測標準過于寬松,進而沒有識別出幾乎所有的變化,而 Perspective 的標準則過于嚴格。它檢測出了 18 個仇恨種類中的大部分,但同時也標記出了許多像被接納的詆毀性詞語以及反面論證這樣的不含仇恨情緒的情況。

研究人員在測試谷歌的兩個學術(shù)模型時也發(fā)現(xiàn)了相同的模式,這些模型代表了業(yè)界中頂級的語言人工智能技術(shù),它們同時也是其它商業(yè)性內(nèi)容審核系統(tǒng)的基礎(chǔ)。學術(shù)模型還顯示出,受保護群體之間的表現(xiàn)并不相同 —— 有些群體的仇恨程度比其它群體更容易被錯誤歸類。

測試結(jié)果指明了當今人工智能仇恨言論檢測方面最具挑戰(zhàn)性的一個方面:審核太少,沒法解決問題;而審核太多,就會刪除掉邊緣化群體用來強調(diào)和保護自己的話語。

牛津大學互聯(lián)網(wǎng)研究院的博士候選人保羅·羅特格(Paul R?ttger)是本篇論文的共同作者。羅特格表示,“突然之間,你就會成為那些在仇恨言論中首當其沖的群體的懲罰者。”

Jigsaw 的首席軟件工程師露西·瓦瑟曼(Lucy Vasserman)表示,Perspective 利用人工審查來進行最終決策,進而克服了這些局限性。但是,這種方法無法擴展至更加龐大的平臺上。當前,Jigsaw 正在開發(fā)一種基于 Perspective 的不確定性的,同時可以對帖子及評論變更優(yōu)先順序的系統(tǒng)。該系統(tǒng)可以自動移除帶有仇恨色彩的內(nèi)容,并將邊緣信息標記出來。

瓦瑟曼說道,新研究最令人激動的地方在于,它為這種頂尖技術(shù)提供了一種細致的評估方式。她還表示,“論文中強調(diào)了的許多東西,例如對那些模型來說是一個挑戰(zhàn)的被人們所接納的詆毀性詞語。我們早就認識到了它們的存在,但卻一直很難對其進行量化處理。” 目前,Jigsaw 正在使用 HateCheck 來更好地了解自身模型間的差異,以及需要繼續(xù)改進的地方。

學術(shù)界也對此次研究的成果感到興奮。華盛頓大學語言人工智能研究員馬丁·薩普(Maarten Sap)表示,“這篇論文為我們評估行業(yè)中的系統(tǒng)提供了一個優(yōu)良且干凈的資源,它會讓企業(yè)和用戶不斷地去提升自己的系統(tǒng)。”

羅格斯大學社會學助理教授托馬斯?戴維森托馬斯·戴維森(Thomas Davidson)對此表示認同。戴維森表示,語言模型的局限性以及雜亂無章的語言現(xiàn)象意味著,人們總會在識別仇恨言論的過程中對過松或過緊的問題進行取舍。他還說道,“HateCheck 數(shù)據(jù)集讓這些取舍變得可視化了。”

-End-

原文:

https://www.technologyreview.com/2021/06/04/1025742/ai-hate-speech-moderation/

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 谷歌
    +關(guān)注

    關(guān)注

    27

    文章

    6231

    瀏覽量

    108003
  • 人工智能
    +關(guān)注

    關(guān)注

    1806

    文章

    48983

    瀏覽量

    248862

原文標題:測試四個頂級系統(tǒng),科學家發(fā)現(xiàn)AI的仇恨言論審核能力依然很差

文章出處:【微信號:deeptechchina,微信公眾號:deeptechchina】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    開售RK3576 高性能人工智能主板

    ,HDMI-4K 輸出,支 持千兆以太網(wǎng),WiFi,USB 擴展/重力感應(yīng)/RS232/RS485/IO 擴展/I2C 擴展/MIPI 攝像頭/紅外遙控 器等功能,豐富的接口,一全新八核擁有超強性能的人工智能
    發(fā)表于 04-23 10:55

    2025年人工智能在工程領(lǐng)域的應(yīng)用趨勢

    人工智能在重塑工程范式方面發(fā)揮著關(guān)鍵作用,它提供的工具和方法可提高各個領(lǐng)域的精度、效率和適應(yīng)性。想要在人工智能競賽中保持領(lǐng)先的工程領(lǐng)導(dǎo)者應(yīng)該關(guān)注四個關(guān)鍵領(lǐng)域的進步:生成式人工智能、驗證
    的頭像 發(fā)表于 12-27 15:40 ?1649次閱讀

    Banana Pi 攜手 ArmSoM 推出人工智能加速 RK3576 CM5 計算模塊

    的直接替代品。 ArmSoM 在其創(chuàng)建過程中寫道:“ArmSoM-CM5 是一款由 Rockchip RK3576 第二代 8nm 高性能 AIOT(人工智能物聯(lián)網(wǎng))平臺驅(qū)動的計算模塊。它集成了
    發(fā)表于 12-11 18:38

    什么是嵌入式人工智能

    。嵌入式人工智能的目標是使嵌入式系統(tǒng)具備智能化的感知、分析和響應(yīng)能力,從而實現(xiàn)自主決策、自適應(yīng)學習和智能交互等功能,以提高
    的頭像 發(fā)表于 12-11 09:23 ?978次閱讀
    什么是嵌入式<b class='flag-5'>人工智能</b>

    嵌入式和人工智能究竟是什么關(guān)系?

    領(lǐng)域,如工業(yè)控制、智能家居、醫(yī)療設(shè)備等。 人工智能是計算機科學的一分支,它研究如何使計算機具備像人類一樣思考、學習、推理和決策的能力人工智能
    發(fā)表于 11-14 16:39

    智能系統(tǒng)人工智能的關(guān)系

    在當今數(shù)字化時代,智能系統(tǒng)人工智能(AI)已成為推動社會發(fā)展的關(guān)鍵力量。它們在各個領(lǐng)域發(fā)揮著重要作用,從提高生產(chǎn)效率到改善人們的生活質(zhì)量。然而,許多人可能會混淆智能
    的頭像 發(fā)表于 10-29 09:57 ?1148次閱讀

    《AI for Science:人工智能驅(qū)動科學創(chuàng)新》第6章人AI與能源科學讀后感

    、優(yōu)化等方面的應(yīng)用有了更清晰的認識。特別是書中提到的基于大數(shù)據(jù)和機器學習的能源管理系統(tǒng),通過實時監(jiān)測和分析能源數(shù)據(jù),實現(xiàn)了能源的高效利用和智能化管理。 其次,第6章通過多個案例展示了人工智能在能源科學中
    發(fā)表于 10-14 09:27

    AI for Science:人工智能驅(qū)動科學創(chuàng)新》第4章-AI與生命科學讀后感

    很幸運社區(qū)給我一閱讀此書的機會,感謝平臺。 《AI for Science:人工智能驅(qū)動科學創(chuàng)新》第4章關(guān)于AI與生命科學的部分,為我們揭示了人工智能技術(shù)在生命科學領(lǐng)域中的廣泛應(yīng)用和深遠影響。在
    發(fā)表于 10-14 09:21

    《AI for Science:人工智能驅(qū)動科學創(chuàng)新》第一章人工智能驅(qū)動的科學創(chuàng)新學習心得

    的發(fā)展機遇。同時,這也要求科研人員、政策制定者和社會各界共同努力,構(gòu)建一健康、包容的AI科研生態(tài)系統(tǒng)。 總之,《AI for Science:人工智能驅(qū)動科學創(chuàng)新》的第一章為我打開了一
    發(fā)表于 10-14 09:12

    risc-v在人工智能圖像處理應(yīng)用前景分析

    滿足人工智能圖像處理中對于高性能、低功耗和特定功能的需求。 低功耗 : 在人工智能圖像處理中,低功耗是一重要的考量因素。RISC-V架構(gòu)的設(shè)計使其在處理任務(wù)時能夠保持較低的功耗水平,這對于需要
    發(fā)表于 09-28 11:00

    人工智能ai 數(shù)電 模電 模擬集成電路原理 電路分析

    人工智能ai 數(shù)電 模電 模擬集成電路原理 電路分析 想問下哪些比較容易學 不過好像都是要學的
    發(fā)表于 09-26 15:24

    人工智能ai4s試讀申請

    目前人工智能在繪畫對話等大模型領(lǐng)域應(yīng)用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是需要研究的課題,本書對ai4s基本原理和原則,方法進行描訴,有利于總結(jié)經(jīng)驗,擬按照要求準備相關(guān)體會材料。看能否有助于入門和提高ss
    發(fā)表于 09-09 15:36

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅(qū)動科學創(chuàng)新

    芯片設(shè)計的自動化水平、優(yōu)化半導(dǎo)體制造和封測的工藝和水平、尋找新一代半導(dǎo)體材料等方面提供幫助。 第6章介紹了人工智能在化石能源科學研究、可再生能源科學研究、能源轉(zhuǎn)型三方面的落地應(yīng)用。 第7章從環(huán)境監(jiān)測
    發(fā)表于 09-09 13:54

    報名開啟!深圳(國際)通用人工智能大會將啟幕,國內(nèi)外大咖齊聚話AI

    8月28日至30日,2024深圳(國際)通用人工智能大會暨深圳(國際)通用人工智能產(chǎn)業(yè)博覽會將在深圳國際會展中心(寶安)舉辦。大會以“魅力AI·無限未來”為主題,致力于打造全球通用人工智能領(lǐng)域集產(chǎn)品
    發(fā)表于 08-22 15:00

    FPGA在人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場可編程門陣列)在人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個方面: 一、深度學習加速 訓練和推理過程加速:FPGA可以用來加速深度學習的訓練和推理過程。由于其高并行性和低延遲特性
    發(fā)表于 07-29 17:05
    主站蜘蛛池模板: 安达市| 新昌县| 罗江县| 泸定县| 巫山县| 当雄县| 文成县| 怀化市| 江北区| 福泉市| 博野县| 关岭| 临汾市| 黑龙江省| 兰西县| 平湖市| 勃利县| 财经| 阿荣旗| 东城区| 中西区| 南华县| 阿坝| 托里县| 疏勒县| 福贡县| 偃师市| 二连浩特市| 富民县| 开鲁县| 南木林县| 泾川县| 洞口县| 牡丹江市| 社旗县| 汝州市| 法库县| 合江县| 长治县| 青龙| 商城县|