人工智能被指過度宣傳

鳳凰網(wǎng)科技訊 北京時間7月1日消息，多年來，谷歌、Facebook等科技巨頭投入數(shù)十億美元研發(fā)人工智能(AI)，大肆宣傳它的潛力。但是現(xiàn)在，研究人員表示，是時候重新設定對AI的期望值了。

(資料圖片)

誠然，AI技術開發(fā)近期取得了一定的飛躍。企業(yè)已經(jīng)開發(fā)出了更多的AI系統(tǒng)，可以產(chǎn)生看起來像人類的對話、詩歌和圖像。然而，AI倫理學家和研究人員警告稱，一些企業(yè)正在夸大AI的能力，這種炒作正在制造廣泛的誤解，并扭曲政策制定者對AI力量和不可靠性的看法。

“我們失去了平衡。”西雅圖非營利研究機構艾倫人工智能研究所CEO奧倫·埃齊奧尼(Oren Etzioni)這么說。埃齊奧尼和其他研究人員指出，這種失衡有助于解釋為何谷歌工程師稱AI有知覺的說法讓許多人搖擺不定。

谷歌工程師布萊克·萊莫恩(Blake Lemoine)基于他的宗教信仰提出，該公司的一個AI系統(tǒng)應該被視為有感知能力。他聲稱，AI聊天機器人實際上已經(jīng)成為了一個人，有權決定是否允許在它上面做實驗。谷歌隨后對他進行停職處理，并駁回了他的說法。谷歌表示，公司倫理學家和技術專家已經(jīng)研究過這種可能性，并駁回了他的說法。

聲稱AI有知覺的萊莫恩

研究人員表示，在更廣泛的科學界，AI正變得有意識或可能有意識的看法仍然處于邊緣地位。

從現(xiàn)實來看，AI涵蓋的一系列技術在很大程度上依舊對一系列平淡無奇的后臺后勤工作有幫助，比如處理來自用戶的數(shù)據(jù)，以便更好地向用戶投放廣告、內(nèi)容，進行產(chǎn)品推薦。

大力投入和宣傳

過去10年，谷歌、Facebook母公司Meta以及亞馬遜等公司投入了大量資金來提高此類能力，以驅(qū)動它們的增長和利潤引擎。例如，谷歌使用AI更好地解析復雜的搜索提示，幫助它提供相關廣告和網(wǎng)絡結果。

一些創(chuàng)業(yè)公司還萌發(fā)了更宏偉的雄心。其中一家公司名為OpenAI，它從特斯拉CEO埃隆·馬斯克(Elon Musk)和微軟公司等捐贈者和投資者那里籌集了數(shù)十億美元，旨在實現(xiàn)所謂的通用AI，也就是能夠匹配或超越人類智能每一個維度的系統(tǒng)。一些研究人員認為，這即使不是無法實現(xiàn)，也是幾十年后的事情。

谷歌大力研發(fā)AI

這些公司為了超越對方而展開的競爭推動了AI的快速發(fā)展，并催生了越來越多引人注目的演示。這些演示抓住了公眾的想象力，吸引了人們對這項技術的關注度。

OpenAI的DALL-E系統(tǒng)可以根據(jù)用戶提示生成藝術品，例如“土星軌道上的麥當勞”或“穿著運動裝備參加鐵人三項的熊”，最近幾周在社交媒體上引發(fā)了許多表情包。隨后，谷歌仿效DALL-E系統(tǒng)推出了自己的基于文本的藝術品生成系統(tǒng)。

盡管這些成果十分驚人，但越來越多的專家警告稱，企業(yè)沒有適當控制宣傳。

瑪格麗特·米切爾(Margaret Mitchell)曾是谷歌倫理AI團隊的共同負責人，在撰寫了一篇關于谷歌系統(tǒng)的批評論文后被解雇。她表示，谷歌向股東宣傳的一個賣點是，它在AI方面是世界上最好的。

AI的局限性

米切爾目前在一家名為Hugging Face的AI創(chuàng)業(yè)公司工作，她和谷歌另一位AI倫理聯(lián)合負責人蒂姆尼特·格布魯(Timnit Gebru)是最早對AI危險性提出警告的人之一。格布魯也被谷歌解雇。

根據(jù)他們在谷歌任職時寫的最后一篇論文，他們認為這些技術有時會造成傷害，因為它們的類人能力意味著它們和人類一樣有失敗的可能性。例如，F(xiàn)acebook的AI系統(tǒng)誤譯了阿拉伯語的“早上好”，把它翻譯成英語時變成了“傷害他們”，翻譯成希伯來語時變成了“攻擊他們”，導致以色列警方逮捕了發(fā)布這一問候語的巴勒斯坦男子，隨后才意識到錯誤。

米切爾因批評谷歌被解雇

去年曝光的Facebook內(nèi)部文件也顯示，F(xiàn)acebook的AI系統(tǒng)無法一直識別第一人稱射擊視頻和種族主義言論，只刪除了一小部分違反公司規(guī)定的內(nèi)容。Facebook則表示，AI技術的提升大幅減少了仇恨言論和其他違反其規(guī)定的內(nèi)容。

理想與現(xiàn)實的差距

理想很豐滿，現(xiàn)實很骨感。埃奇奧尼和其他人提到了IBM圍繞著沃森系統(tǒng)展開的營銷。沃森是IBM開發(fā)的AI系統(tǒng)，因為在智力競賽節(jié)目《危險邊緣》中打敗人類而聲名大噪。然而，經(jīng)過10年和數(shù)十億美元的投資后，IBM在去年表示，正在研究出售沃森健康業(yè)務的可能性，該部門的主要產(chǎn)品本應幫助醫(yī)生診斷和治療癌癥。

由于AI現(xiàn)在已經(jīng)無處不在，并涉及更多的公司，它們開發(fā)的軟件包括電子郵件、搜索引擎、新聞推送、語音助手，已經(jīng)滲透到我們的數(shù)字生活中，所以它的風險就更大了。

谷歌發(fā)言人布萊恩·加布里埃爾(Brian Gabriel)在否認AI有知覺的說法時稱，該公司的聊天機器人和其他對話工具“可以即興談論任何虛幻的話題”。“如果你問一只冰淇淋恐龍是什么樣子的，他們可以生成關于融化和咆哮等內(nèi)容的文本，這與感知不同。”他表示。

AI認知差距滲透到政府政策

布朗大學研究AI政策的計算機科學博士生伊麗莎白·庫馬爾(Elizabeth Kumar)表示，這種認知差距已經(jīng)悄悄滲透到了政策文件中。

最近，地方、聯(lián)邦和國際法規(guī)和監(jiān)管提案試圖解決AI系統(tǒng)通過歧視、操縱或以其他方式造成傷害的可能性，這些都是基于AI系統(tǒng)具有高度能力的假設。庫馬爾表示，他們在很大程度上忽略了這種AI系統(tǒng)“根本不起作用”造成傷害的可能性，而且這種可能性更大。

埃齊奧尼也是拜登政府的國家人工智能研究資源特別工作組的成員。他指出，政策制定者往往難以把握這些問題。“從我和他們中的一些人的交談來看，我可以告訴你，他們的出發(fā)點是好的，問的問題也很好，但他們并非對一切了如指掌。”他表示。(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網(wǎng)科技。想看深度報道，請微信搜索“鳳凰網(wǎng)科技”（ifeng_tech）。

關鍵詞： 人工智能