作者 | 吳菲凝

編輯 | 李水青

(資料圖)

智東西3月16日?qǐng)?bào)道，昨日，彭博社梳理了9個(gè)有關(guān)AI聊天機(jī)器人的關(guān)鍵問題，包括生成式AI的概念、ChatGPT如何工作、誰能從中獲利、市場(chǎng)競(jìng)爭(zhēng)格局、局限性以及道德風(fēng)險(xiǎn)等。

據(jù)彭博社稱，自去年11月ChatGPT推出以來，它對(duì)幾乎任何類型的問題都給出了通俗易懂的答案，引起了全球轟動(dòng)。微軟、谷歌和百度等科技巨頭都在大力押注生成式AI，認(rèn)為它有可能顛覆利潤(rùn)豐厚的搜索市場(chǎng)，但目前生成式AI產(chǎn)品廣泛使用的同時(shí)也暴露出了不少缺陷和潛在隱患。

一、什么是生成式AI？如同小兒學(xué)語

生成式AI，又稱作生成模型，是一種用深度學(xué)習(xí)算法生成新數(shù)據(jù)的AI技術(shù)。生成式AI使用神經(jīng)網(wǎng)絡(luò)，它們仿照人腦結(jié)構(gòu)并通過大量數(shù)據(jù)學(xué)習(xí)來完成指令任務(wù)。在前期訓(xùn)練期間，他們被輸入大量的信息，并被指配一項(xiàng)任務(wù)，比如“為一部小說寫一段簡(jiǎn)介”，再利用學(xué)習(xí)來的數(shù)據(jù)完成任務(wù)。

隨著不斷的數(shù)據(jù)學(xué)習(xí)，系統(tǒng)能夠判斷用戶輸入的詞句是否有意義，并不斷改進(jìn)自己的信息庫。這個(gè)過程就像是小孩子在父母的指導(dǎo)下學(xué)習(xí)說話一樣，從簡(jiǎn)單基礎(chǔ)的詞匯慢慢學(xué)到一些完整的句子，再到自如流暢地表達(dá)交流。

生成式AI和傳統(tǒng)計(jì)算機(jī)系統(tǒng)的不同之處在于，它給出的結(jié)果往往是不確定的，每次的反應(yīng)都可能不同，但也會(huì)隨著系統(tǒng)進(jìn)步而變得更快、更聰明。

二、ChatGPT是如何工作的？基于大語言模型

ChatGPT是基于OpenAI公司的大型語言模型GPT-3.5開發(fā)出的一款聊天機(jī)器人。

GPT是OpenAI開發(fā)的一系列自然語言模型，在無監(jiān)督學(xué)習(xí)過程中進(jìn)行預(yù)訓(xùn)練，能像人類一樣理解、創(chuàng)造文本。OpenAI于2018年發(fā)布了GPT-1，又陸續(xù)推出了GPT-2、GPT-3、GPT-NEO、GPT-3.5、GPT4等版本。

最新版本的GPT-4建立在其前身GPT-3.5的基礎(chǔ)上，從演示視頻來看，GPT-4在許多專業(yè)測(cè)試中的表現(xiàn)水平超過絕大多數(shù)人類。它從整個(gè)網(wǎng)絡(luò)中攝取文本，包括維基百科、新聞網(wǎng)站、書籍和博客，以努力使其答案具有相關(guān)性和充分的信息。ChatGPT在該程序之上增加了一個(gè)對(duì)話界面。

ChatGPT與以往的聊天機(jī)器人最大的不同之處就在于，它能像真人一樣與用戶對(duì)答交流，所給出的答案邏輯清晰、條理分明。在一些需要進(jìn)一步思考的問題上，它甚至能給出自己的見解，比真人回答的完整度更高。

除了能回答問題以外，ChatGPT還能自動(dòng)寫文章、總結(jié)提煉觀點(diǎn)、生成代碼等。

三、誰是OpenAI的幕后推手？微軟接棒馬斯克

OpenAI于2015年由美國(guó)創(chuàng)業(yè)孵化器Y Combinator總裁薩姆·阿爾特曼（Sam Altman）和全球在線支付平臺(tái)PayPal聯(lián)合創(chuàng)始人彼得·泰爾（Peter Thiel）等人創(chuàng)辦，旨在開發(fā)“有益于全人類的AGI”。早期的投資者還包括LinkedIn聯(lián)合創(chuàng)始人里德·霍夫曼（Reid Hoffman）和特斯拉CEO埃隆·馬斯克（Elon Musk），馬斯克在2018年時(shí)退出。微軟于2019年時(shí)為OpenAI投資10億美元。

四、公眾對(duì)ChatGPT的反應(yīng)如何？?jī)蓚€(gè)月用戶破億

自ChatGPT在去年11月30日開放注冊(cè)后，5天內(nèi)便擁有了超100萬用戶，上線兩月后全球用戶破億，注冊(cè)請(qǐng)求數(shù)日峰值達(dá)到數(shù)億級(jí)別。各大社交媒體上對(duì)這一產(chǎn)品的討論熱度也一直居高不下。一些用戶分享了ChatGPT對(duì)于一些晦澀難懂的問題給出的答案，其他人則驚嘆于它豐富的知識(shí)庫。

用戶的熱烈討論也提升了OpenAI其他產(chǎn)品的熱度，包括文本生成圖像工具Dall-E，它能根據(jù)用戶的文字描述直接生成一張符合需求的圖片。

五、誰會(huì)從生成式AI當(dāng)中獲利？小企業(yè)暫難盈利

谷歌、微軟這樣的科技巨頭早已探知到了生成式AI的潛力。今年1月，微軟深化了與OpenAI的合作關(guān)系，并以提升微軟Azure云計(jì)算網(wǎng)絡(luò)的計(jì)算能力為交換條件，完成了一項(xiàng)價(jià)值100億美元的長(zhǎng)期投資。又在2月時(shí)將類ChatGPT產(chǎn)品集成到自己的搜索引擎Bing當(dāng)中。谷歌則推出自己的對(duì)話式AI助手Bard作為回應(yīng)。百度也于今日正式開放了自己的新一代大語言模型、生成式AI產(chǎn)品文心一言。

由于聊天機(jī)器人中沒有可插入廣告的結(jié)果頁，盈利對(duì)于小型企業(yè)來講依舊是個(gè)難題。從中獲利的更多是提供和開發(fā)生成式AI產(chǎn)品的大型科技公司。

六、競(jìng)爭(zhēng)局面如何？巨頭的游戲

在ChatGPT發(fā)布后，OpenAI根據(jù)用戶的反饋意見對(duì)GPT-3.5進(jìn)行了迭代調(diào)整，修改了模型在準(zhǔn)確性、安全性和發(fā)布不當(dāng)言論等方面的問題。OpenAI稱，在公司內(nèi)部的對(duì)抗性真實(shí)性評(píng)估中，GPT-4的得分比GPT-3要高出40%，根據(jù)政策響應(yīng)敏感請(qǐng)求的頻率提高了29%。

早在2月時(shí)，谷歌的聊天機(jī)器人Bard公開演示中犯了一個(gè)事實(shí)性錯(cuò)誤，引發(fā)了大眾對(duì)谷歌可能會(huì)在搜索領(lǐng)域失去優(yōu)勢(shì)地位的擔(dān)憂，導(dǎo)致谷歌開局不利、股價(jià)走低。

Meta目前則正急于從公司各處的團(tuán)隊(duì)中組建一個(gè)生成性AI產(chǎn)品組。

國(guó)內(nèi)生成式AI領(lǐng)域同樣是熱潮涌動(dòng)，百度今日正式發(fā)布文心一言大模型。此前，由清華大學(xué)知識(shí)工程實(shí)驗(yàn)室轉(zhuǎn)化而來的智譜AI推出了基座模型ChatGLM，復(fù)旦大學(xué)自然語言處理實(shí)驗(yàn)室也推出對(duì)話式AI模型MOSS，各家競(jìng)相研發(fā)生成式AI產(chǎn)品。

七、有哪些行業(yè)可以從中受益？創(chuàng)意行業(yè)獲幫手

就目前而言，Chat-GPT等AIGC工具并不會(huì)完全取代某個(gè)工種，它更多承擔(dān)的是“工具”的作用。它所具備的搜索、閱讀、寫作等功能是所有工作中的基礎(chǔ)性事務(wù)，它更像是一種輔助性工具，幫人類搜索基本信息、提升閱讀速度，更好地理解文本內(nèi)容，從而提升工作效率。

而那些繁瑣的、重復(fù)的、勞動(dòng)密集型的工作將會(huì)被這些工具所代替。創(chuàng)作型的職業(yè)則有了更大的提升空間。

八、生成式AI的局限性是什么？虛假信息泛濫等

隨著ChatGPT的爆火，它原本的不足之處和可能帶來的隱患也在用戶使用過程中逐漸顯露，諸如虛假信息、學(xué)術(shù)造假、隱私保護(hù)等潛在危機(jī)都引起了人們的高度警惕。

生成式AI的數(shù)據(jù)都來源于二手信息，導(dǎo)致它拼湊出的答案可能聽上去非常權(quán)威又有說服力，但隱藏著許多的事實(shí)性、常識(shí)性錯(cuò)誤，細(xì)看之下就像是在“一本正經(jīng)地胡說八道”，它給出的回答中可能會(huì)包含很多部分正確、不完整、有偏見的內(nèi)容，專業(yè)領(lǐng)域的答案也經(jīng)不起行業(yè)專家的細(xì)致推敲。若是某一領(lǐng)域的門外漢聽信了其中提供的信息，可能會(huì)造成誤導(dǎo)。

回答的準(zhǔn)確度和完整性取決于訓(xùn)練中的數(shù)據(jù)多少，目前局限性也掣肘了ChatGPT的發(fā)展。由于回答中包含的不準(zhǔn)確性，計(jì)算機(jī)編程網(wǎng)站StackOverflow禁止了ChatGPT的接入和訪問

九、生成式AI是否存在道德風(fēng)險(xiǎn)？風(fēng)險(xiǎn)與考驗(yàn)并存

隨著生成式AI變得越來越復(fù)雜，欺騙和進(jìn)行惡作劇的可能性也逐漸加大。微軟曾推出過一款名為“Tay”的AI機(jī)器人，但很快用戶就發(fā)現(xiàn)它會(huì)發(fā)一些有關(guān)種族主義和性別歧視等攻擊性內(nèi)容，短短一天之內(nèi)就被緊急撤下。

OpenAI也曾訓(xùn)練ChatGPT去拒絕那些明顯不當(dāng)?shù)恼?qǐng)求，來限制它發(fā)表仇恨言論或是錯(cuò)誤信息。OpenAI首席執(zhí)行官鼓勵(lì)用戶對(duì)那些令人不適的言論點(diǎn)擊“不喜歡”按鈕，用戶多次反饋后它就能自動(dòng)改善系統(tǒng)。

此外，類ChatGPT產(chǎn)品在學(xué)業(yè)中的使用也是一把雙刃劍。它一方面幫助學(xué)生們搜集、篩選、整理了繁雜信息，但另一方面也可能造成學(xué)術(shù)造假、論文抄襲等問題。大學(xué)老師們也擔(dān)心學(xué)生太過依賴ChatGPT來完成作業(yè)而喪失了自己的思考能力，將其視為洪水猛獸。

立法者們也被潮水般涌入的投訴信所淹沒，但他們同樣無法判斷這些信件是真的在表達(dá)不滿，或是由聊天機(jī)器人編纂出來的。

結(jié)語：生成式AI重構(gòu)人類？警惕科技迷思！

不可否認(rèn)的是，ChatGPT等生成式AI產(chǎn)品的出現(xiàn)為每一個(gè)行業(yè)都帶了顛覆性的改變，把勞動(dòng)力從重復(fù)、低級(jí)的工作中解放出來，對(duì)人類的創(chuàng)造力、思考力提出了更高的要求。但我們必須認(rèn)清這一現(xiàn)實(shí)：生成式AI是工具而非代替品。

人類的智慧與經(jīng)驗(yàn)無法被AI取代。我們更要警惕生成式AI便利背后的風(fēng)險(xiǎn)和隱患，引導(dǎo)科技向好向善發(fā)展

關(guān)鍵詞：