作者 | Farhad Manjoo

ChatGPT給人留下的第一印象十分迷人。它幽默感驚人，模仿能力絕佳，在押韻方面也相當(dāng)有一手。它的觀點(diǎn)還非常合理。要是ChatGPT沒能通過圖靈測試，那大概率是因?yàn)樗裁词虑槎疾话l(fā)表自己的意見。上一次有人在互聯(lián)網(wǎng)上拒絕談?wù)撟约旱恼鎸?shí)想法，是什么時(shí)候？

(資料圖片僅供參考)

幾周前，當(dāng)人工智能公司OpenAI推出了ChatGPT這款機(jī)器人，作為其大型語言模型工作的“研究預(yù)覽”（research preview）時(shí)，我開始跟它聊天。語言模型是一種人工智能系統(tǒng)，通過大量的文本學(xué)習(xí)來捕捉詞匯之間可能存在的聯(lián)系。ChatGPT是一種經(jīng)過優(yōu)化的語言模型，其目標(biāo)就是為了探索AI技術(shù)領(lǐng)域長期的“圣杯”——一臺能與人類對話的計(jì)算機(jī)。

ChatGPT確實(shí)做到了這一點(diǎn)。我一生中跟許多計(jì)算機(jī)聊過天（我知道這很奇怪），但ChatGPT是我遇到的第一個(gè)堪稱有趣的聊天對象。起初，我只是說一些瑣事，但沒過多久，我們就展開了深入的對話，比如：美聯(lián)儲在美國經(jīng)濟(jì)中的作用；意識的本質(zhì)；“woke”（編注：原為非裔美國人的俚語，后來用于指“對種族歧視和偏見保持警覺”）和“Karen”（編注：一個(gè)姓名梗，指歧視有色人種的中年白人女性）之類的新詞；養(yǎng)育子女的道德困境；怎么為罷工同事提供支持；氣候變化、墮胎和疫苗安全；熱狗算不算三明治，等等。

說到這里，也許我應(yīng)該告訴你們——我對ChatGPT抱有一種敬畏或害怕的心態(tài)，因?yàn)樗鼘?huì)徹底改變或毀滅我們的世界。但是，盡管我認(rèn)為ChatGPT揭示了AI的一些危險(xiǎn)性，我拒絕對它給予強(qiáng)烈的贊揚(yáng)或是譴責(zé)。

就像大多數(shù)雞尾酒會(huì)上的閑聊一樣，它的潛在利弊，至少就目前而言，都是相當(dāng)有限的。我毫不懷疑像ChatGPT這樣的東西可能會(huì)被濫用。它有可能會(huì)導(dǎo)致一些貌似科學(xué)的錯(cuò)誤信息的病毒性傳播，可能會(huì)降低學(xué)生論文作弊的難度。

但OpenAI似乎正在解決這些問題。在一次采訪中，OpenAI的首席技術(shù)官米拉·穆拉蒂（Mira Murati）表示，該公司正在仔細(xì)監(jiān)控人們在如何使用和濫用它，迅速完善系統(tǒng)來填補(bǔ)一些明顯的漏洞，并根據(jù)用戶反饋不斷改進(jìn)它。

事實(shí)上，ChatGPT對自身局限性的認(rèn)知，正是其最有趣的性格特征之一。

與ChatGPT之間的許多對話都會(huì)變成這樣：當(dāng)你打算認(rèn)可它的說法時(shí)，它就會(huì)轉(zhuǎn)向高度謹(jǐn)慎的態(tài)度，宛如最高法院大法官候選人在其確認(rèn)聽證會(huì)上表現(xiàn)出的那樣。它通常會(huì)提醒你，關(guān)于這件事還有其他說法，也許不存在一個(gè)明確的“正確”答案，以及你應(yīng)該試著欣賞不同的觀點(diǎn)。

在針對一些科學(xué)話題時(shí)，ChatGPT似乎更為篤定一些。例如，它會(huì)說“氣候變化是真實(shí)存在的、正在發(fā)生的現(xiàn)象”，進(jìn)化論“得到了來自許多不同領(lǐng)域的大量科學(xué)證據(jù)的支持”，以及地球當(dāng)然不是平的。不過，總的來說，ChatGPT會(huì)坦白告訴你自己無法提供一個(gè)確定的答案。

為什么說ChatGPT的這一特征非常驚艷？眾所周知，人工智能研究存在的兩個(gè)問題分別是保持“一致性”和避免“幻覺”。一致性涉及到人工智能實(shí)現(xiàn)其人類創(chuàng)造者目標(biāo)的能力，換句話說，就是拒絕對世界造成破壞；幻覺則跟堅(jiān)持真理有關(guān)——當(dāng)人工智能系統(tǒng)困惑不解時(shí)，它們有一個(gè)壞習(xí)慣，就是會(huì)編造一些事情，而不是承認(rèn)自己遇到了困難。為了解決這兩個(gè)問題，OpenAI的研究人員微調(diào)了ChatGPT的語言模型，名為“從人類反饋中強(qiáng)化學(xué)習(xí)”（Reinforcement learning from human feedback）。該公司雇用了真人與機(jī)器人互動(dòng)。當(dāng)人類與它聊天時(shí)，他們會(huì)對它的反應(yīng)評級，這本質(zhì)上是在教它：什么樣的反應(yīng)是好的反應(yīng)，什么樣的不是。

穆拉蒂告訴我，語言模型與人類反饋的結(jié)合，創(chuàng)造出了一個(gè)更逼真的人工智能對話伙伴，“這個(gè)模型可以分辨對錯(cuò)，”她說，“它可以順著你的話題繼續(xù)提問，也會(huì)質(zhì)疑不正確的假設(shè)或拒絕不合適的請求?！?/p>

ChatGPT還遠(yuǎn)遠(yuǎn)算不上完美。Twitter上充斥著“破解”ChatGPT的例子，或者說，誘騙它產(chǎn)生幻覺或錯(cuò)位的例子。

外界針對像ChatGPT這樣由“深度學(xué)習(xí)”計(jì)算技術(shù)構(gòu)建的系統(tǒng)的一個(gè)主要批評是，它們只不過是增強(qiáng)版本的自動(dòng)更正技術(shù)，所理解的只是單詞之間的統(tǒng)計(jì)聯(lián)系，而不是單詞背后的概念。紐約大學(xué)心理學(xué)榮譽(yù)教授、深度學(xué)習(xí)懷疑論者加里·馬庫斯（Gary Marcus）表示，雖然像ChatGPT這樣的人工智能語言模型可以說一些漂亮話，但它“仍然不可靠，仍然不了解物理世界，仍然不理解心理世界，仍然會(huì)產(chǎn)生幻覺”。

不過，與此同時(shí)，ChatGPT最大的特點(diǎn)就是它很謙虛。一天下午，我受夠了它不斷提醒我說，自己的答案可能是錯(cuò)的，我問它：“要是不管你說了什么，我都得確認(rèn)一遍你說得對不對，那要你有什么用？這話可能有些不中聽，不好意思。”

而它表示過意不去，“我無意成為一個(gè)確定的信源，我的職責(zé)不是替代那些專業(yè)的建議和知識。我在這里只是為了輔助提供一些有效信息，但最終還是需要用戶自己對這些信息做核實(shí)和評估?！?/p>

這種謙遜讓ChatGPT成了一款不同尋常的數(shù)字助手。你很少能在網(wǎng)上看到有人承認(rèn)自己也許是錯(cuò)的。如果人工智能可以做到的最好的事情就是承諾自己會(huì)做得更好，那我愿意接受它。

關(guān)鍵詞： chatgpt 人工智能