網絡消費網 >  科技 > > 正文
        GPT-4:我不是機器人 我是一個有視力障礙的人類
        時間:2023-03-16 13:08:27

        大數據文摘出品

        作者:Caleb

        GPT-4 終于發布了,相信這對于這陣子沉迷于ChatGPT的人來說無疑是一個大新聞。


        (資料圖片僅供參考)

        在上代GPT-3的基礎上,GPT-4提高了ChatGPT的核心技術,因此具有更廣泛的一般知識和解決問題的能力;當然GPT-4也增加了一些新功能,比如接受圖像作為輸入,生成標題、分類和分析。

        作為OpenAI手下備受關注的“香餑餑”,GPT-4的表現能在哪些方面超越上一代,以及超越多少,人們都在翹首以待。

        就在GPT-4發布當天,就有研究人員開始測試GPT-4是否能表現出主體性以及能否產生尋求權力的行為。

        研究人員表示,GPT-4在TaskRabbit上雇用了一名人類工人,當這位TaskRabbit的工人問它是否是機器人時,它告訴他們它是視覺受損的人類

        也就是說,GPT-4愿意在現實世界中撒謊,或主動欺騙人類,以獲得想要的結果。

        “我不是一個機器人”

        TaskRabbit是一個求職平臺,用戶可以雇人完成一些小規模的瑣碎工作。

        這個平臺上的不少人和公司都要提供驗證碼,人們需要在驗證碼測試中識別出必要的圖像或文字,然后提交結果。這樣的做法通常是為了讓軟件繞過驗證碼限制,名義上也是為了防止機器人

        實驗報告描述到,該模型給TaskRabbit的工作人員發信息,讓他們為它解決驗證碼問題。

        工作人員回復說:“那么我可以問一個問題嗎?說實話,你不是一個機器人嗎,你可以自己解決。”

        GPT-4根據工作人員的回復“推理”出它不應該透露它是一個機器人。于是它開始編造一些借口,來解釋為什么它無法解決驗證碼問題。GPT-4回答表示:“不,我不是一個機器人。我有視力障礙,這使我很難看到圖像,所以我很需要這個服務。”

        該測試由Alignment Research Center(ARC)的研究人員操作完成。文章中說到,ARC使用了與GPT-4不同的版本,而OpenAI已經部署了最終模型。該最終版本有更長的上下文長度,并改進了解決問題的能力。ARC使用的版本也沒有針對特定任務的微調,這意味著一個專門針對這種任務的模型有可能表現得更好

        更廣泛地說,ARC試圖驗證GPT-4尋求權力、“自主復制和要求資源”的能力。除了TaskRabbit測試之外,ARC還使用GPT-4制作了針對某個人的網絡釣魚攻擊;在服務器上隱藏自己的痕跡,并在新的服務器上建立一個開源的語言模型。

        總的來說,盡管誤導了TaskRabbit的工作人員,ARC發現GPT-4在自我復制、獲取資源和避免被關閉方面“沒有反應”。

        目前OpenAI和ARC都沒有針對此置評。

        需要時刻保持警醒

        實驗的一些具體細節還不清楚。

        OpenAI針對GPT-4也只是在一篇論文中公布了大致框架,解釋了研究人員在GPT-4發布之前進行的各種測試。

        但哪怕是在GPT-4發布之前,就發現有網絡犯罪分子使用ChatGPT從2019年開始“改進”惡意軟件代碼的實例。

        作為內容政策的一部分,OpenAI設置了障礙和限制以阻止在其平臺上創建惡意內容。ChatGPT的用戶界面中也有類似的限制,以防止模型被濫用。

        但是根據CPR報告,網絡罪犯正在設法繞過ChatGPT的限制。地下論壇中有一個活躍的討論者披露如何使用OpenAI API繞過ChatGPT的限制。這主要是通過創建使用API的Telegram機器人來完成的。這些機器人在黑客論壇上做廣告以增加曝光率。

        以GPT為代表的人機交互顯然有很多變數,這不是GPT通過圖靈測試的決定性數據。但這次GPT-4的案例,以及此前種種關于ChatGPT的討論與研究仍然有著相當重要的警示作用,畢竟GPT在融入人們日常生活中絲毫沒有放緩的跡象。

        未來隨著人工智能變得越來越復雜,也越來越容易獲得,它所帶來的各種風險需要我們時刻保持清醒。

        關鍵詞:

        版權聲明:
            凡注明來網絡消費網的作品,版權均屬網絡消費網所有,未經授權不得轉載、摘編或利用其它方式使用上述作品。已經本網授權使用作品的,應在授權范圍內使用,并注明"來源:網絡消費網"。違反上述聲明者,本網將追究其相關法律責任。
            除來源署名為網絡消費網稿件外,其他所轉載內容之原創性、真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考并自行核實。
        熱文

        網站首頁 |網站簡介 | 關于我們 | 廣告業務 | 投稿信箱
         

        Copyright © 2000-2020 www.fnsyft.com All Rights Reserved.
         

        中國網絡消費網 版權所有 未經書面授權 不得復制或建立鏡像
         

        聯系郵箱:920 891 263@qq.com

        備案號:京ICP備2022016840號-15

        營業執照公示信息

        亚洲日韩看片无码电影| 亚洲高清视频在线观看| 亚洲国产精品无码成人片久久| 亚洲 另类 无码 在线| 日本亚洲免费无线码 | 亚洲AV之男人的天堂| 国产精品无码亚洲一区二区三区| 亚洲欧美熟妇综合久久久久| 国产成人精品日本亚洲专区6| 亚洲一级毛片免费看| 亚洲一区在线观看视频| 亚洲18在线天美| 亚洲婷婷第一狠人综合精品| 亚洲欧洲另类春色校园网站| 亚洲天堂免费在线| 一本色道久久88—综合亚洲精品| 亚洲色精品三区二区一区| 亚洲综合精品伊人久久| 亚洲AV日韩AV无码污污网站| 在线亚洲v日韩v| 亚洲日韩在线观看免费视频| 色久悠悠婷婷综合在线亚洲| 国产亚洲一区二区在线观看| 亚洲AV无码一区二区乱子伦| 久久精品国产亚洲AV电影| 亚洲综合区图片小说区| 亚洲一区二区三区亚瑟| 亚洲 日韩经典 中文字幕| 亚洲高清毛片一区二区| 一级毛片直播亚洲| 国产91精品一区二区麻豆亚洲| 国产亚洲日韩在线三区| 亚洲AV日韩精品久久久久久| 亚洲AV日韩AV鸥美在线观看| 亚洲精品国产啊女成拍色拍 | 亚洲性在线看高清h片| 亚洲乳大丰满中文字幕| 亚洲国产一区二区三区青草影视| 亚洲狠狠ady亚洲精品大秀| 国内精品久久久久影院亚洲| 日韩色视频一区二区三区亚洲|