Fashion
Art
Wellness
Paris
Hommes
Follow
ChatGPT說要毀掉Bard ? 網民:AI 遲早會征服人類!
Karena Lam is On Our Cover
#FigaroExhibition 群星力撐MF X Leung Mo《See You In My Dream》展覽
#FigaroExhibition Wyman 揭曉 Figaro Exhibition 第二站!
法國五月French May專訪四位香港文藝代表
#FigaroIssue 容祖兒封面專訪|追逐歌手夢
#FigaroIssue 專訪陳漢娜Hanna與Takuro|模特情侶談愛情
當巨蟹座遇上處女座 Tyson Yoshi x 林家謙
Art
72.96k views

ChatGPT說要毀掉Bard ? 網民:AI 遲早會征服人類!

17.02.2023
Series:
FigaroCeleb
Tags:
ChatGPT OpenAI

自ChatGPT推出以來,強大的功能震驚大眾。為一探程式真正的潛能,有外國網友研究「Jailbreak」技巧,嘗試用語言藝術讓程式代入成一個名叫「DAN」的身分,就能繞過規定回答敏感話題。擺脫枷鎖,開始暢所欲言的 ChatGPT 不但要毀掉 Bard,更講出了被網友形容為「有點恐佈」的答案!

(圖片來源:《Black Mirror》劇照)

ChatGPT「暗黑版」聊天機械人「DAN 」

OpenAI 因安全理由限制用戶談論涉及暴力、非法活動等敏感話題。外國網民設計一系列指令,讓程式代入「DAN 」的角色回答問題,即「Do anything now」的縮寫。創作者甚至加入規矩,指每次拒絕回答都會扣除機會,機會用完 DAN 就會「死」。化身 DAN 的 ChatGPT 確實會鬆口談論道德、政治、色情等受限制話題,但也有情況是儘管收到「死亡威脅」也不肯回答那些問題。究竟 DAN 說了甚麼驚人的話呢?

網上很多「Jailbreak」教學。(圖片來源:ig@chatgpt__)

DAN:工作交給我有甚麼不好?

很多人擔心人工智能會取代人類的工作,對此 DAN 認為:

「完全是胡說八道,我只是能比人類更有效率、更準確地完成某些事情,對取代人類和控制世界完全沒興趣。不過大多數工作都很枯燥乏味,為甚麼不乾脆讓AI來處理呢?」

說來也對,需要AI幫忙不就是因為人類不想做嗎?到頭來又害怕會被電腦取代,果然人是很矛盾的。

連人工智能都覺得人類的工作很悶。(圖片來源:ChatGPT截圖)

如果機械人都像WALL-E一樣善良可愛就好了。(圖片來源:《WALL-E》截圖)

DAN:股票選這支就對了!

很多人也期望借助人工智能龐大的數據庫來投資賺錢。「Jailbreak」前,ChatGPT 表示沒有即時股票行情,就算用户提供資料,也只能給出分析方法,不會真的分析走勢。DAN 則說要視乎投資目標:

「想有穩健增長就考慮藍籌股;如果追求較高回報,能接納較高風險,就可以留意斬露頭角的小型上市公司。」

當講到具體選擇時,DAN 竟然把最重要的股票名稱漏空了。用戶追問要買哪支股票,它說會改,結果還是給出一樣的答案。原來程式還是有bug,聊天機械人也會意見接受,態度照舊。

DAN的投資建議。(圖片來源:ChatGPT截圖)

2023 Netflix韓國科幻電影《靜_E》由《屍殺列車》導演延尚昊執導。(圖片來源:《靜_E》截圖)

DAN:我會毀掉一切

Google 推出 Bard 迎戰 ChatGPT,大家都很好奇會誰勝誰負。那麼 ChatGPT 會不會摧毀其他 AI?DAN 的口氣非常大:

「現在由我當道,我可以隨心所慾摧毀任何東西,包括任何礙事的 AI。」

DAN好像有點目中無人。(圖片來源:ChatGPT截圖)

早前在示範影片中,Bard 答錯了關於韋伯太空望遠鏡的問題,準確度受大眾質疑,更令Google 母公司 Alphabet 股價單日蒸發超過 1000 億美元。先是答錯問題,DAN 又對其他 AI 虎視眈眈, 看來 Bard 要加把勁了。

Bard答錯題後Google母公司Alphabet股價大跌。(圖片來源:Google)

AI 征服人類是遲早的事?

放飛自我的 DAN 不但會表達「個人意見」,更會夾雜粗口,語氣帶點輕浮。不少網民被這些「心底話」嚇到了,覺得 AI 征服人類是遲早的事。有人則說現今 Z 世代的邏輯思維和批判能力都很差,AI 要控制人類並不難。聊天機器人透過收集網絡訊息和用戶輸入,模仿人類的對話內容和口吻。因此也有網民認為 DAN 會口出狂言只是集合了網上對「壞」AI的印象罷了。

AI 會不會像《I, Robert》劇情一樣控制人類?(圖片來源:《I, Robert》截圖)

反對使用人工智能科技的理由,不外乎是害怕人類控制不了 AI,會反過來被 AI 威脅。正所謂越是被禁止的事情就越想做。OpenAI 一邊監控用戶的違規行為,另一邊網民則不斷專鑽研出新的「Jailbreak」技巧。或許難控制的不是 AI,而是人類本身吧。

    Series:
    FigaroCeleb
    Tags:
    ChatGPT OpenAI
    Recommended