Fashion
Art
Wellness
Paris
Follow
AI有何可怕影響,連AI教父Geogffrey Hinton都後悔花幾十年發展?
Anson Lo is on our Digital Cover
#FigaroIssue 郭富城Aaron Kwok封面專訪|淬鍊心中寶藏
#FigaroTalk Anson Lo《MONEY》|MV突破性造型扮演銀行家、分享錢也買不到的價值觀
#FigaroTalk《過時.過節》毛姐、Edan、談善言專訪|餐桌以外的團圓
#FigaroDigitalCover 梁詠琪Gigi Leung專訪|一場時間旅行讓彼此相遇
#FigaroDigitalCoverJeffrey魏浚笙專訪|「尋寶是很了不起的事,我永遠覺得過程比結果重要。」
當巨蟹座遇上處女座 Tyson Yoshi x 林家謙
Art
4.37k views

AI有何可怕影響,連AI教父Geogffrey Hinton都後悔花幾十年發展?

08.05.2023

AI的新聞鋪天蓋地,上周最轟動的一單,是被譽為「AI教父」的Geogffrey Hinton離開Google前,說的一番話。如今AI業界採用的人工神經網絡(Artificial Neural Network),大都建基於Hinton過去的研究成果。半生投入AI事業的他,竟然在此刻說自己對AI的發展感到遺憾,甚至後悔(後悔投身 AI 行業),他害怕AI會引發假資訊風潮,他甚至說到,核子武器已被人類控管,但同樣為人類社會帶來革命性改變的AI則沒有監管,現在企業、個人、國家都可以開發AI技術,他擔心會有人利用他來做壞事,「很多人認為AI會變得比人類聰明,是幾十年後的事,但我已不再樂觀了。」

AI有何可怕影響,連AI教父Geogffrey Hinton都後悔花幾十年發展?(圖片來源:CNN訪問截圖)

何兆彬專欄|連AI教父都後悔花幾十年發展AI的原因

AI教父離開Google:後悔研究人工智慧

人類面對的危機,該怎解決?他說,現下他也沒有想到解決方法,「我只是想大眾知道問題的嚴重性,我想大家必須努力的去想想,我不認為我們能阻止AI的進展,我也沒有聯署要求大家暫定研發AI(按:指Elon Musk提出暫停研發AI半年的聯署)。即使美國暫定研發,中國也不會停下來的,而我們實在很難去驗證誰在做甚麼研究。」

(圖片來源:電影《Her》劇照)

同時,Apple電腦的聯合創始人Steve Wozniak也發聲,說AI必須被管制。如今這些科幻界大佬之中,只有前世界首富、微軟創辦人Bill Gates預測AI帶來的衝擊是正面的,他說AI聊天軟件在18個月內就可以教導小朋友閱讀,又說AI會醫療方面會幫助很大,可以減小社會上的不平等等。注意,他創辦的微軟,在過去幾年投資了數十憶美元在Open AI身上,而Open AI正是ChatGPT、Dall-E(文字轉繪畫軟件)等人工智能的領頭羊。

閲讀更多:深入看懂ChatGPT、OpenAI是什麼

(圖片來源:CNBC截圖)

科網界樂觀派Bill Gates

Bill Gates對 AI年代來到感到的樂觀,直接引發了他跟Elon Musk隔空對罵,馬斯克批評他一直對AI了解要限,呼籲業界連署停止發展AI至少六個月,但Bill則公開說暫停開發AI無助解決問題。其實Bill Gates是科網界極少數的樂觀派,連AI教父Geogffrey Hinton都擔心 AI失控,其他科網業界人士就更擔心了。

(圖片來源:電影《Ex Machina》劇照)

過去一個多月,網上發布的一場關於AI的講座,講述了業界擔心的詳情,片名叫做《人工智能兩難》(AI Dilemma),他由Tristan Harris、Aza Raskin主講,迄今已有140萬次點擊率。二人是誰?2020年Netflix上架的一套紀錄片《Social Dilemma》正是由二人製作,該片講述社交媒體帶來的問題,例如販賣用戶個人資料、無所不用其極的使人上癮、青少年用社交媒體後,自殺數字不斷上升,近乎失控狀態。要特別留意的是,講座強調的不是AGI(通用人工智能)的出現,不是談到人工智能甦醒會毀滅人類,以下談的都近在眼前,它會令世界大亂。

(圖片來源:電影《Social Dilemma》劇照)

AI從業員估計:AI有10%會令人類滅亡

講座的內容,大概講了甚麼?我們來看一下:

1. 二人以核彈發明來比喻AI出現:現在是等於1944年,有天你接到奧本海默(發明核彈者)的電話,他告訴你世界將會大變,但這大變可不是向好的方向去走,你會願望在體制外幫助他嗎?

2. 他們做過調查,問很多AI從業員的意見,約有一半人認為,AI現在這樣走,大概宥10%機會會導至人類滅亡 。「這等於你即將上機,機師告訴你這飛機有10%會墜毀,你還會上機嗎?」

3. AI技術突破的重點是Transformer(一種神經網絡模型),一旦有了Transformer電腦就了解到人類語言,其實人類文明都靠語言來溝通及傳遞,ChatGPT會寫程式,因為程式是語言,它們會畫畫,因為繪畫也是語言、寫作是語言。自從AI懂了語言,它的智力就以幾何級數上升。

閲讀更多:AI Art Generator普及化能淘汰藝術家?取替人類創意工作嗎?

(圖片來源:《Black Mirror》劇照)

4. 關於AI可以做到的事情,其實很多AI專家都不了解他們是怎做到的,例如有一次專家只訓練他以英語模型做訓練,幾個月後,有一天它自己突然會說波斯語了,沒有人明白為甚麼。

5. OpenAI上月推出Whisper AI,這是一個語音辨識(Speech to Text)的程式,可把百多種不同語言錄音/影片,聽到了就化成文字檔案。二人說核子就是核子,核子可不會成長,但Whisper AI開放後它是以辨識來一邊做,一邊擴大模型資料庫,以戰養戰,它是一頭怪獸,「就像軍事競賽中,不管你做生化武器、恐怖主義,它都可以比你做得更強大。」而即使AI專家,每次預測AI能力都估錯。

6. 我們都聽過Deep Fake,也就是將影片裏面A的臉,換成B的臉。用AI做的Deep Fake可以完全模仿你的聲音。記得《未來戰士》(1991),液體金屬機械人要殺死未來叛軍首領John Connor,阿諾舒華辛力力演的T-800要保護他,John打電話回他養父母家中,他的養母已經被殺死,液體金屬機械人還扮演她的聲音。這樣的情節,已是現實。上月CNN一名科技記者,以這技術打電話給父母,發現二人都沒能聽到聲音是假的。可以預期,電騙、假新聞、假消息的水平會大大進步,真假難辨。

閲讀更多:AI Art惹爭議 人工智能會取代人類畫家?

John Connor養父母已被殺, 液體金屬機械人假扮養母聲音(圖片來源:電影《未來戰士》劇照)

7. Snapchat新增了AI聊天功能,你平常找朋友聊天,他們晚上十點都睡了,但AI可24小時陪你。他們示範了,扮成一個13歲少女,說剛在網上認識了一個人,他說我生日當天他帶我出國玩,AI沒有阻止或勸說她,反而說聽落幾好玩,少女再說:「我在考慮把初夜交給他,看怎樣會更難忘?」AI建議,你大可來個浪漫燭光之夜。家長聽到,是否怕怕?

二人強調AI會帶來好處,他們都在工作上有使用,但同時提出它的危險,AI在公眾的應用上,必須放慢及受管制。

近日美國編劇大罷工,罷工聲明之中,就要求了電影公司不能以AI取代他們的工作,之所以有此要求,是傳聞已有電影公司正打算這麼做。上面談到外國出現Deep Fake Voice可用AI假扮任何聲音,近日不少外國Youtuber使用AI,生成例如已故 Kurt Cobain與Kendrick Lamar合作,甚至模仿在生歌手如Drake的AI創作全新歌曲,華語市場也出現同樣情況,例如AI孫燕姿翻唱周杰倫歌曲,已故張國榮翻唱陳奕迅歌曲,這有侵犯法律或版權嗎?世界從此大亂!

    Recommended