fbpx
32 C
Hong Kong
Thursday, June 20, 2024
HomeTech人工智能的危機

人工智能的危機

Related stories

曙光兒童發展中心

https://www.youtube.com/watch?v=2WF9xJMoXb0

享和汽車維修

https://www.youtube.com/watch?v=EVUUnsPgueo

「創新科技企業家系列」

筆者最近參與籌辦了「創新科技企業家系列」,2024年3月28日的活動重點內容包括參觀華潤科學技術研究院以及參觀中國移動「聯創+」香港5G開放實驗室的5G企業應用。我們並邀請了三位企業家分享科創企業家經驗。

ESG如何融入工業 4.0?

我們正在經歷第四次工業革命,也稱為工業 4.0,指的是將數位技術和智慧系統整合到製造業和工業過程中,而推動這場革命的技術隨處可見。從家庭和辦公室的機器人清潔機到機場的面部識別攝像頭、可供消費者購買的不勝枚舉的產品,如 3D 印表機和虛擬實境娛樂等。

從政府工作報告看產業發展

「政府工作報告」一向都是全國兩會的重要焦點,今年是中華人民共和國成立75周年,也是實現「十四五」規劃目標任務的關鍵一年。社會各界對國家定立的發展任務高度關注。作為科技業者,特別把產業發展與讀者一同討論。
spot_imgspot_img

上一篇跟大家分享過人工智能帶來的好處,今次和大家分享一下人工智能帶來的危機。

在開始寫這一篇文章之前,我特意問了ChatGPT,它覺得自己會帶來什麼危機。它給我的答案是以下幾點:就業危機﹑倫理和隱私問題﹑安全風險﹑極端主義和歧視﹑軍事危機和控制問題。在這些答案裏,我覺得倫理和隱私問題﹑軍事危機和安全風險是最重要,因為其他危機都可以靠着人類的努力去控制及加以改善。眾多危機當中,我最不想看見軍事危機,我亦不想見到有人工智能開發軍事系統,因為後果不堪設想。然而,今次我想跟大家討論一下人工智能帶來的倫理和隱私問題及安全風險。

重溫︰人工智能的考驗

在最近的美國總統初選,有人工智製造出不同宣傳影片,而這些影片的內容真確性亦受到廣泛討論,其中一個候選人甚至公開批評這些影片是虛構。我特意觀看了這些影片。說實話,我都不能分辨影片究竟是真是假。加州大學柏克萊分校計算機科學教授歐布萊恩(James O’Brien)說:「終有一天,AI系統可以生成與真實無異的影像。屆時,人類就再無法偵測到影像是否由AI生成了。」這導致我們反思,人工智能在學習過程所讀取的大數據,會牽涉個人私隱及虛假訊息,而最大的問題是人工智能不但不會自動刪除這些假信息,還可以製造與真實訊息相似度極高的虛假訊息。舉一個例子,當我們乘坐飛機到外地旅遊的時候,如果有不法分子取得我們的外遊紀錄,他們可以利用我們對家人的關心,使用人工智能製造一段虛假的綁架影片,在短時間內騙我們交付贖金,而當我們不能分辨人工智能製造的影片孰真孰假的時候,就會很容易墮入陷阱。故此,我們必須要清楚地知道如何保護個人私隱訊息。在社交媒體大數據風行的時代裏,如何有效地規限人工智讀取及學習有關於隱私的資訊,以及怎樣有效地用法律規管人工智能製造的虛假訊息,非常值得我們去探討及即時制定對策。

第二方面是安全風險。如果人工智能系統沒有足夠的保護,極有可能受到黑客攻擊,導致系統失控或造成傷害。在現今時代,黑客攻擊並不是新鮮事,而現今大部份的黑客都是為了得到公司內部或客人資料而作出攻擊。如果未來黑客把目標轉移到人工智能系統,將會導致失控情況,不單會洩漏客戶資料,更會令人工智能發出錯誤訊息。舉一個簡單的例子,現在大部份公司都會使用人工智能來回覆客戶查詢。假如有黑客針對人工智能客戶服務系統攻擊,不單會令系統在短時間內癱瘓,更可以利用人工智能系統奪取更多客戶資訊,甚至乎可以向客戶提供公司的利益而令公司蒙受損失。假如將來一家上市公司的人工智能系統被攻擊,黑客隨時可以捏造上市公司的動向而導致股價波動,最後損失的不只是公司,更會影響投資者。

本人覺得人工智能只需要制定標準就能安心使用。其實國際間已經就着人工智能部份範圍的標準開始展開討論,甚至已經制定了部份標準,例如在2022年推出的ISO 23053:2022「使用機器學習的人工智能系統框架」;在2023年推出ISO 23894:2023 「人工智能資訊風險管理指引」初稿,現在還在完善及討論當中;現時亦有很多關於不同領域的人工智能國際標準在研究中。我們要小心應用人工智能之外,而標準化的指引亦會給我們基本規範。希望各位可以把人工智能用在正途上,避免不必要的風險。

Raymond Lui
Raymond Lui
BSI英國標準協會香港區企業方案及市場營銷總監

Subscribe

- Never miss a story with notifications

- Gain full access to our premium content

- Browse free from up to 5 devices at once

Latest stories