fbpx
25.4 C
Hong Kong
Tuesday, March 5, 2024
HomeTech人工智能的危機

人工智能的危機

Related stories

邁向更綠色的未來: 香港如何學習臺灣 “即扔即付 “的成功經驗

多年來,香港一直致力於採用更可持續的廢物管理方法。該計畫原定於 4 月開始實施,但最近幾周在後勤細節方面遭到了批評和混亂,行政長官李家超要求環境和生態局加大工作力度,進一步解釋該計畫。

「垃圾徵費計劃」新措施,能否成為推動ESG的助力?

「都市固體廢物收費」(俗稱:垃圾徵費),政府宣布將計劃延至8月1日才正式實施。政策引起市民熱烈討論政策的實施和關注環保的議題。

布魯克菲爾德為氣候轉型基金籌集了100億美元

布魯克菲爾德資產管理公司今天宣布,該公司的第二個全球私募股權基金,布魯克菲爾德全球轉型基金II(BGTF II)在首輪籌資中成功募集了100億美元。

能否透過汽車訂閱來加速電動車的大規模普及?

德國科技新創公司FINN相信他們已經找到了令人信服的解決方案,鼓勵更多人接受電動車(EV)。 透過為期六至十八個月的訂閱服務,FINN為消費者提供了在永久轉向電動車之前試用EV的機會。 自2019年成立以來,FINN已經吸引了2.5萬名訂閱用戶,其中約40%選擇了電動車。

打造哈爾濱市創新引領之都建議

筆者作為哈爾濱市政協委員,最近就「打造哈爾濱市創新引領之都」提交了題案建議。根據世界知識産權的《2023年全球創新指數》哈爾濱市躍居全球科技集群百强榜由2019年87位上升至53位,全球經濟體中的熱點「科技集群」排名,位列25個城市(群)的第15位。
spot_imgspot_img

上一篇跟大家分享過人工智能帶來的好處,今次和大家分享一下人工智能帶來的危機。

在開始寫這一篇文章之前,我特意問了ChatGPT,它覺得自己會帶來什麼危機。它給我的答案是以下幾點:就業危機﹑倫理和隱私問題﹑安全風險﹑極端主義和歧視﹑軍事危機和控制問題。在這些答案裏,我覺得倫理和隱私問題﹑軍事危機和安全風險是最重要,因為其他危機都可以靠着人類的努力去控制及加以改善。眾多危機當中,我最不想看見軍事危機,我亦不想見到有人工智能開發軍事系統,因為後果不堪設想。然而,今次我想跟大家討論一下人工智能帶來的倫理和隱私問題及安全風險。

重溫︰人工智能的考驗

在最近的美國總統初選,有人工智製造出不同宣傳影片,而這些影片的內容真確性亦受到廣泛討論,其中一個候選人甚至公開批評這些影片是虛構。我特意觀看了這些影片。說實話,我都不能分辨影片究竟是真是假。加州大學柏克萊分校計算機科學教授歐布萊恩(James O’Brien)說:「終有一天,AI系統可以生成與真實無異的影像。屆時,人類就再無法偵測到影像是否由AI生成了。」這導致我們反思,人工智能在學習過程所讀取的大數據,會牽涉個人私隱及虛假訊息,而最大的問題是人工智能不但不會自動刪除這些假信息,還可以製造與真實訊息相似度極高的虛假訊息。舉一個例子,當我們乘坐飛機到外地旅遊的時候,如果有不法分子取得我們的外遊紀錄,他們可以利用我們對家人的關心,使用人工智能製造一段虛假的綁架影片,在短時間內騙我們交付贖金,而當我們不能分辨人工智能製造的影片孰真孰假的時候,就會很容易墮入陷阱。故此,我們必須要清楚地知道如何保護個人私隱訊息。在社交媒體大數據風行的時代裏,如何有效地規限人工智讀取及學習有關於隱私的資訊,以及怎樣有效地用法律規管人工智能製造的虛假訊息,非常值得我們去探討及即時制定對策。

第二方面是安全風險。如果人工智能系統沒有足夠的保護,極有可能受到黑客攻擊,導致系統失控或造成傷害。在現今時代,黑客攻擊並不是新鮮事,而現今大部份的黑客都是為了得到公司內部或客人資料而作出攻擊。如果未來黑客把目標轉移到人工智能系統,將會導致失控情況,不單會洩漏客戶資料,更會令人工智能發出錯誤訊息。舉一個簡單的例子,現在大部份公司都會使用人工智能來回覆客戶查詢。假如有黑客針對人工智能客戶服務系統攻擊,不單會令系統在短時間內癱瘓,更可以利用人工智能系統奪取更多客戶資訊,甚至乎可以向客戶提供公司的利益而令公司蒙受損失。假如將來一家上市公司的人工智能系統被攻擊,黑客隨時可以捏造上市公司的動向而導致股價波動,最後損失的不只是公司,更會影響投資者。

本人覺得人工智能只需要制定標準就能安心使用。其實國際間已經就着人工智能部份範圍的標準開始展開討論,甚至已經制定了部份標準,例如在2022年推出的ISO 23053:2022「使用機器學習的人工智能系統框架」;在2023年推出ISO 23894:2023 「人工智能資訊風險管理指引」初稿,現在還在完善及討論當中;現時亦有很多關於不同領域的人工智能國際標準在研究中。我們要小心應用人工智能之外,而標準化的指引亦會給我們基本規範。希望各位可以把人工智能用在正途上,避免不必要的風險。

Raymond Lui
Raymond Lui
BSI英國標準協會香港區企業方案及市場營銷總監

Subscribe

- Never miss a story with notifications

- Gain full access to our premium content

- Browse free from up to 5 devices at once

Latest stories