人工智慧應用 KPMG:留意8大風險


2018-06-28 20:37

〔記者吳佳蓉/台北報導〕KPMG台灣所數位科技安全服務負責人謝昀澤表示,智能科技在想像上無限美好,但實際應用遭遇的挑戰,遠比傳統企業擔心的網路駭客攻擊還多,以人工智慧為例,實務上可能遭遇的就有8大風險。

KPMG台灣所今舉辦第2季讀書會,針對中國經營環境解析、跨國投資法律實務以及2018企業數位轉型趨勢與風險3大主題進行探討。

在企業數位風險部分,謝昀澤表示,未來企業數位轉型的契機,多是應用「大-人-機(大數據、人工智慧、機器人等)」明星技術,搭配物聯網IoT平台串連。想像起來,有這些智能科技的未來很美好,但也不能忽略,現階段智能科技應用於實際場域可能產生的風險。

以人工智慧演算法為例,就可能面臨以下8大風險面向,包括:「機器學習樣本偏失或不足」、「設計者人為錯誤或道德偏失」、「演算法設計過程中有技術缺陷」、「使用者不了解演算法限制、產生的過度依賴與誤用情境流程瑕疵」。

以及「演算法遭內外部攻擊者惡意破壞」、「人工智慧演算結果濫用,導致侵犯當事人隱私權」、「決策者對分析結果的錯誤解讀或誤用」、「演算效能不足導致無法完成達成運作目標」等。

謝昀澤提醒,數位科技的應用,需同時面對來自於環境、技術與時間競爭的壓力,因此風險治理的重點,與傳統產業及技術有非常大的不同。

他建議,所有的智能科技應用,都應針對演算法與大數據風險,建立風險及法遵整合治理架構,以人工智慧應用為例,首先應「創造邊做邊學的環境」,政府應推動科技法遵沙箱環境,讓人工智慧等新興科技在準備期,有適當邊做邊學的空間;但企業在研發創新的期間,也應該要著手建構智能科技的風險管理框架。

其次,是「優先著眼於感知技術的成熟度」,以提高演算法精確度,無論針對結構與非結構化的大數據來源,都能廣泛的進行感知、判別與分析。再來是要「考量人工介入的必要性及時機」,人工智慧科技難以取代最終決策的「責任」,因此在人工智慧的應用場景,配合相關的法規與應用規範,應設計必要的人工介入點,而非全數仰賴機器的運算與決策。

新聞送上來!快加入自由電子報APP、LINE好友


iOS Android APP下載
QR Code
L I N E
加入好友
已經加好友了,謝謝
歡迎加入【自由財經】
按個讚 心情好
已經按讚了,謝謝。
網友回應
今日熱門新聞