top of page

公司如何防範 AI 風險 How Companies Can Safeguard Against AI Risks


自從 2022 年 11 月 30 日 ChatGPT 推出後,引發了一場狂熱,世界也就改變了。生成式 AI 在企業中的應用迅速擴展,帶來新的效率與商機。由於企業內部安裝設罝必要安控護欄的速度,遠不及生成式 AI 的使用擴展速度,因此增加企業潛在的風險,並產生巨大的隱憂。


根據 Oliver Wyman 論壇 2023 年 11 月針對 16 個國家 15,000 多名成人進行的一項新研究顯示,約 84% 在工作中使用生成式 AI 人工智慧的員工在過去三個月內,公開暴露了公司的數據資料。


同一時間,根據 Mercer 的一項調查顯示,71% 的員工表示自動化將顯著改變他們的工作方式。而且將近三分之一的企業執行長與財務長正在重新設計工作內容,來降低對人力的依賴。


生成式 AI 科技雖然提高了生產力 (但不一定安全),但也暴露出人員能力上的差距,並削弱了員工士氣。企業需要迅速採取行動,不僅要限制員工的濫用行為,還要解決他們的擔憂。



 

AI 的魅力


根據 Oliver Wyman 論壇提供的研究報告,從 2023 6 月到 10 月,生成式 AI 的每週使用者數量從 10% 躍升至 60%,有些產業甚至從 35% 增加到 75%。超過一半的員工表示他們每周至少使用一次生成式 AI,大約五分之一的員工表示他們每天都使用它。在發展中經濟體國家 (如印度和印尼),尤其受到年輕工作者的歡迎。


受歡迎的原因主要在於像 ChatGPT 等工具易於使用,並且以自然語言 (非程式碼) 的方式,提供快速回應反饋,大幅提升人們對 AI 的接觸與使用率。更多人將 AI 工具視為 "工作夥伴",它幫助工作者完成更多工作。近三分之二的白領工作者認為 AI 工具提高他們的生產力。


一位倫敦金融科技公司的28歲客服經理表示「你可以問 ChatGPT 很多事情,但你無法問同事所有事情。」


Source: Oliver Wyman Forum Generative AI Survey, October–November 2023, 16 countries, N=16,033.



 

風險增加


許多企業組織對於生成式 AI 人工智慧是準備不足的,他們缺乏管理日益增長風險所需的專業知識與速度。超過五分之四的員工表示,他們透過公共生成式 AI 工具曝露公司的數據資料、分析公司商業數據與同事的 Email 等。針對所產生的各種風險,企業必須要儘快防堵,並防患於未然。


許多工作者表示公司已制定生成式 AI 的使用準則,但實際上 92% 的 AI 使用者表示,他們已經洩漏了公司資料。


洩漏資訊不是唯一的風險。許多企業領導者和員工並不清楚何時用生成式 AI 來取代人類決策,何時 AI 只是一項輔助工具。


超過 40% 的員工表示,他們看過生成式 AI 提供不正確的輸出內容。而近一半的員工表示,他們直接使用生成式 AI 所提供的事實或建議來做決策,而無需經過其他人員的審核。此外,十分之一的員工承認,他們會背著老闆使用生成式 AI。而 47% 的 AI 工具用戶表示即使公司嚴格禁止,他們仍會繼續使用它。



 

潛在的焦慮感


儘管生成式 AI 人工智慧替工作帶來許多便利性與成效,但也引發工作者隱藏的焦慮。


60% 的白領工作者擔心 AI 會取代他們的工作。世界經濟論壇《The World Economic Forum》估計,未來五年全球 23% 的工作將發生結構性的變化,預計將增加 6,900 萬個職位,減少 8,300 萬個工作。相當於減少 1,400 萬個就業機會,即目前就業人口的 2%。


此外,許多工作者表示,在 AI 時代他們感受到更大的工作壓力,擔心失去工作,因此也需要更好更快地完成工作。


約 26% 的人表示,AI 人工智慧工具增加了人們的期待,認為他們可以更快地完成更多工作,無論可能與否。同時,根據美國心理學會 (American Psychological Association) 的最新數據,這些擔心人工智慧的員工,有 57% 感覺自己的生產力正在下降,超過 40% 則感到自己工作愈來愈沒效率。


而雇主可以透過以下三種方式,來減緩員工對於生成式 AI 所帶來的干擾:


  • 提供優質的教育訓練

  • 發佈明確的生成式 AI 人工智慧的使用準則

  • 改善有關工作資安的訊息傳送方式



 

如何減輕 AI 對職場的影響


1. 提升員工技能


員工大多有意識到生成式 AI 人工智慧的優缺點。調查顯示,95% 的員工認為應該在未來五年內提升 AI 方面的技能。80% 的白領工作者、76% 的藍領工人和 74% 的粉領職人 (指照護相關工作者,如社工、老師、護理人員、保姆等),希望公司能夠提供相關的職訓。


近三分之一的受訪者表示,他們正積極尋求學習機會,來因應 AI 的影響。超過一半的人表示,公司在生成式 AI 方面的教育訓練不足。而超過五分之二的白領和藍領工作者表示,他們在工作場所曾經目睹過 AI 所造成的錯誤。


Source: Oliver Wyman Forum Generative AI Survey, October–November 2023, 16 countries, N=15,277 (by collar), N=16,033 (by generation).


2. 明確的使用準則


不只是制定使用準則,要確認能夠有效執行更為重要。


近三分之二的員工表示他們公司的確有制定 AI 使用規則,但員工們仍需要知道如何能夠適當地查詢,找出其中的偏見,同時避免將公司內部資訊公開分享。另外他們也需要檢查是否有抄襲行為等等。


3. 面對人員流失問題


為了防止員工不必要地離職,雇主需要定期與員工做適度的溝通,讓他們了解生成式 AI 將如何影響工作、哪些工作將被取代、強化或轉變,以及對於工作潛在的影響。


有些企業也開始著手調整人才招聘策略。像有些科技公司的職位採遇缺不補,因為這些工作預計在未來將會被生成式人工智慧淘汰取代。


也有公司採取創造新的替代工作,或重新設計工作內容的方式。像 IKEA 提供培訓客服中心人員,成為室內設計顧問。他們讓 AI 機器人來處理一般客戶查詢服務,而讓員工來提供客戶更多居家改善裝修等服務。



 

企業領導者和員工都正走在這朝向生成式 AI 人工智慧的職場發展路上。


企業主需要持續提供技能升級培訓,讓員工可以不斷更新他們的技能,來因應 AI 帶來的變化。


同時企業需要制定出清楚的遵循規則,以幫助員工了解如何正確使用 AI ,避免潛在的問題發生。


此外,企業要創造與員工合作與反饋的機會,讓他們能夠與公司共同解決問題並一同成長。


最後,企業需要公開透明,確保員工了解 AI 的應用方式以及對工作的影響。如此將有助於建立彼此的信任與良好的工作環境。




(資料來源: World Economic Forum & Oliver Wyman Forum)

Comments

Rated 0 out of 5 stars.
No ratings yet

Add a rating
bottom of page