公司如何防範 AI 風險 How Companies Can Safeguard Against AI Risks

自從 2022 年 11 月 30 日 ChatGPT 推出後，引發了一場狂熱，世界也就改變了。生成式 AI 在企業中的應用迅速擴展，帶來新的效率與商機。由於企業內部安裝設罝必要安控護欄的速度，遠不及生成式 AI 的使用擴展速度，因此增加企業潛在的風險，並產生巨大的隱憂。

根據 Oliver Wyman 論壇 2023 年 11 月針對 16 個國家 15,000 多名成人進行的一項新研究顯示，約 84% 在工作中使用生成式 AI 人工智慧的員工在過去三個月內，公開暴露了公司的數據資料。

同一時間，根據 Mercer 的一項調查顯示，71% 的員工表示自動化將顯著改變他們的工作方式。而且將近三分之一的企業執行長與財務長正在重新設計工作內容，來降低對人力的依賴。

生成式 AI 科技雖然提高了生產力 (但不一定安全)，但也暴露出人員能力上的差距，並削弱了員工士氣。企業需要迅速採取行動，不僅要限制員工的濫用行為，還要解決他們的擔憂。

---

AI 的魅力

根據 Oliver Wyman 論壇提供的研究報告，從 2023 6 月到 10 月，生成式 AI 的每週使用者數量從 10% 躍升至 60%，有些產業甚至從 35% 增加到 75%。超過一半的員工表示他們每周至少使用一次生成式 AI，大約五分之一的員工表示他們每天都使用它。在發展中經濟體國家 (如印度和印尼)，尤其受到年輕工作者的歡迎。

受歡迎的原因主要在於像 ChatGPT 等工具易於使用，並且以自然語言 (非程式碼) 的方式，提供快速回應反饋，大幅提升人們對 AI 的接觸與使用率。更多人將 AI 工具視為 "工作夥伴"，它幫助工作者完成更多工作。近三分之二的白領工作者認為 AI 工具提高他們的生產力。

一位倫敦金融科技公司的28歲客服經理表示「你可以問 ChatGPT 很多事情，但你無法問同事所有事情。」

Source: Oliver Wyman Forum Generative AI Survey, October–November 2023, 16 countries, N=16,033.

---

風險增加

許多企業組織對於生成式 AI 人工智慧是準備不足的，他們缺乏管理日益增長風險所需的專業知識與速度。超過五分之四的員工表示，他們透過公共生成式 AI 工具曝露公司的數據資料、分析公司商業數據與同事的 Email 等。針對所產生的各種風險，企業必須要儘快防堵，並防患於未然。

許多工作者表示公司已制定生成式 AI 的使用準則，但實際上 92% 的 AI 使用者表示，他們已經洩漏了公司資料。

洩漏資訊不是唯一的風險。許多企業領導者和員工並不清楚何時用生成式 AI 來取代人類決策，何時 AI 只是一項輔助工具。

超過 40% 的員工表示，他們看過生成式 AI 提供不正確的輸出內容。而近一半的員工表示，他們直接使用生成式 AI 所提供的事實或建議來做決策，而無需經過其他人員的審核。此外，十分之一的員工承認，他們會背著老闆使用生成式 AI。而 47% 的 AI 工具用戶表示即使公司嚴格禁止，他們仍會繼續使用它。

---

潛在的焦慮感

儘管生成式 AI 人工智慧替工作帶來許多便利性與成效，但也引發工作者隱藏的焦慮。

60% 的白領工作者擔心 AI 會取代他們的工作。世界經濟論壇《The World Economic Forum》估計，未來五年全球 23% 的工作將發生結構性的變化，預計將增加 6,900 萬個職位，減少 8,300 萬個工作。相當於減少 1,400 萬個就業機會，即目前就業人口的 2%。

此外，許多工作者表示，在 AI 時代他們感受到更大的工作壓力，擔心失去工作，因此也需要更好更快地完成工作。

約 26% 的人表示，AI 人工智慧工具增加了人們的期待，認為他們可以更快地完成更多工作，無論可能與否。同時，根據美國心理學會 (American Psychological Association) 的最新數據，這些擔心人工智慧的員工，有 57% 感覺自己的生產力正在下降，超過 40% 則感到自己工作愈來愈沒效率。

而雇主可以透過以下三種方式，來減緩員工對於生成式 AI 所帶來的干擾：

• 提供優質的教育訓練

• 發佈明確的生成式 AI 人工智慧的使用準則

• 改善有關工作資安的訊息傳送方式

---

如何減輕 AI 對職場的影響

1. 提升員工技能

員工大多有意識到生成式 AI 人工智慧的優缺點。調查顯示，95% 的員工認為應該在未來五年內提升 AI 方面的技能。80% 的白領工作者、76% 的藍領工人和 74% 的粉領職人 (指照護相關工作者，如社工、老師、護理人員、保姆等)，希望公司能夠提供相關的職訓。

近三分之一的受訪者表示，他們正積極尋求學習機會，來因應 AI 的影響。超過一半的人表示，公司在生成式 AI 方面的教育訓練不足。而超過五分之二的白領和藍領工作者表示，他們在工作場所曾經目睹過 AI 所造成的錯誤。

Source: Oliver Wyman Forum Generative AI Survey, October–November 2023, 16 countries, N=15,277 (by collar), N=16,033 (by generation).

2. 明確的使用準則

不只是制定使用準則，要確認能夠有效執行更為重要。

近三分之二的員工表示他們公司的確有制定 AI 使用規則，但員工們仍需要知道如何能夠適當地查詢，找出其中的偏見，同時避免將公司內部資訊公開分享。另外他們也需要檢查是否有抄襲行為等等。

3. 面對人員流失問題

為了防止員工不必要地離職，雇主需要定期與員工做適度的溝通，讓他們了解生成式 AI 將如何影響工作、哪些工作將被取代、強化或轉變，以及對於工作潛在的影響。

有些企業也開始著手調整人才招聘策略。像有些科技公司的職位採遇缺不補，因為這些工作預計在未來將會被生成式人工智慧淘汰取代。

也有公司採取創造新的替代工作，或重新設計工作內容的方式。像 IKEA 提供培訓客服中心人員，成為室內設計顧問。他們讓 AI 機器人來處理一般客戶查詢服務，而讓員工來提供客戶更多居家改善裝修等服務。

---

企業領導者和員工都正走在這朝向生成式 AI 人工智慧的職場發展路上。

企業主需要持續提供技能升級培訓，讓員工可以不斷更新他們的技能，來因應 AI 帶來的變化。

同時企業需要制定出清楚的遵循規則，以幫助員工了解如何正確使用 AI ，避免潛在的問題發生。

此外，企業要創造與員工合作與反饋的機會，讓他們能夠與公司共同解決問題並一同成長。

最後，企業需要公開透明，確保員工了解 AI 的應用方式以及對工作的影響。如此將有助於建立彼此的信任與良好的工作環境。

(資料來源: World Economic Forum & Oliver Wyman Forum)