【AI × ESG】系列八：聯合國示警：AI發展超越人類「治理」速度，不強化監管恐陷入失控！

（資料來源：UN）

在AI科技狂潮的背後，一個嚴峻現實浮出水面：AI 能力的提升速度，已經超越監管法規的追趕。聯合國最新報告示警：真正落後的是人類「治理」能力。一旦更具自主性和自動化能力的「代理式AI」（Agentic AI）崛起，未來情況恐更加失控。如何填補日益擴大的「治理鴻溝」（Governance Divide），避免AI資源分配的區域失衡，已是當務之急！

 

AI市場商機無窮，相關概念股漲翻天，這件事很多人都知道到了。可是，因它而生的潛藏風險也在急遽升高。

世界經濟論壇（WEF）最新《全球風險報告》（Global Risks Report 2026）分析，與AI有關的「虛假訊息」「不當應用」「資訊安全」，統統擠進長期（十年內）風險榜前八名，「虛假訊息」和「資訊安全」更名列短期（兩年內）風險榜前六名。

 

七月上旬，聯合國在日內瓦舉辦「Global Dialogue on AI Governance」（人工智慧治理全球對話）倡議活動，呼籲世人重視AI的永續治理和監管議題，更首度發表《AI問題國際科學小組報告》（Preliminary Report of the Independent International Scientific Panel on AI），提醒當前最大危機，在於人類治理的追趕步伐，已經跟不上AI能力的發展速度。

 

這份報告還說了什麼？有哪些實用建議？

 

治理鴻溝持續擴大！「代理式AI」將提高監管難度

 

首先，該小組聯合主席、蒙特婁大學教授Yoshua Bengio開門見山地說：「我們已經打開了潘多拉盒，裡面被釋放出來的東西，無論是速度、能力、還是風險，都跟人類以往經歷過的任何事物不同！」

 

聯合國近期舉辦一系列「AI治理」倡議活動。 （資料來源：UN）

短短三年，生成式AI快速滲透全世界，ChatGPT只花了短短兩個月，用戶數便突破一億大關，現在每週有超過十億人使用這些工具，在數學推理、程式設計、醫療研究、科學探索等領域，AI的表現都飛速成長，甚至在技能測驗超越人類，更與各國的產業經濟、能源供應、科技專利、甚至是地緣政治戰略，產生交互影響的複雜關係。

 

然而，礙於該領域的高度專業和技術門檻，大部分AI產品的安全測試，目前只能仰賴開發商自行處理（靠業者自律？），不僅普遍缺乏第三方驗證，即便在先進國家，政府官僚與學術專家也很難有效稽查，因此產生極為明顯的「治理鴻溝」（Governance Divide）。

 

講白點，當AI技術以「月」在進步、蛻變的時候，法規設計與監管機制，還停留在以「年」為單位的緩慢修訂過程，人類治理能力怎麼跟得上？

 

《AI問題國際科學小組報告》警告，一旦更具自主性和自動化能力的「代理式AI」（Agentic AI）應用崛起，屆時「Human-in-the-loop」（人類把關流程）監督模式恐難有效管理，讓資訊安全、消費糾紛、責任歸屬等問題更加難解。試想，若有人用Agentic AI工具到金融市場進行短線操作和高頻交易，甚至藉此進行詐欺，一旦釀成巨額虧損或多人受害，主管機關該如何處理？

 

AI不僅關乎科技和產業發展，更涉及國際競爭和權力角逐。 （資料來源：UN）

除了技術風險，AI對社會穩定的衝擊也日益浮現，舉凡網路詐騙（Cyber scam）、深度偽造（Deepfake）、假新聞（Fake News）、自動化宣傳（Automated Marketing）等手法，大眾都已見怪不怪，更成為有心人士竊取資料、操控輿論、抑或干擾選舉的武器。長此以往，恐侵蝕社會信任感和民主制度運作。

 

資源分配失衡！AI被少數國家和企業「壟斷」

 

此外，聯合國也以更高視野指出，AI在資源分配上的失衡現象。無論是晶片設計、運算設備、基礎模型和雲端服務等能力，包括其創造的財富和利益，都集中在少數國家與科技巨頭身上。

 

例如，全世界有多達75％的AI運算能力，皆部署在美國，另一強權中國則握有15％，其餘190多國，合計才分得一成。撇開政治面來看，超過9成的重要AI模型，均來自民間企業，能被政府有效管理和監督的，非常稀少。

 

《AI問題國際科學小組報告》提醒，當資源如此集中，特定單位（科技巨頭）的權力甚至超越國家，不但可能造成市場壟斷，更讓多數人無法參與規則制定和決策過程，逐漸失去自主權與競爭優勢，甚至是文化的話語權。

 

由少數企業和精英主導的AI科技，外界該如何有效監管？ （資料來源：UN）

比方，全球有超過7000種語言，但被AI工具涵蓋的僅有少數，不但會放大特定文化的觀念和偏見，更使許多語系和群體遭到邊緣化，讓未來的AI社會更加欠缺多元與包容性。

 

儘管不少樂觀派認為，AI並非毀天滅地的末日武器，端視人類如何運用它，在疫苗研究、藥物開發、天氣預測、改善農業病蟲害、優化能源管理、協助偏鄉教育等方面，AI同樣具備可觀潛力和推動實績，對全球永續發展目標（SDGs）的推展大有助益。

 

即便如此，上述願景能否達成？關鍵便在於企業是否具備「負責任AI」（Responsible AI）思維，並將其視為永續治理的核心策略；而不是只把它當成接單、出貨、甚至是炒股的口號。

 

誰都無法否認，AI正在重新塑造你我熟悉的世界，而且速度超乎想像。而決定這項科技革命最終結果，是創造共同繁榮、還是釀成新的全球風險？就看人類的治理能力能否跟上。

 

聯合國警告，人類治理跟不上AI發展，是當前最大危機。 （資料來源：UN）

 

【作者簡介：濰森永續公司策略總監 高宜凡】

逾20年財經媒體經驗，天下永續會前總監，曾負責遠見企業社會責任(CSR)大調查，在台達電子文教基金會服務期間，參與過五次聯合國氣候會議，以及一次IEA能源效率訓練營。現在立志成為台灣第一位永續趨勢觀察家，幫助各界更理解ESG潮流與各種永續議題。