在“AI大模型的機遇與風險”主題論壇上，中國工程院院士、清華大學智能產(chǎn)業(yè)研究院院長張亞勤進行了詳盡而深入的闡述。他強調(diào)，盡管AI大模型擁有巨大的潛力，但同時也伴隨著不容忽視的多重風險：

一是現(xiàn)在信息智能的風險，這是安全界現(xiàn)在所從事的；

二是AI本身的安全風險，包括模型的參數(shù)數(shù)據(jù)，模型本身對人類的攻擊性，不可解釋性、黑箱等問題；

三是可控性、可信性、邊界問題，這些都是AI領(lǐng)域特有的問題。

隨著人們對數(shù)據(jù)傳輸、保留和隱私的認識不斷提高，許多企業(yè)和消費者對人工智能的實施采取了謹慎的態(tài)度。隨著技術(shù)的發(fā)展，我們越來越接近實際智能的目標，需要加強監(jiān)管和合規(guī)性，以應對伴隨進步而來的許多風險。 人工智能管理標準體系（ISO 42001）旨在提供這些護欄。

何為人工智能管理標準體系（ISO 42001） ?

ISO/IEC 42001 由國際標準化組織 （ISO） 和國際電工委員會 （IEC） 于 2023 年聯(lián)合發(fā)布，是世界上第一個人工智能管理體系標準。它旨在確保負責任、可持續(xù)地實施人工智能技術(shù)，這些技術(shù)現(xiàn)在已經(jīng)深深植根于我們的日常生活中，并為未來的發(fā)展鋪平道路。

ISO 42001 圍繞現(xiàn)有的組織結(jié)構(gòu)構(gòu)建，為有效評估和管理人工智能風險提供了實用指導，同時也確定了創(chuàng)新機會。它為組織提供了監(jiān)管藍圖，讓消費者放心，因為標準正在得到滿足。

該框架遵循 2022 年至 2023 年發(fā)布的先前 ISO AI 標準。雖然這些前身為管理風險和最大化回報提供了指導，為ISO 42001奠定了基礎(chǔ)，但它們并不要求采取相同的行動，也不適用于所有部門和業(yè)務類型，就像管理體系標準一樣。以前的人工智能標準包括：

lISO/IEC 22989 – 建立術(shù)語并描述人工智能領(lǐng)域的概念。

lISO/IEC 23053 – 建立了一個框架，用于描述使用機器學習技術(shù)的通用人工智能系統(tǒng)。

lISO/IEC 23894 – 提供 AI 風險管理指南。

ISO 42001 為希望遵守全球頒布的新 AI 法律和法規(guī)的組織提供了及時的指導。歐盟正在通過《人工智能法案》引領(lǐng)潮流，這是第一部為使用或開發(fā)人工智能技術(shù)的組織制定明確要求的綜合性法律。

《人工智能法案》根據(jù)人工智能系統(tǒng)帶來的風險和影響水平，特別是對個人數(shù)據(jù)的風險和影響，對人工智能系統(tǒng)進行了某些限制。不可接受的風險包括用于情感識別、生物識別、社會評分和行為操縱的技術(shù)。這些技術(shù)要么在新的限制下被完全禁止，要么在有限的情況下保留給執(zhí)法部門使用。

截至 2024 年 2 月，美國已有 16 個州頒布了某種形式的人工智能立法，另有 14 個州和哥倫比亞特區(qū)提出了新的立法。在聯(lián)邦層面，擬議的《美國數(shù)據(jù)保護和隱私法案》如果獲得通過，將制定人工智能技術(shù)開發(fā)和使用的規(guī)則。

通過解決重要的安全、安保、隱私、透明度、偏見和其他問題，ISO 42001有望在確保遵守法律和監(jiān)管要求、建立對人工智能的信心和信任方面發(fā)揮關(guān)鍵作用。

科理AI-國內(nèi)外先進的AI戰(zhàn)略及技術(shù)方案提供商，助力企業(yè)全面導入AI?？评鞟I結(jié)合為企業(yè)部署從戰(zhàn)略頂層設(shè)計到技術(shù)實施落地的全方面導入方案,加快企業(yè)構(gòu)建智能化產(chǎn)業(yè)生態(tài)體系,贏得市場主動權(quán)!

科理AI擁有豐富的ISO管理體系咨詢經(jīng)驗，科理在90年代開始為企業(yè)提供各種管理體系咨詢服務服務成就：1996年協(xié)助國泰航空餐飲公司獲得香港的第一張ISO14000環(huán)保管理系統(tǒng)證書

 
本文整理自網(wǎng)絡(luò)