Gartner發(fā)布了備受矚目的企業(yè)人工智能治理指南，該指南以廣泛認(rèn)可的企業(yè)通用治理框架為基礎(chǔ)，系統(tǒng)性地確定了針對(duì)該框架六大支柱的人工智能特定因素。這份指南為企業(yè)，尤其是那些在人工智能基礎(chǔ)軟件開(kāi)發(fā)領(lǐng)域投入巨大的組織，提供了一個(gè)清晰、可操作的治理藍(lán)圖，旨在應(yīng)對(duì)AI技術(shù)帶來(lái)的獨(dú)特風(fēng)險(xiǎn)與機(jī)遇，確保其負(fù)責(zé)任、合規(guī)且高效地發(fā)展。

指南的核心在于，將成熟的企業(yè)治理原則與人工智能（特別是基礎(chǔ)軟件開(kāi)發(fā)）的特殊性相結(jié)合。其框架的六大支柱分別從不同維度構(gòu)建了治理體系，而針對(duì)每一支柱，指南都明確了關(guān)鍵的AI特定考量因素。

支柱一：戰(zhàn)略與目標(biāo)
在通用層面，此支柱關(guān)注業(yè)務(wù)戰(zhàn)略與治理目標(biāo)的一致性。對(duì)于AI基礎(chǔ)軟件開(kāi)發(fā)，特定因素包括：明確AI開(kāi)發(fā)的戰(zhàn)略意圖（是構(gòu)建核心競(jìng)爭(zhēng)力還是提升運(yùn)營(yíng)效率？），制定可衡量的AI倫理準(zhǔn)則，以及確保AI項(xiàng)目與企業(yè)的長(zhǎng)期技術(shù)路線圖和商業(yè)價(jià)值創(chuàng)造緊密對(duì)齊。治理需回答“我們?yōu)楹我_(kāi)發(fā)此AI軟件”的根本問(wèn)題。

支柱二：組織結(jié)構(gòu)與角色
通用治理強(qiáng)調(diào)清晰的權(quán)責(zé)劃分。在AI領(lǐng)域，這轉(zhuǎn)化為設(shè)立專門的AI治理委員會(huì)或首席AI倫理官等角色。對(duì)于基礎(chǔ)軟件開(kāi)發(fā)團(tuán)隊(duì)，需明確定義開(kāi)發(fā)者、算法科學(xué)家、產(chǎn)品經(jīng)理、合規(guī)官等在模型設(shè)計(jì)、數(shù)據(jù)使用、測(cè)試部署各環(huán)節(jié)的職責(zé)，并建立跨職能的協(xié)同機(jī)制，確保技術(shù)決策受到必要的業(yè)務(wù)與合規(guī)審視。

支柱三：政策與流程
這是將原則落地的關(guān)鍵。針對(duì)AI基礎(chǔ)軟件，需制定專門的政策與流程，涵蓋：

• 數(shù)據(jù)治理：訓(xùn)練數(shù)據(jù)的來(lái)源、質(zhì)量、偏見(jiàn)評(píng)估、隱私保護(hù)（如匿名化處理）流程。
• 模型開(kāi)發(fā)生命周期管理：從需求分析、設(shè)計(jì)、訓(xùn)練、驗(yàn)證到部署、監(jiān)控與退役的全流程標(biāo)準(zhǔn)。
• 風(fēng)險(xiǎn)管理：識(shí)別并緩解AI系統(tǒng)可能帶來(lái)的安全性、公平性、可解釋性、可靠性風(fēng)險(xiǎn)的具體程序。
• 合規(guī)流程：確保開(kāi)發(fā)活動(dòng)符合各地區(qū)（如歐盟的AI法案）及行業(yè)法規(guī)的要求。

支柱四：人才與文化
通用治理重視組織能力與文化。在AI基礎(chǔ)軟件開(kāi)發(fā)中，這意味著：投資于提升全員（不僅是技術(shù)人員）的AI素養(yǎng)；培養(yǎng)負(fù)責(zé)任創(chuàng)新的文化，鼓勵(lì)對(duì)算法倫理的探討；吸引和保留兼具技術(shù)專長(zhǎng)與倫理意識(shí)的復(fù)合型人才；建立安全、透明的內(nèi)部反饋與問(wèn)責(zé)文化。

支柱五：技術(shù)與信息
此支柱關(guān)注支撐治理的技術(shù)與數(shù)據(jù)基礎(chǔ)。對(duì)于AI開(kāi)發(fā)，特定因素包括：

• 工具鏈與平臺(tái)：采用支持可追溯性、版本控制和模型性能監(jiān)控的開(kāi)發(fā)運(yùn)維一體化（MLOps）平臺(tái)。
• 可解釋性與透明度工具：集成能夠解釋模型決策、檢測(cè)偏見(jiàn)的技術(shù)工具。
• 信息安全：強(qiáng)化模型資產(chǎn)、訓(xùn)練數(shù)據(jù)及API接口的安全防護(hù)。
• 信息架構(gòu)：確保高質(zhì)量、合規(guī)的數(shù)據(jù)能夠被有效、安全地用于AI訓(xùn)練與評(píng)估。

支柱六：績(jī)效與監(jiān)督
通用治理要求度量和持續(xù)改進(jìn)。在AI領(lǐng)域，監(jiān)督需超越傳統(tǒng)IT績(jī)效指標(biāo)，建立涵蓋以下維度的評(píng)估體系：

• 模型性能指標(biāo)：準(zhǔn)確性、魯棒性、公平性（如不同群體間的性能差異）、效率。
• 業(yè)務(wù)影響指標(biāo)：AI軟件帶來(lái)的實(shí)際業(yè)務(wù)價(jià)值、投資回報(bào)率。
• 合規(guī)與風(fēng)險(xiǎn)指標(biāo)：審計(jì)發(fā)現(xiàn)、偏差事件、用戶投訴、法規(guī)遵從狀態(tài)。
• 持續(xù)監(jiān)控與審計(jì)：對(duì)已部署AI系統(tǒng)進(jìn)行持續(xù)性能監(jiān)控和定期倫理與合規(guī)審計(jì)的機(jī)制。

對(duì)人工智能基礎(chǔ)軟件開(kāi)發(fā)的啟示
對(duì)于從事AI基礎(chǔ)軟件開(kāi)發(fā)的企業(yè)而言，此指南強(qiáng)調(diào)治理必須“左移”，即從項(xiàng)目伊始就融入治理考量，而非事后補(bǔ)救。開(kāi)發(fā)團(tuán)隊(duì)需要在編寫(xiě)第一行代碼前，就思考其工作的倫理影響、數(shù)據(jù)依賴和合規(guī)要求。將治理視為賦能而非束縛，通過(guò)清晰的政策和自動(dòng)化工具，既能管控風(fēng)險(xiǎn)，又能提升開(kāi)發(fā)效率與模型質(zhì)量，最終構(gòu)建出更可信、更可持續(xù)的AI基礎(chǔ)軟件產(chǎn)品。

Gartner的這份指南為企業(yè)提供了一套將AI治理，特別是基礎(chǔ)軟件開(kāi)發(fā)的治理，從理論概念轉(zhuǎn)化為具體實(shí)踐的框架。通過(guò)圍繞六大支柱系統(tǒng)性地融入AI特定因素，企業(yè)可以更有信心地駕馭人工智能浪潮，確保技術(shù)創(chuàng)新在可控的軌道上創(chuàng)造長(zhǎng)期價(jià)值。