omniture

3大理由決定企業(yè) AI 必須"負(fù)責(zé)"

IBM China
2023-05-15 15:46 2952

作者:Holly Vatter, IBM市場部人工智能資深產(chǎn)品經(jīng)理

北京2023年5月15日 /美通社/ -- 責(zé)任是一種后天習(xí)得的行為。 隨著時間的推移,我們清晰地認(rèn)識到滿足社會期望、遵守規(guī)則和法律以及尊重他人權(quán)利的必要性。 我們弄清楚了責(zé)任、問責(zé)制和后續(xù)獎勵措施之間的聯(lián)系。 如果我們負(fù)責(zé)任地行事,那么我們會獲得積極的回報;反之,我們則可能會面臨不良后果,包括罰款、失去信任或地位,甚至被監(jiān)禁。 遵守負(fù)責(zé)任的人工智能 (AI) 標(biāo)準(zhǔn)也是如此。

Gartner 預(yù)測,到 2025 年,人工智能 (AI) 軟件市場將達(dá)到近 1348 億美元。

構(gòu)建負(fù)責(zé)任的 AI

隨著 AI 以及構(gòu)建和縮放模型對企業(yè)的業(yè)務(wù)越來越重要,一個高度相關(guān)的主題便是如何實(shí)現(xiàn)負(fù)責(zé)任的 AI (RAI)。 企業(yè)越來越需要積極地推進(jìn)公平、負(fù)責(zé)任且合乎道德的決策,并遵守現(xiàn)行的法律法規(guī)。

管理風(fēng)險和聲譽(yù)

沒有企業(yè)愿意因?yàn)槌舐劧霈F(xiàn)在新聞中,媒體上最近經(jīng)常報道一些關(guān)于不公平、不可解釋或帶有偏見的 AI 的案例。 企業(yè)需要保護(hù)個人隱私并加強(qiáng)信任。 基于錯誤數(shù)據(jù)或假設(shè)而采取的錯誤或帶有偏見的行為可能導(dǎo)致被起訴并失去客戶、利益相關(guān)者、股東和員工的信任。 最終,這可能導(dǎo)致企業(yè)聲譽(yù)受損以及銷售和收入損失。

堅持道德原則

推進(jìn)道德決策的意義在于不偏袒任何群體,這就要求在數(shù)據(jù)采集、構(gòu)建、部署和監(jiān)控模型的過程中建立公平性并檢測出帶有偏見的行為。 為了做出公平的決策,企業(yè)還需要能夠適應(yīng)行為模式和概要文件的變化,這可能需要在整個 AI 生命周期中重新訓(xùn)練或重建模型。

根據(jù)政府法規(guī)提供保護(hù)并進(jìn)行擴(kuò)展

AI 法規(guī)正在快速完善和變化,不合規(guī)事件可能導(dǎo)致昂貴的審計費(fèi)用、罰款和負(fù)面新聞。 在多個國家/地區(qū)設(shè)有分支機(jī)構(gòu)的跨國企業(yè)在滿足當(dāng)?shù)睾蛧?地區(qū)的特定規(guī)則和法規(guī)方面面臨一些挑戰(zhàn)。 而醫(yī)療保健、政府和金融服務(wù)等高度監(jiān)管市場中的企業(yè)在滿足行業(yè)特定法規(guī)方面則面臨更多的挑戰(zhàn)。

"不合規(guī)事件的潛在成本十分驚人,它遠(yuǎn)不止于被罰款那樣簡單。 首先,如果發(fā)生一次不合規(guī)事件,企業(yè)將平均損失 587 萬美元的收入。 但這只是冰山一角 - 財務(wù)影響遠(yuǎn)遠(yuǎn)超出了您的最終收益。

負(fù)責(zé)任的 AI 需要治理

Gartner 將"AI 治理"定義為"為應(yīng)用和使用人工智能技術(shù)而制定政策、分配決策權(quán)并確保企業(yè)對風(fēng)險和投資決策負(fù)責(zé)的過程"。

盡管是出于善意,而且技術(shù)也在不斷進(jìn)步,但實(shí)現(xiàn)負(fù)責(zé)任的 AI 還是困難重重。 負(fù)責(zé)任的 AI 需要 AI 治理;對于許多企業(yè)來說,這就需要完成大量的手動工作,而更改數(shù)據(jù)和模型版本以及使用多種工具、應(yīng)用程序和平臺則會加大手動工作量。 手動的工具和流程可能會導(dǎo)致代價高昂的人為錯誤,并導(dǎo)致模型缺乏透明度、正確的編目和監(jiān)控。 這些"黑匣子"模型可能會產(chǎn)生即使是數(shù)據(jù)科學(xué)家和其他關(guān)鍵利益相關(guān)者也無法解釋的分析結(jié)果。

在解決由管理層、利益相關(guān)者和股東提出的模型性能問題時,可解釋的結(jié)果至關(guān)重要。 客戶有理由要求公司負(fù)責(zé)解釋分析決策的理由,包括信貸、抵押貸款和學(xué)校錄取被拒,以及醫(yī)療保健診斷或治療的細(xì)節(jié)。 向?qū)徲嫀熁虮O(jiān)管機(jī)構(gòu)說明分析決策的理由時,還必須提供記錄在案且可解釋的模型事實(shí)。

了解有關(guān)構(gòu)建 AI 治理的更多信息 

IBM watsonx.governance - 推進(jìn)負(fù)責(zé)任、透明和可解釋的 AI 工作流程

IBM 自動治理方法可幫助您指導(dǎo)、管理和監(jiān)控企業(yè)的 AI 活動。 通過采用軟件自動化,此解決方案有助于增強(qiáng)您滿足法規(guī)要求和解決道德問題的能力(無需額外支付轉(zhuǎn)換當(dāng)前數(shù)據(jù)科學(xué)平臺的成本)。

在整個 AI 生命周期中,watsonx.governance 解決方案可以監(jiān)控并管理模型的構(gòu)建、部署和監(jiān)控過程以及事實(shí)集中過程,從而實(shí)現(xiàn) AI 透明度和可解釋性。 此解決方案的組件包括:

  • 生命周期治理 - 就地監(jiān)控、編目和管理 AI 模型。 自動捕獲模型元數(shù)據(jù)并提高預(yù)測準(zhǔn)確性,以便確定 AI 的使用方式以及需要返工模型的位置。
  • 風(fēng)險管理 - 根據(jù)業(yè)務(wù)標(biāo)準(zhǔn),自動生成模型事實(shí)并自動執(zhí)行工作流程。 大規(guī)模識別、管理、監(jiān)控和報告風(fēng)險及合規(guī)情況。 使用動態(tài)儀表板為利益相關(guān)者提供可定制的結(jié)果。 加強(qiáng)跨多個區(qū)域和地理位置的合作。
  • 法規(guī)合規(guī)性 - 將外部 AI 法規(guī)轉(zhuǎn)化為可自動實(shí)施的策略。 更嚴(yán)格地遵守審計和合規(guī)性法規(guī),并向主要利益相關(guān)者提供定制報告。

想要了解 IBM watsonx.governance 是如何幫助企業(yè)構(gòu)建負(fù)責(zé)任的 AI 嗎? 立即聯(lián)絡(luò) IBM 專家

關(guān)于 IBM

IBM 是全球領(lǐng)先的混合云、人工智能及企業(yè)服務(wù)提供商,幫助超過 175 個國家和地區(qū)的客戶,從其擁有的數(shù)據(jù)中獲取商業(yè)洞察,簡化業(yè)務(wù)流程,降低成本,并獲得行業(yè)競爭優(yōu)勢。金融服務(wù)、電信和醫(yī)療健康等關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的超過 4000 家政府和企業(yè)實(shí)體依靠 IBM 混合云平臺和紅帽 OpenShift 快速、高效、安全地實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。IBM 在人工智能、量子計算、行業(yè)云解決方案和企業(yè)服務(wù)方面的突破性創(chuàng)新為我們的客戶提供了開放和靈活的選擇。對企業(yè)誠信、透明治理、社會責(zé)任、包容文化和服務(wù)精神的長期承諾是 IBM 業(yè)務(wù)發(fā)展的基石。了解更多信息,請訪問:https://www.ibm.com/cn-zh

IBM 媒體聯(lián)絡(luò)人:

陳赟,chychen@cn.ibm.com

消息來源:IBM China
China-PRNewsire-300-300.png
全球TMT
微信公眾號“全球TMT”發(fā)布全球互聯(lián)網(wǎng)、科技、媒體、通訊企業(yè)的經(jīng)營動態(tài)、財報信息、企業(yè)并購消息。掃描二維碼,立即訂閱!
關(guān)鍵詞: 電腦/電子
collection