Cloudera：構(gòu)建符合倫理標(biāo)準(zhǔn)的AI，可信數(shù)據(jù)是關(guān)鍵

Cloudera大中華區(qū)技術(shù)總監(jiān)劉隸放

人工智能（AI），尤其是生成式 AI（GenAI），正在改變各類行業(yè)的“游戲規(guī)則”。麥肯錫研究顯示，生成式AI有望為全球貢獻(xiàn)約7萬億美元的經(jīng)濟(jì)價(jià)值，并將AI的整體影響提高近50%。其中，中國(guó)將有望貢獻(xiàn)約2萬億美元，近全球總量的1/3。AI 的應(yīng)用速度也仍在加快，Cloudera對(duì)亞太地區(qū)IT領(lǐng)導(dǎo)者的調(diào)查顯示，預(yù)計(jì)到2026 年，亞太地區(qū)將有 57% 的企業(yè)處于AI早期應(yīng)用階段。

然而，在這些積極信號(hào)背后，政府和企業(yè)領(lǐng)導(dǎo)者也表示出對(duì)于信任缺失的擔(dān)憂。信任度的降低將持續(xù)影響著AI 的普及速度。技術(shù)領(lǐng)導(dǎo)者必須思考如何在釋放 AI 價(jià)值的同時(shí)，有效管理潛在挑戰(zhàn)。這些挑戰(zhàn)包括偏見管理、數(shù)據(jù)隱私保護(hù)、治理機(jī)制完善，以及非結(jié)構(gòu)化數(shù)據(jù)與大語言模型（LLM）的集成等。這些挑戰(zhàn)至關(guān)重要，因?yàn)殛P(guān)系到企業(yè)自身、客戶以及更廣泛的社會(huì)安全。

在應(yīng)用AI 時(shí)，需要考慮很多因素。在某種程度上，這也是問題所在，即究竟該從 AI 開始，還是從數(shù)據(jù)切入。

構(gòu)建符合倫理的AI 系統(tǒng)需要可信數(shù)據(jù)

倫理型AI（Ethical AI）這一概念，用于描述在 AI 平臺(tái)和流程中必須考慮并納入的一系列核心原則，包括問責(zé)制、透明度和治理機(jī)制。要構(gòu)建值得信任的 AI 系統(tǒng)，企業(yè)必須擁有可信的信息來源。以準(zhǔn)確、一致、干凈、無偏見且可靠的數(shù)據(jù)基礎(chǔ)，經(jīng)過倫理設(shè)計(jì)的企業(yè)AI 系統(tǒng)才能持續(xù)產(chǎn)出公平且無偏見的結(jié)果，企業(yè)也能更輕松地識(shí)別問題、彌補(bǔ)邏輯漏洞、優(yōu)化輸出結(jié)果，并評(píng)估其創(chuàng)新成果是否符合法規(guī)要求。

企業(yè)可參考以下建議，幫助構(gòu)建倫理型AI 系統(tǒng)：

●聚焦意圖：AI 系統(tǒng)基于數(shù)據(jù)進(jìn)行訓(xùn)練，其語境范圍僅限于數(shù)據(jù)本身。如果不加以定義，系統(tǒng)就不存在道德準(zhǔn)則，也沒有公平判斷的參照框架。因此，設(shè)計(jì)者需要明確且審慎地構(gòu)建驅(qū)動(dòng)系統(tǒng)設(shè)計(jì)的意圖表征。

●關(guān)注模型設(shè)計(jì)：企業(yè)需要意識(shí)到，除了數(shù)據(jù)本身，模型設(shè)計(jì)同樣可能成為偏見來源。模型應(yīng)當(dāng)被持續(xù)監(jiān)控，以防止出現(xiàn)模型漂移（model drift）現(xiàn)象，即模型因數(shù)據(jù)變化而逐漸失準(zhǔn)，可能導(dǎo)致不公正的預(yù)測(cè)和歧視。

●確保人工監(jiān)督：盡管AI 系統(tǒng)在基于高質(zhì)量數(shù)據(jù)訓(xùn)練后能夠穩(wěn)定地做出良好決策，但它們?nèi)狈η楦�，無法處理一些特殊情況。有效的系統(tǒng)往往是將人類判斷與 AI 智能結(jié)合。

●強(qiáng)化安全與合規(guī)：開發(fā)以安全與合規(guī)為核心的倫理型AI系統(tǒng)，有助于增強(qiáng)對(duì)系統(tǒng)的信任，并推動(dòng)其在企業(yè)范圍內(nèi)的應(yīng)用，同時(shí)確保遵守當(dāng)?shù)丶皡^(qū)域的法規(guī)要求。

●利用現(xiàn)代數(shù)據(jù)平臺(tái)：借助支持現(xiàn)代數(shù)據(jù)架構(gòu)的數(shù)據(jù)平臺(tái)等工具，可顯著提升企業(yè)在整個(gè)數(shù)據(jù)與AI 模型生命周期中管理和分析數(shù)據(jù)的能力。平臺(tái)需要內(nèi)置安全與治理控制機(jī)制，使組織在大規(guī)模部署數(shù)據(jù)分析和 AI 的同時(shí)，能夠保持對(duì)AI決策的透明性和控制力。

大語言模型：解讀新的游戲規(guī)則

大語言模型（LLM）是持續(xù)重塑數(shù)字領(lǐng)域的 AI 應(yīng)用場(chǎng)景之一，也凸顯了使用可信數(shù)據(jù)的重要性。

大語言模型的優(yōu)勢(shì)眾多，包括可執(zhí)行多樣化任務(wù)，能夠以更低成本、更快速度開發(fā)AI 解決方案。這對(duì)于追求更快價(jià)值實(shí)現(xiàn)周期的企業(yè)而言十分關(guān)鍵。大型語言模型還能幫助用戶處理海量數(shù)據(jù)并按需擴(kuò)展，洞察傳統(tǒng)數(shù)據(jù)分析方法難以發(fā)現(xiàn)的趨勢(shì)和模式。

但與此同時(shí)，企業(yè)也需要警惕其潛在風(fēng)險(xiǎn)。例如，在使用大語言模型時(shí)，幻覺問題和算法偏見都可能引發(fā)問題。企業(yè)要保持高度警覺，因?yàn)檫@些問題可能導(dǎo)致不可信的結(jié)果。

一種可行的解決方案是平臺(tái)化建設(shè)，即從基礎(chǔ)層到基礎(chǔ)設(shè)施開始逐步構(gòu)建，自下而上逐步構(gòu)建。盡管預(yù)訓(xùn)練的基礎(chǔ)模型具備強(qiáng)大能力，但由于數(shù)據(jù)的多樣性和海量特性，模型的部署與擴(kuò)展仍面臨巨大挑戰(zhàn)。相較于單純創(chuàng)建模型，平臺(tái)建設(shè)也凸顯了大語言模型如何融入企業(yè)流程以實(shí)現(xiàn)更大效益，這種需求正日益凸顯。

在倫理型AI 之路上持續(xù)前行

企業(yè)監(jiān)理正確的數(shù)據(jù)使用意圖，應(yīng)當(dāng)站在客戶角度思考。所以，企業(yè)應(yīng)該問自己一個(gè)問題：“如果是自己的數(shù)據(jù)以這種方式被使用，是否會(huì)感到安心？”

如果答案是否定的，這就是一個(gè)明顯的警示信號(hào)。如果答案是肯定的，那么這很可能就是正確的起點(diǎn)。

當(dāng)技術(shù)領(lǐng)導(dǎo)者充分理解數(shù)據(jù)使用的意圖，并設(shè)計(jì)出兼顧倫理原則與實(shí)踐的AI框架時(shí)，他們不僅將在競(jìng)爭(zhēng)中領(lǐng)先一步，更重要的是，他們是在做正確的事情。