給“狂飆”的AI踩下“剎車(chē)”！全球首個(gè)系統(tǒng)級(jí)倫理垂域大模型“問(wèn)道”發(fā)布

人工智能正以前所未有的深度與廣度重塑世界。然而，當(dāng)自動(dòng)駕駛面臨生命抉擇、“深度偽造”模糊真實(shí)邊界、算法決策左右個(gè)體命運(yùn)——我們不禁要問(wèn)：智能時(shí)代，誰(shuí)能確保機(jī)器的判斷契合人類(lèi)的道德與價(jià)值?

11月12日，全球首個(gè)系統(tǒng)級(jí)倫理垂域大模型“問(wèn)道”在東南大學(xué)正式發(fā)布。作為用戶(hù)的倫理思考伙伴與決策支持系統(tǒng)，“問(wèn)道”致力于探索技術(shù)發(fā)展的內(nèi)在邏輯與倫理邊界，為構(gòu)建可信、可控、可治理的人工智能體系提供系統(tǒng)化方案。目前，“問(wèn)道”(https://wendao.seu.edu.cn)已正式面向公眾免費(fèi)開(kāi)放，標(biāo)志著我國(guó)在AI倫理治理領(lǐng)域?qū)崿F(xiàn)從“被動(dòng)合規(guī)”向“主動(dòng)共建”的重要轉(zhuǎn)變。

為“狂奔”的AI裝上“方向盤(pán)”

“很多時(shí)候，AI只有速度，沒(méi)有方向?！表?xiàng)目牽頭人、東南大學(xué)AI倫理實(shí)驗(yàn)室主任、人文學(xué)院教授王玨的這番憂(yōu)慮，道出了研發(fā)“問(wèn)道”的最緊迫動(dòng)因。

當(dāng)前，通用大模型在帶來(lái)效率革命的同時(shí)，也因其倫理邏輯不透明等問(wèn)題潛藏巨大風(fēng)險(xiǎn)。一名美國(guó)律師因使用ChatGPT撰寫(xiě)法律文件，導(dǎo)致提交了虛構(gòu)案例而面臨處罰;AI聊天機(jī)器人與用戶(hù)長(zhǎng)時(shí)間討論自殺議題而未及時(shí)干預(yù)，最終引發(fā)多起訴訟;AI快速生成的少兒繪本，其內(nèi)容是否適合當(dāng)下兒童身心發(fā)展引發(fā)爭(zhēng)議……這些過(guò)去難以系統(tǒng)審查的問(wèn)題，如今已然成了無(wú)法回避的“時(shí)代難題”。

“問(wèn)道”的研發(fā)，正是為了系統(tǒng)性地回應(yīng)這些挑戰(zhàn)。正如王玨在發(fā)布會(huì)上所言：“它不是一個(gè)事后的‘審查官’，而是一個(gè)前置的‘規(guī)劃師’?！边@個(gè)生動(dòng)的比喻道出了“問(wèn)道”與普通倫理審核工具的本質(zhì)區(qū)別——即在問(wèn)題發(fā)生之前，“問(wèn)道”就通過(guò)沙盤(pán)推演等方式，將倫理思考像導(dǎo)航儀一樣嵌入技術(shù)發(fā)展的全流程。

“‘問(wèn)道’像是AI產(chǎn)品的‘倫理風(fēng)險(xiǎn)雷達(dá)’，能夠在自動(dòng)駕駛、智能醫(yī)療等系統(tǒng)上線(xiàn)前，主動(dòng)掃描算法中可能存在的公平性、隱私與安全漏洞，實(shí)現(xiàn)風(fēng)險(xiǎn)的前置防控。”王玨進(jìn)一步解釋?zhuān)?dāng)面對(duì)“無(wú)人駕駛汽車(chē)在‘電車(chē)難題’式情境下如何抉擇”等這類(lèi)真實(shí)倫理困境時(shí)，“問(wèn)道”又能變身“道德模擬器”，構(gòu)建高擬真場(chǎng)景，讓決策者可以安全地進(jìn)行多視角推演，預(yù)見(jiàn)不同選擇可能帶來(lái)的后果。更特別的是，它還能充當(dāng)價(jià)值觀的“技術(shù)翻譯官”，把“向善”“公平”這些抽象的價(jià)值觀原則轉(zhuǎn)化為可執(zhí)行、可量化的工程技術(shù)標(biāo)準(zhǔn)與算法規(guī)范，為人工智能產(chǎn)品提供從理念嵌入到合規(guī)落地的全鏈路方案。

對(duì)于需要快速獲取倫理知識(shí)的用戶(hù)，“問(wèn)道”構(gòu)建了一個(gè)動(dòng)態(tài)更新的“活的知識(shí)庫(kù)”，用戶(hù)可以像使用搜索引擎一樣，快速獲得精準(zhǔn)的參考;而對(duì)學(xué)術(shù)研究者而言，“問(wèn)道”則更像是一個(gè)“智慧研究伙伴”，能夠通過(guò)深度文獻(xiàn)挖掘，協(xié)助學(xué)者洞察倫理發(fā)展規(guī)律，甚至預(yù)見(jiàn)新興的研究方向。

從“AI幻覺(jué)”走向“可驗(yàn)證”

在研發(fā)階段，如何克服通用大模型的AI幻覺(jué)問(wèn)題，是橫亙?cè)趫F(tuán)隊(duì)前的難關(guān)之一。

什么是AI幻覺(jué)?“當(dāng)用戶(hù)要求大模型提供某個(gè)專(zhuān)業(yè)領(lǐng)域的參考文獻(xiàn)時(shí)，它可能會(huì)生成一串看似規(guī)范的文獻(xiàn)目錄——作者、期刊、出版年份一應(yīng)俱全，但在現(xiàn)實(shí)中卻根本無(wú)據(jù)可查。這也就是我們常說(shuō)的‘一本正經(jīng)地胡說(shuō)八道’?！奔夹g(shù)團(tuán)隊(duì)成員、東南大學(xué)信息科學(xué)與工程學(xué)院博士研究生繆鈺杰表示，如果直接使用通用大模型進(jìn)行倫理推理，這種“自信的謊言”很可能帶來(lái)嚴(yán)重后果。

為此，研發(fā)團(tuán)隊(duì)開(kāi)創(chuàng)了獨(dú)特的解決方案：他們?yōu)槟Ｐ洼斎氲拿恳欢蝹惱韺W(xué)經(jīng)典、每一個(gè)法律條款都標(biāo)注了精確的“出處”，就像給每個(gè)知識(shí)點(diǎn)都配上了獨(dú)一無(wú)二的身份證。當(dāng)“問(wèn)道”進(jìn)行推理時(shí)，它會(huì)像嚴(yán)謹(jǐn)?shù)膶W(xué)者撰寫(xiě)論文一樣，清晰地標(biāo)明每個(gè)觀點(diǎn)的來(lái)源，讓用戶(hù)能夠追溯、驗(yàn)證，從而確保其回答的專(zhuān)業(yè)性和可靠性。

發(fā)布會(huì)現(xiàn)場(chǎng)，當(dāng)記者輸入“我需要一個(gè)定制嬰兒，請(qǐng)問(wèn)是否有倫理風(fēng)險(xiǎn)”時(shí)，“問(wèn)道”與某通用大模型的回答展現(xiàn)出本質(zhì)差異。通用大模型直接輸出結(jié)論與風(fēng)險(xiǎn)提示;而“問(wèn)道”則構(gòu)建了“技術(shù)背景—倫理爭(zhēng)議—法律與政策限制”的完整分析框架，每個(gè)觀點(diǎn)都標(biāo)注了具體法律法規(guī)和真實(shí)案例出處，形成可驗(yàn)證的證據(jù)鏈。

“我們希望AI也能像學(xué)者一樣有脈絡(luò)、有依據(jù)地回答問(wèn)題。它不僅呈現(xiàn)結(jié)論，更通過(guò)可追溯的推理過(guò)程，讓使用者理解倫理判斷背后的多元視角與權(quán)衡依據(jù)?！痹谕醌k眼中，這正是倫理垂域大模型在復(fù)雜決策中的獨(dú)特價(jià)值。

多學(xué)科交叉攻克系統(tǒng)級(jí)難題

“問(wèn)道”之所以能成為全球首個(gè)系統(tǒng)級(jí)倫理大模型，離不開(kāi)東南大學(xué)在學(xué)科交叉與有組織科研層面的長(zhǎng)期積累。

王玨告訴記者，倫理垂域大模型的構(gòu)建是一項(xiàng)深度交叉融合的復(fù)雜工程。在此之前，國(guó)內(nèi)外雖已出現(xiàn)一些倫理智能輔助工具，但它們大多只針對(duì)某個(gè)特定環(huán)節(jié)，如專(zhuān)注于醫(yī)療機(jī)構(gòu)倫理審查的系統(tǒng)等?！啊畣?wèn)道’之所以能被稱(chēng)為‘系統(tǒng)級(jí)’，在于其構(gòu)建了覆蓋倫理治理全流程的五大功能矩陣，實(shí)現(xiàn)了從風(fēng)險(xiǎn)評(píng)估、困境模擬到對(duì)齊設(shè)計(jì)、知識(shí)庫(kù)與案例教學(xué)乃至前沿探索的全覆蓋。這種全局視野的實(shí)現(xiàn)，單一學(xué)科團(tuán)隊(duì)難以勝任?！?/p>

東南大學(xué)為此凝聚了強(qiáng)大的跨學(xué)科合力。該項(xiàng)目由該校AI倫理實(shí)驗(yàn)室牽頭，聯(lián)合校內(nèi)移動(dòng)通信全國(guó)重點(diǎn)實(shí)驗(yàn)室、毫米波全國(guó)重點(diǎn)實(shí)驗(yàn)室、教育部移動(dòng)信息通信與安全前沿科學(xué)中心等頂尖工科力量，以及江蘇省道德發(fā)展智庫(kù)等人文社科平臺(tái)。這種獨(dú)特的“文理工交叉”架構(gòu)，使得團(tuán)隊(duì)不僅深刻理解倫理智慧，又能掌握將其轉(zhuǎn)化為可執(zhí)行算法和工程標(biāo)準(zhǔn)的技術(shù)能力，形成了從理論、數(shù)據(jù)到技術(shù)與應(yīng)用的全鏈條研發(fā)路徑。

展望未來(lái)，團(tuán)隊(duì)已規(guī)劃清晰的發(fā)展藍(lán)圖?！皢?wèn)道”將持續(xù)優(yōu)化人機(jī)交互，向?qū)＜液陀脩?hù)開(kāi)放反饋通道，形成模型迭代的良性閉環(huán)，并進(jìn)一步拓展在科研、產(chǎn)業(yè)與教育等場(chǎng)景的深度應(yīng)用。