徐建輝

現(xiàn)在，AI杜撰歷史、編造法律條文、偽造參考文獻(xiàn)的現(xiàn)象已經(jīng)屢見不鮮。上個(gè)月，全國首例AI幻覺侵權(quán)糾紛案正式宣判，標(biāo)志著AI幻覺已從技術(shù)問題，升級為法律和社會(huì)問題。當(dāng)我們的生活和工作越來越依賴大模型時(shí)，AI幻覺帶來的風(fēng)險(xiǎn)，也正影響越來越多的人。（見5月22日央視新聞）

“知之為知之，不知為不知”，求真求實(shí)是信息傳播的底線，也是技術(shù)發(fā)展的初心。然而，AI幻覺正頻繁挑戰(zhàn)這一底線，一本正經(jīng)地輸出虛假信息。這早已不是無傷大雅的技術(shù)“小漏洞”，而是可能升級為影響公共認(rèn)知、引發(fā)法律糾紛的潛在風(fēng)險(xiǎn)。正視AI幻覺，尋找破解之道，既是數(shù)字時(shí)代繞不過去的問題，更是守護(hù)公眾知情權(quán)、維護(hù)信息生態(tài)的必由之路。

AI幻覺的根源，在于底層技術(shù)中的邏輯缺陷。人類基于感知與認(rèn)知形成對世界的理解，而AI的“表達(dá)”本質(zhì)上是從海量文本里學(xué)習(xí)詞語、句子之間的統(tǒng)計(jì)關(guān)聯(lián)，再根據(jù)上下文預(yù)測下一個(gè)最有可能出現(xiàn)的詞。而當(dāng)面對冷門知識、專業(yè)細(xì)節(jié)或模糊問題時(shí)，由于訓(xùn)練數(shù)據(jù)不足，難以算出可靠的概率，有的大模型便會(huì)為了“流暢輸出”而編造內(nèi)容。這種機(jī)制性缺陷讓AI的“胡說八道”很難避免。而一旦虛假信息擴(kuò)散，輕則誤導(dǎo)判斷，重則引發(fā)糾紛，浪費(fèi)社會(huì)資源，消耗社會(huì)信任。

AI發(fā)展日新月異，我們不必因缺陷否定技術(shù)的力量，也不能放任亂象、忽視風(fēng)險(xiǎn)。破解AI幻覺，既需要不斷升級技術(shù)，也需要進(jìn)一步明確規(guī)則。技術(shù)層面，檢索增強(qiáng)生成、多智能體交叉驗(yàn)證等前沿探索，正努力讓AI從“閉卷編造”轉(zhuǎn)向“開卷求證”，讓輸出的答案有據(jù)可依、有源可溯。規(guī)則層面，有關(guān)方面應(yīng)劃清權(quán)責(zé)邊界，并要求AI平臺在應(yīng)用界面、用戶協(xié)議等多個(gè)層面履行提示說明義務(wù)。

在當(dāng)前的技術(shù)條件下，大模型仍是輔助性的查詢工具，并非值得托付的“知識權(quán)威”。面對AI高度流暢、自然的應(yīng)答時(shí)，用戶應(yīng)保持必要的警覺，同時(shí)做到“巧問善查”，限定問題范圍，明確信息檢索渠道，對關(guān)鍵信息多方核對，不給AI“胡說八道”留空間。唯有不輕信盲從、不當(dāng)“傳聲筒”，才能避開幻覺陷阱，守住自身判斷的底線。