蓋世汽車(chē)訊 大型語(yǔ)言模型（LLM）是基于人工智能的先進(jìn)對(duì)話系統(tǒng)，可以回答用戶查詢(xún)并按照人類(lèi)指令生成文本。OpenAI開(kāi)發(fā)的高性能模型ChatGPT出現(xiàn)后，這些模型變得越來(lái)越受歡迎，并且越來(lái)越多的公司開(kāi)始投資并開(kāi)發(fā)。

盡管承諾實(shí)時(shí)回答人類(lèi)問(wèn)題并為特定目的創(chuàng)建文本，但LLM有時(shí)會(huì)生成無(wú)意義、不準(zhǔn)確或不相關(guān)的文本，這些文本與人類(lèi)用戶提供給他們的提示不同。這種現(xiàn)象通常與用于訓(xùn)練模型的數(shù)據(jù)的局限性或其潛在推理中的錯(cuò)誤有關(guān)，被稱(chēng)為L(zhǎng)LM“幻覺(jué)”。

據(jù)外媒報(bào)道，伊利諾伊大學(xué)厄巴納-香檳分校（University of Illinois Urbana-Champaign）研究人員最近推出一個(gè)用于檢測(cè)LLM生成文本中的幻覺(jué)的框架KnowHalu。據(jù)悉，相關(guān)論文已上傳在arXiv網(wǎng)站，介紹稱(chēng)可以幫助提高這些模型的可靠性，并簡(jiǎn)化完成各種文本生成任務(wù)的使用。

圖片來(lái)源：arXiv網(wǎng)站

“隨著LLM的不斷進(jìn)步，幻覺(jué)成為阻礙其在現(xiàn)實(shí)世界更廣泛應(yīng)用的一個(gè)關(guān)鍵障礙，”該項(xiàng)目顧問(wèn)Bo Li表示?！氨M管大量研究已經(jīng)解決了LLM的幻覺(jué)，但現(xiàn)有的方法往往無(wú)法有效利用現(xiàn)實(shí)世界的知識(shí)或利用效率低下。受這一差距的啟發(fā)，我們?yōu)長(zhǎng)LM開(kāi)發(fā)了一種新穎的多形式基于知識(shí)的幻覺(jué)檢測(cè)框架。此外，我們還發(fā)現(xiàn)，當(dāng)前有關(guān)非制造幻覺(jué)的研究存在差距：事實(shí)正確但與查詢(xún)無(wú)關(guān)或不特定的響應(yīng)”。”

返回第一電動(dòng)網(wǎng)首頁(yè) >