微軟專利公佈防止人工智慧幻覺的技術

當今人工智慧面臨的主要障礙之一是它容易產生幻覺，這意味著它在嘗試完成任務時可能會產生誤導性或捏造的資訊。儘管大多數人工智慧系統利用線上資源來提供準確的回應，但長時間的對話有時會導致人工智慧依賴毫無根據的資訊。

今年早些時候，微軟開始開發一種解決人工智慧幻覺的解決方案，並發布了一篇研究論文，詳細介紹了一項旨在預防這些錯誤的專利技術。

題為「使用外部知識和回饋與語言模型互動」的文檔概述了該機制的運作方式。

該系統透過處理查詢（來自使用者的問題或請求）來運作。它繼續根據該查詢從外部來源取得相關資訊。隨後，它將這些資訊與原始查詢一起合成為適合語言模型使用的內聚包。

一旦建立了包，就會將其引入語言模型，並進行訓練以根據提供的輸入製定回應。然後，人工智慧模型會產生基於該輸入包的初始回應。

為了確保響應的相關性，系統採用預先定義的標準來評估初始輸出是否符合有用性標準。如果第一個回應缺乏價值（顯示人工智慧幻覺），系統會建立一個改進的輸入包，其中包括對不正確或缺失資訊的回饋。

這個新修改的輸入被回饋到語言模型中，然後根據這些精煉的資訊產生更新的回應。

這項創新技術不僅具有對抗人工智慧幻覺的潛力，而且還具有各種現實應用的潛力。例如，正如論文中詳細介紹的那樣，該系統可以由餐廳的人工智慧助理使用，使他們能夠向顧客提供經過驗證的事實信息，並根據對話過程中不斷變化的客戶詢問調整他們的反應。

這個迭代過程透過不斷完善輸入和回饋來提高語言模型回應的準確性和實用性。

儘管目前只是一項專利，但所討論的概念表明微軟致力於增強其人工智慧模型（例如 Copilot）的功能和可靠性。

這家科技巨頭已經表達了解決和消除人工智慧模型中的幻覺的雄心，強調未來可以在餐廳協助等功能中可靠地產生準確的資訊。

透過消除幻覺的策略，人工智慧模型可以提供準確的回應，而無需訴諸錯誤的資訊。當與最新 Copilot 的語音功能配合使用時，人工智慧可以取代自動化客戶支援系統等入門級工作。

您對這項發展有何看法？

您可以在此處瀏覽完整的論文。

來源&圖片