RAG 的原理與進行方式是什麼?可以解決什麼困難?
RAG (Retrieval-Augmented Generation) 的基本結構
包括一個生成器(generator)和一個檢索器(retriever)。
生成器 負責生成文本,而
檢索器 則用來 檢索與生成 相關 的 外部知識。
檢索(Retrieval):
在這一階段,RAG 模型使用檢索模型,
通常是一個 檢索式記憶體網絡(Retriever),
從龐大的資料庫 中 檢索相關訊息。
這個模組 能夠根據 輸入的 提示 或 查詢,
從 文本資料庫 中找到 相關的資訊片段。
檢索模組的目標是
確保 提取的資訊 與 輸入文本 有高度的 相關性 和 完整性。
生成(Generation):
獲取到 的 檢索資訊 接著被傳遞到生成模組中,
通常是一個語言生成模型(如 GPT,BERT 等)。
生成模組 利用這些檢索到的資訊,
以 更有 邏輯 和 意義 的方式 生成 回答、文章或其他形式的內容。
這讓模型能夠 更好地理解 檢索到的 上下文資訊 並生成 更精確的回應。
整合和調整(Integration and Adjustment):
檢索到的 資訊片段 會與 生成模型中的內部資訊 相互結合,
以產生 最終的輸出。
這個過程可能包括 整合檢索到的訊息 以及 根據 生成模型的內部機制 進行調整,
以 確保 生成的內容 具有 合適的邏輯 和 完整性。

沒有留言:
張貼留言