🦜️🔗LangChain : モジュール : 検索 – Retrievers : MultiQueryRetriever (翻訳/解説)

翻訳 : (株)クラスキャット セールスインフォメーション
作成日時 : 09/08/2023

* 本ページは、LangChain の以下のドキュメントを翻訳した上で適宜、補足説明したものです：

• Modules : Retrieval – Retrievers : MultiQueryRetriever

* サンプルコードの動作確認はしておりますが、必要な場合には適宜、追加改変しています。
* ご自由にリンクを張って頂いてかまいませんが、sales-info@classcat.com までご一報いただけると嬉しいです。

🦜️🔗 LangChain : モジュール : 検索 – Retrievers : MultiQueryRetriever

距離ベースのベクトルデータベース検索はクエリーを高次元空間で埋め込み (表現し)、そして「距離」に基づいて類似した埋め込みドキュメントを見つけます。しかし、クエリーの言い回しの微妙な変化や、埋め込みがデータの意味を上手く捕捉できていない場合には検索取得は異なる結果を生成するかもしれません。この問題に手動で対処するためプロンプト・エンジニアリング / 調整が行われる場合がありますが、退屈 (tedious) でありえます。

MultiQueryRetriever は、LLM を使用して与えられたユーザ入力クエリーに対して様々な視点から複数のクエリーを生成することにより、プロンプト調整の過程を自動化します。各クエリーに対して、関連ドキュメントのセットを取得して、すべてのクエリーに渡る一意な和集合を取り潜在的に関連するドキュメントのより大きいセットを取得します。同じ質問上の複数の視点を生成することにより、MultiQueryRetriever は距離ベースの検索の幾つかの制限を乗り越えてよりリッチな結果のセットが得られる場合があります。

# Build a sample vectorDB
from langchain.vectorstores import Chroma
from langchain.document_loaders import WebBaseLoader
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.text_splitter import RecursiveCharacterTextSplitter

# Load blog post
loader = WebBaseLoader("https://lilianweng.github.io/posts/2023-06-23-agent/")
data = loader.load()

# Split
text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=0)
splits = text_splitter.split_documents(data)

# VectorDB
embedding = OpenAIEmbeddings()
vectordb = Chroma.from_documents(documents=splits, embedding=embedding)

API リファレンス :

• Chroma
• WebBaseLoader
• OpenAIEmbeddings
• RecursiveCharacterTextSplitter

 
単純な使用方法

クエリー生成のために使用する LLM を指定すれば、retriver が残りを行います。

from langchain.chat_models import ChatOpenAI
from langchain.retrievers.multi_query import MultiQueryRetriever

question = "What are the approaches to Task Decomposition?"
llm = ChatOpenAI(temperature=0)
retriever_from_llm = MultiQueryRetriever.from_llm(
    retriever=vectordb.as_retriever(), llm=llm
)

API リファレンス :

• ChatOpenAI
• MultiQueryRetriever

# Set logging for the queries
import logging

logging.basicConfig()
logging.getLogger("langchain.retrievers.multi_query").setLevel(logging.INFO)

unique_docs = retriever_from_llm.get_relevant_documents(query=question)
len(unique_docs)

    INFO:langchain.retrievers.multi_query:Generated queries: ['1. How can Task Decomposition be approached?', '2. What are the different methods for Task Decomposition?', '3. What are the various approaches to decomposing tasks?']





    5

 
貴方自身のプロンプトの供給

結果をクエリーのリストに分割するために出力パーサーとともにプロンプトを供給することもできます。

from typing import List
from langchain import LLMChain
from pydantic import BaseModel, Field
from langchain.prompts import PromptTemplate
from langchain.output_parsers import PydanticOutputParser


# Output parser will split the LLM result into a list of queries
class LineList(BaseModel):
    # "lines" is the key (attribute name) of the parsed output
    lines: List[str] = Field(description="Lines of text")


class LineListOutputParser(PydanticOutputParser):
    def __init__(self) -> None:
        super().__init__(pydantic_object=LineList)

    def parse(self, text: str) -> LineList:
        lines = text.strip().split("\n")
        return LineList(lines=lines)


output_parser = LineListOutputParser()

QUERY_PROMPT = PromptTemplate(
    input_variables=["question"],
    template="""You are an AI language model assistant. Your task is to generate five 
    different versions of the given user question to retrieve relevant documents from a vector 
    database. By generating multiple perspectives on the user question, your goal is to help
    the user overcome some of the limitations of the distance-based similarity search. 
    Provide these alternative questions seperated by newlines.
    Original question: {question}""",
)
llm = ChatOpenAI(temperature=0)

# Chain
llm_chain = LLMChain(llm=llm, prompt=QUERY_PROMPT, output_parser=output_parser)

# Other inputs
question = "What are the approaches to Task Decomposition?"

API リファレンス :

• PromptTemplate
• PydanticOutputParser

# Run
retriever = MultiQueryRetriever(
    retriever=vectordb.as_retriever(), llm_chain=llm_chain, parser_key="lines"
)  # "lines" is the key (attribute name) of the parsed output

# Results
unique_docs = retriever.get_relevant_documents(
    query="What does the course say about regression?"
)
len(unique_docs)

    INFO:langchain.retrievers.multi_query:Generated queries: ["1. What is the course's perspective on regression?", '2. Can you provide information on regression as discussed in the course?', '3. How does the course cover the topic of regression?', "4. What are the course's teachings on regression?", '5. In relation to the course, what is mentioned about regression?']





    11

以上