🦜️🔗LangChain : モジュール : モデル I/O – 言語モデル : LLM : ストリーミング / トークン使用量の追跡 (翻訳/解説)

翻訳 : (株)クラスキャット セールスインフォメーション
作成日時 : 08/29/2023

* 本ページは、LangChain の以下のドキュメントを翻訳した上で適宜、補足説明したものです：

• Modules : Model I/O – Language models : LLMs : Streaming
• Modules : Model I/O – Language models : LLMs : Tracking token usage

* サンプルコードの動作確認はしておりますが、必要な場合には適宜、追加改変しています。
* ご自由にリンクを張って頂いてかまいませんが、sales-info@classcat.com までご一報いただけると嬉しいです。

 

 

🦜️🔗 LangChain : モジュール : モデル I/O – 言語モデル : LLM : ストリーミング

一部の LLM はストリーミングレスポンスを提供します。これは返されるレスポンス全体を待つ代わりに、レスポンスが利用可能になればすぐにそれを処理し始めることができることを意味します。これはレスポンスが生成されながらそれをユーザに表示したい場合や、生成されながらレスポンスを処理したい場合に有用です。

現在、OpenAI, ChatOpenAI, ChatAnthropic, Hugging Face テキスト生成推論と Replicate を含みますがこれらに制限されない広範囲な LLM に対してストリーミングをサポートしています。この機能は殆どのモデルに必要なもとを提供できるように拡張されました。ストリーミングを利用するには、on_llm_new_token を実装する CallbackHandler を使用します。この例では StreamingStdOutCallbackHandler を使用しています。

from langchain.llms import OpenAI
from langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandler


llm = OpenAI(streaming=True, callbacks=[StreamingStdOutCallbackHandler()], temperature=0)
resp = llm("Write me a song about sparkling water.")

    Verse 1
    I'm sippin' on sparkling water,
    It's so refreshing and light,
    It's the perfect way to quench my thirst
    On a hot summer night.
    
    Chorus
    Sparkling water, sparkling water,
    It's the best way to stay hydrated,
    It's so crisp and so clean,
    It's the perfect way to stay refreshed.
    
    Verse 2
    I'm sippin' on sparkling water,
    It's so bubbly and bright,
    It's the perfect way to cool me down
    On a hot summer night.
    
    Chorus
    Sparkling water, sparkling water,
    It's the best way to stay hydrated,
    It's so crisp and so clean,
    It's the perfect way to stay refreshed.
    
    Verse 3
    I'm sippin' on sparkling water,
    It's so light and so clear,
    It's the perfect way to keep me cool
    On a hot summer night.
    
    Chorus
    Sparkling water, sparkling water,
    It's the best way to stay hydrated,
    It's so crisp and so clean,
    It's the perfect way to stay refreshed.

generate を使用する場合でもエンド LLMResult へのアクセスを依然として持ちます。けれども、token_usage は現在ストリーミングに対してサポートされていません。

llm.generate(["Tell me a joke."])

    Q: What did the fish say when it hit the wall?
    A: Dam!


    LLMResult(generations=[[Generation(text='\n\nQ: What did the fish say when it hit the wall?\nA: Dam!', generation_info={'finish_reason': 'stop', 'logprobs': None})]], llm_output={'token_usage': {}, 'model_name': 'text-davinci-003'})

 

🦜️🔗 LangChain : モジュール : モデル I/O – 言語モデル : LLM : トークン使用量の追跡

このノートブックは特定の呼び出しに対するトークン使用量を追跡する方法を調べます。それは現在 OpenAI API に対して実装されているのみです。

最初に単一の LLM 呼び出しに対するトークン使用量を追跡する非常に単純な例を見ましょう。

from langchain.llms import OpenAI
from langchain.callbacks import get_openai_callback

API リファレンス:

• OpenAI
• get_openai_callback

llm = OpenAI(model_name="text-davinci-002", n=2, best_of=2)

with get_openai_callback() as cb:
    result = llm("Tell me a joke")
    print(cb)

    Tokens Used: 42
        Prompt Tokens: 4
        Completion Tokens: 38
    Successful Requests: 1
    Total Cost (USD): $0.00084

コンテキストマネージャ内のすべてのものが追跡されます。ここに、シークエンスの複数の呼び出しを追跡するためにそれを使用する例があります。

with get_openai_callback() as cb:
    result = llm("Tell me a joke")
    result2 = llm("Tell me a joke")
    print(cb.total_tokens)

    91

内部に複数のステップを持つチェインやエージェントが使用される場合、それらのステップすべてを追跡します。

from langchain.agents import load_tools
from langchain.agents import initialize_agent
from langchain.agents import AgentType
from langchain.llms import OpenAI

llm = OpenAI(temperature=0)
tools = load_tools(["serpapi", "llm-math"], llm=llm)
agent = initialize_agent(
    tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True
)

API リファレンス :

• load_tools
• initialize_agent
• AgentType
• OpenAI

with get_openai_callback() as cb:
    response = agent.run(
        "Who is Olivia Wilde's boyfriend? What is his current age raised to the 0.23 power?"
    )
    print(f"Total Tokens: {cb.total_tokens}")
    print(f"Prompt Tokens: {cb.prompt_tokens}")
    print(f"Completion Tokens: {cb.completion_tokens}")
    print(f"Total Cost (USD): ${cb.total_cost}")

    
    
    > Entering new AgentExecutor chain...
     I need to find out who Olivia Wilde's boyfriend is and then calculate his age raised to the 0.23 power.
    Action: Search
    Action Input: "Olivia Wilde boyfriend"
    Observation: Sudeikis and Wilde's relationship ended in November 2020. Wilde was publicly served with court documents regarding child custody while she was presenting Don't Worry Darling at CinemaCon 2022. In January 2021, Wilde began dating singer Harry Styles after meeting during the filming of Don't Worry Darling.
    Thought: I need to find out Harry Styles' age.
    Action: Search
    Action Input: "Harry Styles age"
    Observation: 29 years
    Thought: I need to calculate 29 raised to the 0.23 power.
    Action: Calculator
    Action Input: 29^0.23
    Observation: Answer: 2.169459462491557
    
    Thought: I now know the final answer.
    Final Answer: Harry Styles, Olivia Wilde's boyfriend, is 29 years old and his age raised to the 0.23 power is 2.169459462491557.
    
    > Finished chain.
    Total Tokens: 1506
    Prompt Tokens: 1350
    Completion Tokens: 156
    Total Cost (USD): $0.03012

以上