LiteLLMとLangGraphでプロバイダー非依存のAIエージェントを構築してみる

Python 3.13
litellm 1.83.14
langgraph 1.1.10
langchain-litellm 0.6.4
langchain-core 1.3.2

$ uv pip install litellm langgraph langchain-litellm langchain-core

$ export OPENAI_API_KEY="sk-..."
$ export ANTHROPIC_API_KEY="sk-ant-..."
$ export GEMINI_API_KEY="..."

from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_litellm import ChatLiteLLM

prompt = ChatPromptTemplate.from_messages([
    ("system", "質問に簡潔に回答してください。"),
    ("user", "{question}"),
])
llm = ChatLiteLLM(model="anthropic/claude-sonnet-4-6")

chain = prompt | llm | StrOutputParser()
result = chain.invoke({"question": "東京の人口は？"})

# LangChainのクラスを使うがパイプなし
messages = prompt.format_messages(question="東京の人口は？")
response = llm.invoke(messages)
result = response.content

from litellm import completion

response = completion(
    model="anthropic/claude-sonnet-4-6",
    messages=[
        {"role": "system", "content": "質問に簡潔に回答してください。"},
        {"role": "user", "content": "東京の人口は？"},
    ],
)
result = response.choices[0].message.content

from langchain.agents import create_agent
from langchain_core.tools import tool
from langchain_litellm import ChatLiteLLM

@tool
def get_weather(city: str) -> str:
    """指定された都市の現在の天気を取得します。"""
    weather_data = {
        "東京": "晴れ、気温25°C、湿度60%",
        "大阪": "曇り、気温23°C、湿度70%",
        "札幌": "雪、気温-2°C、湿度80%",
        "福岡": "晴れ、気温22°C、湿度55%",
    }
    return weather_data.get(city, f"{city}の天気データは見つかりませんでした")

@tool
def calculate(expression: str) -> str:
    """数式を計算します。四則演算に対応しています。"""
    allowed_chars = set("0123456789+-*/.() ")
    if not all(c in allowed_chars for c in expression):
        return "エラー: 許可されていない文字が含まれています"
    try:
        result = eval(expression)  # noqa: S307
        return str(result)
    except Exception as e:
        return f"計算エラー: {e}"

# LiteLLMでモデルを指定 — モデル名を変えるだけでプロバイダーを切り替え可能
llm = ChatLiteLLM(model="anthropic/claude-sonnet-4-6")

# create_agentでReActエージェントを構築
agent = create_agent(llm, tools=[get_weather, calculate])

# 実行
result = agent.invoke(
    {"messages": [{"role": "user", "content": "東京と大阪の天気を調べて、気温の差を計算してください"}]}
)

for msg in result["messages"]:
    print(f"[{msg.type}] {msg.content}")

llm.invoke()    → LLMを1回呼び出すだけ
agent.invoke()  → グラフ全体のフローを最後まで実行

$ python basic_agent.py 
[human] 東京と大阪の天気を調べて、気温の差を計算してください
[ai] 
[tool] 晴れ、気温25°C、湿度60%
[tool] 曇り、気温23°C、湿度70%
[ai] 
[tool] 2
[ai] 東京の天気は「晴れ、気温25°C、湿度60%」です。  
大阪の天気は「曇り、気温23°C、湿度70%」です。  

気温の差は 2°C です。

from langchain_core.tools import tool
from langchain_litellm import ChatLiteLLM
from langgraph.graph import END, START, MessagesState, StateGraph
from langgraph.prebuilt import ToolNode

@tool
def search_product(query: str) -> str:
    """商品を検索します。"""
    products = {
        "ノートPC": "商品A: 15.6インチ、メモリ16GB、SSD 512GB — ¥120,000",
        "キーボード": "商品B: メカニカル、日本語配列、Cherry MX赤軸 — ¥15,000",
        "モニター": "商品C: 27インチ、4K、IPS液晶 — ¥45,000",
    }
    for key, value in products.items():
        if key in query:
            return value
    return f"'{query}'に一致する商品は見つかりませんでした"

@tool
def check_stock(product_name: str) -> str:
    """商品の在庫状況を確認します。"""
    stock = {
        "商品A": "在庫あり（残り3台）",
        "商品B": "在庫あり（残り12個）",
        "商品C": "在庫なし（入荷予定: 1週間後）",
    }
    for key, value in stock.items():
        if key in product_name:
            return value
    return "在庫情報が見つかりません"

# ツールとLLMの設定
tools = [search_product, check_stock]
llm = ChatLiteLLM(model="anthropic/claude-sonnet-4-6").bind_tools(tools)

SYSTEM_PROMPT = (
    "あなたは商品検索アシスタントです。"
    "ユーザーの質問に対して、必ずツールを使って情報を取得してから回答してください。"
    "推測で回答せず、ツールの結果に基づいて回答してください。"
)

# エージェントノード: LLMを呼び出してレスポンスを返す
def agent_node(state: MessagesState):
    messages = [{"role": "system", "content": SYSTEM_PROMPT}] + state["messages"]
    response = llm.invoke(messages)
    return {"messages": [response]}

# 条件分岐: ツール呼び出しがあるかどうかで次のノードを決定
def should_continue(state: MessagesState):
    last_message = state["messages"][-1]
    if last_message.tool_calls:
        return "tools"
    return END

# StateGraphを手動で構築
graph = StateGraph(MessagesState)

# ノードを追加
graph.add_node("agent", agent_node)
graph.add_node("tools", ToolNode(tools))

# エッジを定義
graph.add_edge(START, "agent")
graph.add_conditional_edges("agent", should_continue, {"tools": "tools", END: END})
graph.add_edge("tools", "agent")

# グラフをコンパイル
app = graph.compile()

# 実行
result = app.invoke(
    {"messages": [{"role": "user", "content": "ノートPCを探しています。在庫はありますか？"}]}
)

print("=== エージェントの実行結果 ===")
for msg in result["messages"]:
    role = msg.type
    content = getattr(msg, "content", "")
    if content:
        print(f"\n[{role}] {content}")

$ python custom_graph_agent.py
=== エージェントの実行結果 ===

[human] ノートPCを探しています。在庫はありますか？

[tool] 商品A: 15.6インチ、メモリ16GB、SSD 512GB — ¥120,000

[tool] 在庫あり（残り3台）

[ai] ノートPCは1件見つかりました。

- 商品A: 15.6インチ、メモリ16GB、SSD 512GB — ¥120,000
- 在庫: あり（残り3台）

他の条件
- 予算
- 画面サイズ
- メモリ容量
- メーカー

があれば、絞り込んでお探しできます。

from langchain.agents import create_agent
from langchain_core.tools import tool
from langchain_litellm import ChatLiteLLM

@tool
def search_docs(query: str) -> str:
    """社内ドキュメントを検索します。"""
    docs = {
        "有給休暇": "有給休暇は入社6ヶ月後に10日付与されます。申請は3営業日前までに上長承認が必要です。",
        "リモートワーク": "リモートワークは週3日まで可能です。事前申請は不要ですが、勤怠システムへの記録が必要です。",
        "経費精算": "経費精算は月末締め、翌月15日払いです。領収書の原本またはスキャンデータの提出が必要です。",
    }
    for key, value in docs.items():
        if key in query:
            return value
    return f"'{query}'に関するドキュメントは見つかりませんでした"

# LiteLLMの強み: モデル名を変えるだけで同じエージェントを異なるプロバイダーで実行
models = [
    "openai/gpt-5.5",
    "anthropic/claude-sonnet-4-6",
    "gemini/gemini-2.5-flash",
]

query = "リモートワークのルールを教えてください"

for model_name in models:
    print(f"\n{'='*60}")
    print(f"モデル: {model_name}")
    print(f"{'='*60}")

    llm = ChatLiteLLM(model=model_name)
    agent = create_agent(llm, tools=[search_docs])

    result = agent.invoke({"messages": [{"role": "user", "content": query}]})

    # 最終回答を表示
    final_message = result["messages"][-1]
    print(final_message.content[:300])

$ python multi_model_agent.py 

============================================================
モデル: openai/gpt-5.5
============================================================
リモートワークは週に3日まで可能です。事前の申請は不要ですが、勤怠システムへの記録が必要です。

============================================================
モデル: anthropic/claude-sonnet-4-6
============================================================
社内ドキュメントに基づいた、リモートワークのルールをご案内します。

- **利用可能日数**：週3日までリモートワークが可能です。
- **事前申請**：不要です。
- **勤怠記録**：勤怠システムへの記録が必要です。

ご不明な点があれば、お気軽にご質問ください！

============================================================
モデル: gemini/gemini-2.5-flash
============================================================
週3日までリモートワークが可能です。事前申請は不要ですが、勤怠システムへの記録が必要です。