LlamaCloud Demo：LLM向けデータインデックスの実装リポジトリ

import os

# LlamaCloud API キー（環境変数推奨）
os.environ["PLATFORM_API_KEY"] = "your-llamacloud-api-key"

# OpenAI APIキー（エンベッディングとLLM用）
os.environ["OPENAI_API_KEY"] = "your-openai-api-key"

from dotenv import load_dotenv
load_dotenv()  # .envファイルから環境変数を読み込む

from llama_index.indices.managed.llama_cloud import LlamaCloudIndex

# LlamaCloudで作成したインデックスに接続
index = LlamaCloudIndex(
    name="my-index",           # LlamaCloudで作成したインデックス名
    project_name="my-project", # LlamaCloudのプロジェクト名
    api_key=os.environ.get("PLATFORM_API_KEY"),
)

# クエリエンジンの作成
query_engine = index.as_query_engine()

# シンプルなRAGクエリ
response = query_engine.query("製品のサポートポリシーはどうなっていますか？")
print(str(response))

# ソースノードの確認
for node in response.source_nodes:
    print(f"スコア: {node.score:.3f}")
    print(f"テキスト: {node.node.text[:200]}...")
    print("---")

# getting_startedの基本パターン
from llama_index.core import VectorStoreIndex
from llama_index.core.retrievers import VectorIndexRetriever
from llama_index.core.query_engine import RetrieverQueryEngine
from llama_index.indices.managed.llama_cloud import LlamaCloudIndex

# 既存インデックスへの接続
index = LlamaCloudIndex.from_index(
    index_id="your-index-id",
    project_name="your-project-name",
)

# リトリーバーの設定
retriever = VectorIndexRetriever(
    index=index,
    similarity_top_k=5,  # 上位5件を取得
)

# クエリエンジンのカスタマイズ
query_engine = RetrieverQueryEngine(retriever=retriever)

response = query_engine.query("このドキュメントの要点を教えてください")
print(response)

# パイプラインのステータス確認（llama-cloud-services での最新パターン）
from llama_cloud import LlamaCloud

client = LlamaCloud(token=os.environ["PLATFORM_API_KEY"])

# パイプラインの一覧取得
pipelines = client.pipelines.list_pipelines(project_name="my-project")
for pipeline in pipelines:
    print(f"Pipeline: {pipeline.name}, Status: {pipeline.status}")

# ストリーミングでの回答生成
streaming_response = query_engine.query(
    "この契約書の主要な条項を説明してください",
    streaming=True
)

# トークンをリアルタイムに出力
for token in streaming_response.response_gen:
    print(token, end="", flush=True)
print()  # 改行

# マルチドキュメントRAGの構築例
from llama_index.indices.managed.llama_cloud import LlamaCloudIndex
from llama_index.llms.openai import OpenAI

# インデックス取得
index = LlamaCloudIndex(
    name="company-docs-index",
    project_name="internal-qa",
)

# LLMを指定したクエリエンジン
llm = OpenAI(model="gpt-4o", temperature=0)
query_engine = index.as_query_engine(llm=llm)

# 社内規程の質問
response = query_engine.query("育児休業の申請手続きを教えてください")
print(response)

from llama_index.core.memory import ChatMemoryBuffer

# 会話履歴付きチャットエンジン
memory = ChatMemoryBuffer.from_defaults(token_limit=3900)

chat_engine = index.as_chat_engine(
    chat_mode="condense_plus_context",
    memory=memory,
    verbose=True,
)

# 会話形式のやり取り
response = chat_engine.chat("APIの認証方法を教えて")
print(response)
response = chat_engine.chat("それをPythonで実装するとどうなる？")
print(response)

from llama_index.core.retrievers import (
    VectorIndexRetriever,
    KeywordTableSimpleRetriever,
)
from llama_index.core.query_engine import RetrieverQueryEngine
from llama_index.core.retrievers import RouterRetriever

# ハイブリッドリトリーバー（ベクトル + キーワード）
vector_retriever = VectorIndexRetriever(
    index=index,
    similarity_top_k=3,
)

# 取得ノードのリランキング
from llama_index.core.postprocessor import SimilarityPostprocessor

postprocessor = SimilarityPostprocessor(similarity_cutoff=0.7)

query_engine = RetrieverQueryEngine(
    retriever=vector_retriever,
    node_postprocessors=[postprocessor],
)

from llama_parse import LlamaParse

parser = LlamaParse(
    api_key=os.environ["LLAMA_CLOUD_API_KEY"],
    result_type="markdown",  # "markdown" または "text"
    num_workers=4,
)

# PDFをMarkdownに変換
documents = parser.load_data("./technical_report.pdf")
print(documents[0].text[:500])