Haystack

WeaveConnector インテグレーションを使用して、W&B Weave で Deepset Haystack パイプラインをトレースします。

Haystack は、検索や LLM アプリケーションを構築するためのオープンソース フレームワークです。Deepset は WeaveConnector コンポーネントを提供しており、Haystack パイプラインのトレースを W&B Weave に転送できます。これにより、Weave UI でコンポーネントの実行、プロンプト、出力を確認できます。

このガイドは、パイプラインに可観測性を追加したい Haystack 開発者向けです。

API の詳細と追加の例については、以下の Deepset リソースを参照してください。

• Haystack の WeaveConnector。
• Haystack の Weave インテグレーション API リファレンス。
• RAG パイプラインを使用した Haystack の W&B Weave でトレースする 例。

​

前提条件

開始する前に、以下を完了する必要があります。

• W&BのAPIキーを使用して、環境にWANDB_API_KEYを設定してください。これにより、コネクタがW&B Weaveに対して認証されます。
• コネクタが転送するトレースデータをHaystackが出力するように、パイプラインを実行する前にHAYSTACK_CONTENT_TRACING_ENABLEDをtrueに設定してください。

​

インストール

pip を使用して、必要な依存パッケージをインストールします：

pip install weave-haystack

このパッケージでは、依存関係として haystack-ai と weave の互換性のあるバージョンを指定しています。

​

Weave で Haystack パイプラインをトレースする

以下の例では、Haystack の WeaveConnector を Haystack Pipeline に追加し、W&B Weave と統合して、パイプラインのコンポーネントのトレースと監視を行います。指定した pipeline_name は、そのパイプラインからのトレースに使用する Weave プロジェクト名として使用されます。

Haystack パイプラインでは、WeaveConnector を他のコンポーネントに接続しないでください。

import os

os.environ["HAYSTACK_CONTENT_TRACING_ENABLED"] = "true"

from haystack import Pipeline
from haystack.components.builders import ChatPromptBuilder
from haystack.components.generators.chat import OpenAIChatGenerator
from haystack.dataclasses import ChatMessage
from haystack_integrations.components.connectors.weave import WeaveConnector

pipe = Pipeline()
pipe.add_component("prompt_builder", ChatPromptBuilder())
pipe.add_component("llm", OpenAIChatGenerator(model="gpt-3.5-turbo"))
pipe.connect("prompt_builder.prompt", "llm.messages")

# pipeline_name が W&B のプロジェクト名になります。
connector = WeaveConnector(pipeline_name="haystack_demo")
# コネクタをパイプラインに追加しますが、他のコンポーネントには接続しません。
pipe.add_component("weave", connector)

messages = [
    ChatMessage.from_system(
        "Always respond in German even if some input data is in other languages.",
    ),
    ChatMessage.from_user("Tell me about {{location}}"),
]

response = pipe.run(
    data={
        "prompt_builder": {
            "template_variables": {"location": "Berlin"},
            "template": messages,
        },
    },
)

print(response["llm"]["replies"][0])

パイプラインの実行後、W&B Workspace を開き、pipeline_name という名前の project を選択して、Traces で完了したトレースを確認します。