実践的RAGサンプル

このレポジトリは、Databricks上での生成AI活用のサンプルとして、実践的なビジネスシナリオに則ったデモプログラムを提供しています。

環境

Databricks（AWS/Azure）

サンプル

• ドリー食品ホールディングス株式会社（コード）
  • 経理部が決算レポートを作成するために Databricks Genie を使ってデータ分析をします。
• メダリオンカード株式会社（コード）
  • カード会員向けのFAQボットをRAGベースで開発します。
• 株式会社エアブリックス（コード）
  • コールセンターのオペレータ向けの情報検索ツールをRAGベースで開発します。
• その他
  • optional-create_endpoint_for_elyza_13b
    • 日本語LLM「ELYZA-13b」をDatabricks上にエンドポイントとしてデプロイするサンプルコード
  • optional-create_endopint_for_openai_gpt3.5_and_gpt4

事前準備

1. シークレットの登録

Model Serving Endpointから Vector Search インデックスなど他のエンドポイントへ接続するために、Databricksのアクセストークンを必要とします。 (参照先).
Note: 共有のデモ・ワークスペースを使用していて、シークレットが設定されていることを確認した場合は、以下の手順を実行せず、その値を上書きしないでください。

• ラップトップでDatabricks CLI をセットアップ
  pip install databricks-cli
  
• CLIを設定。ワークスペースのURLとプロフィールページのPersonal Access Token(PAT)トークンが必要。PATトークンの発行の仕方はこちらをご参照ください。
  databricks configure
• medallioncard および airbricks スコープを作成
  databricks secrets create-scope medallioncard
databricks secrets create-scope airbricks
  
• サービスプリンシパルのシークレットを保存。これはモデルエンドポイントが認証するために使われます。これがデモ/テストである場合、あなたのPAT tokenを利用できます。
  databricks secrets put-secret medallioncard databricks_token
databricks secrets put-secret airbricks databricks_token