自社専用LLMを超簡単に作れる検索拡張生成(RAG)搭載クラウド提供サービスAlibaba Qwen入

【仕組】
検索DB(オブジェクト)とLLMをくっつけた製品。簡単に企業のLLMが作れます。
知識は検索DBから取って来るのですが、検索DBを簡単に作ったり読み込めて、LLMに組み込めます。
RAGを活用したことで、回答精度向上に繋がります。
【無料お試し】
https://ef3b2ef51ef5486bdf.gradio.live/
(ID PWお問い合わせください。)
【OnDemandウェビナー15.5分】
【キング・テック専用日本語中国語に強いモデルAlibaba Qwen入り】
当社のビジネス範囲、Perfect完璧に説明してくれました!
【詳細】

blueqat(株)で用意したRAGのマネージドのシステムを外部に提供させていただきます。

これを利用することで、PythonのプログラミングなしでRAGやLLMを利用することができます。

特徴としては、

・ログインするだけで機能が使える

・プログラミングは不要

・必要な機能に制限しているので迷わない

・すぐにLLMを自社に利用できる

Gradio製です。

今回のシステムは、3つの部分で構成されています。

1、ベクトル検索用のDB登録機能

2、ベクトル検索お試し機能

3、RAG利用機能

です。こちらを使うと簡単に企業でRAGをつくることができます。詳しく機能をみます。

1、ベクトル検索用のDB登録

入力側:こちらはウェブサイトのURLを入れることで、そちらのデータを保存します。その際にチャンクという塊に分割をします。そのサイズを指定できます。さらに、前後のつながりを考えた時にオーバーラップと言ってのり代をとってくれます。そのサイズを指定します。

出力側:こちらには、登録されたDBのindex数が表示されます。取り出したデータを分割した数です。また、保存されたDBの名前が出力されます。

2、ベクトル検索お試し機能

こちらは、いま作ったDBを使って類似度を検索できます。RAGでは最初に検索をします。今回は入力したプロンプトから似た文章を5つ似ている順に出力し提供してくれます。

入力側:DB名とクエリと呼ばれるプロンプトです。出力は類似度順に5つ候補が出ます。

3、RAG利用機能

最後にRAGになります。こちらは、作成したDBとプロンプトを使ってさらに調整をして文言を生成できます。

入力側にはDBの名前、テンプレートで検索結果を含めたプロンプトのテンプレートを作り、最後にクエリを入れて検索をします。出力はRAGを利用した言語生成の結果がかえります。

弊社ではGPUの環境も提供していますが、今回はマネージドなので何も考えずにたくさん試せます。非常に便利なので、ぜひお問い合わせください。GPUを利用している関係で今回は企業への有償提供となっています。ご了承ください。

【提供価格】

ご相談承ります。