English
このアクセラレータについて
「Retrieval Augmented Generation (RAG) は、大規模な言語モデルを「コンテキスト認識」できるようにする業界標準の方法として広まっています。しかし、多くの文書を含む大規模ベクターデータベースと対話することで解決できないテキスト生成の問題も存在します。これらの問題では、クエリの時点で未知のコンテキストが必要であり、しばしば既存のベクターストアとは関連がありません。これらは通常、単一の文書に関する質問で、実行時に文書を指定できることが望ましい挙動です。
標準的なRAGアプローチである既存のベクターストアへのクエリングに従う代わりに、このアクセラレータはファイルを引数として受け取り、その場でコンテキストに基づいた回答を提供するデプロイメントを作成します。DataRobotはこの手法を「Just In Time Retrieval」、略してJITRと呼んでいます。」
