対話型生成AIチャットツールといえばRAGをすぐにイメージするのですが、基本的にはRAGは自社構築を行うのが通常です。
ChatGPT、Gemini、ClaudeなどのAIはAIなどが使える場合が多いです。RAG（Retrieval-Augmented Generation）＝検索拡張生成と言いますが、大規模言語モデル（LLM）よりさらに人が使いやすいように進化しているものと理解すればいいかと思います。
バランスが難しいのはありますが、少年が好むようなバトルある漫画を教えて、と簡単なプロンプトを書いた際に、ここで出てくるのが
〇 ドラゴンボール
〇 ワンピース
はよしとしても
△ バキ
△ 範馬刃牙 は少年という意味で言うとちょっと青年寄りの気がするのをカバーできる、というようなこのニュアンスがRAG要素に近いとも言えます。抽象的な言葉の意味合いを読み取ってさらに細かく抽出ができる部分と、これが進化するのでさらに洗練された情報が出てくるようになるわけです。よくある簡単な
「大阪市北区で夜中も空いているガソリンスタンド教えて」などはスムーズに出てきますし、これならあとは廃業なってるかどうかの情報の鮮度だけ大事にすればニーズに合いますが、RAGが活躍するのはさらに先の部分であって、運送会社などで「会社で提携しているガソリンスタンドのうち、現状最も安くて混まないところ教えて」になると、限定された情報からさらに比較検討が必要になるところを回答を導く、わけです。そしてこの「会社で提携しているガソリンスタンド」データを自社ドキュメントなど読み込ませることで、回答を得られるというのがRAGになってきます。よって社内での対話型生成AIチャットツールに活用できるわけです。
