https://akenji3.github.io/tags/rag/ Recent content in RAG on akenji's lab Hugo ja Sun, 27 Oct 2024 00:00:00 +0000 https://akenji3.github.io/post/20241027_hyde/ Sun, 27 Oct 2024 00:00:00 +0000 https://akenji3.github.io/post/20241027_hyde/ <h2 id="はじめに">はじめに</h2> <p>HyDE（Hypothetical Document Embeddings）というRAGを改善する手法を使ったRAGを構築した。 この投稿では、HyDEを試した内容をまとめた。 使用するLLMは、コストを抑えるためgpt-4o-miniを使用した。</p> https://akenji3.github.io/post/20240815_rag/ Thu, 15 Aug 2024 00:00:00 +0000 https://akenji3.github.io/post/20240815_rag/ <h2 id="はじめに">はじめに</h2> <p>昨日までに、Wikipediaから天文関連の項目を抽出し、RAG向けにベクトルデータベースとキーワードベースを作成した。ここでは、それらのデータベースを使って、RAGシステムを構築する。</p> <p>使用するLLMは、ChatGPT（gpt-4o）とLlama-3-ELYZA-JP-8Bを使う。</p> https://akenji3.github.io/post/20240814_rag_database/ Wed, 14 Aug 2024 00:00:00 +0000 https://akenji3.github.io/post/20240814_rag_database/ <h2 id="はじめに">はじめに</h2> <p>昨日作成した<a href="https://akenji3.github.io/post/20240813_wikipedia_dump/">テキストデータ</a>からRAGで使えるデータベースを作成し、数個の特定文字列を用意し、それを検索して評価する。</p> https://akenji3.github.io/post/20240813_wikipedia_dump/ Tue, 13 Aug 2024 00:00:00 +0000 https://akenji3.github.io/post/20240813_wikipedia_dump/ <h2 id="モチベーション">モチベーション</h2> <p>LangChainを使ってRAGを試しているのだが、確認用に使用するデータに何を使おうかと考えていたところ、wikipediaのダンプデータを使うことにした。全体ではボリュームを大きいので、自分の興味のある天文関係のカテゴリーのデータを使うことにした。</p> <p>ここでは、wikipediaダンプデータから特定のカテゴリーのデータのみを取り出す一連の手順をまとめた。</p> https://akenji3.github.io/post/20240525_llamaindex_rag/ Sat, 25 May 2024 00:00:00 +0000 https://akenji3.github.io/post/20240525_llamaindex_rag/ <h2 id="モチベーション">モチベーション</h2> <p>Chatbot UIを試した<a href="https://akenji3.github.io/post/20240506_llamaserver/">この投稿</a>で、今後挑戦したいことの一つにRAG（Retrieval Augmented Generation）との連携と述べた。この投稿ではLlamaIndexを使ってRAGを実現する方法についてまとめた。</p> <p>実は昨年末にLangchainを使ってRAGを試してみた。その後、LlamaIndexとのキーワードを良く聞いてきたので、今回LlamaIndexを使ってRAGを実現することにした。</p>