Open WebUIをフロントエンドにしてollamaのLLMと会話する
November 23, 2024に投稿
| Kenji Arai
• 翻訳:en
はじめに
昨日のこの投稿でollamaをdockerコンテナで起動し、JupyterLabからLLMを使うことについてまとめた。この投稿では、Open WebUIをコンテナで立ち上げ、それをフロントエンドとして、手元のブラウザから接続して、ollamaのLLMを使うことについてまとめる。
[続きを読む]
ollamaを使ってローカル環境でLLMを動かす
November 22, 2024に投稿
| Kenji Arai
• 翻訳:en
モチベーション
この投稿で、ナレッジグラフを構築できるLLMは、OpenAIとMistral(何もAPI経由)であると述べた。ネットでは、この記事のようにollamaを使ってGraphRAG環境を構築している事例を見かけるようになった。
自分もローカル環境でナレッジグラフを構築することにチャレンジしたい。今回の投稿では、ollamaをインストールするまでをまとめる。
[続きを読む]
neo4jライブラリを使ったハイブリッドGraphRAG
November 10, 2024に投稿
| Kenji Arai
• 翻訳:en
はじめに
昨日のこの投稿の続きで、ハイブリッドな検索を使ったGraphRAGシステムの構築をまとめた。
LangChainのLCELのようにパイプ「|」を繋げていくイメージで考えていたが、想像していたものとは違った。以下で確かめて欲しい。
[続きを読む]
neo4jライブラリを使ったGraphRAG
November 9, 2024に投稿
| Kenji Arai
• 翻訳:en
はじめに
この投稿では、neo4jを用いてナレッジグラフを作成し、ナレッジグラフを外部情報とするRAGシステムを構築した。
この投稿では、neo4jライブラリを使って、簡単にRAGシステムを構築する方法を試したので、その内容をまとめた。
[続きを読む]
Amazon NeptuneとLangChainでGraphRAGを構築(未完成)
November 2, 2024に投稿
| Kenji Arai
• 翻訳:en
モチベーション
この投稿では、Neo4jとLangChainでGraphRAGを試しに構築した。自分は、この本でbedrockを勉強中。せっかくAWSに触れ始めたので、AWS上にGraphRAGを構築することにした。
[続きを読む]
HyDE手法によるRAGシステムを構築
October 27, 2024に投稿
| Kenji Arai
• 翻訳:en
はじめに
HyDE(Hypothetical Document Embeddings)というRAGを改善する手法を使ったRAGを構築した。
この投稿では、HyDEを試した内容をまとめた。
使用するLLMは、コストを抑えるためgpt-4o-miniを使用した。
[続きを読む]
MistaralAIのモデルがKnowledge graphsに使えるか?
September 29, 2024に投稿
| Kenji Arai
• 翻訳:en
モチベーション
半月前のこの投稿で、ナレッジグラフを使うために、6つのLLMを試した。そこで書いた通り、現時点で使えるLLMは、OpenAIとMistralである。 そこで、MistarlAIのLLMを自分のPC(ローカル環境)で動かしてみた。実際には、ナレッジグラフには使えないことが分かった。
この投稿では、Langchain経由でMistaralAIをAPI経由で使って、ナレッジグラフで使えるか試してみたので、その内容をまとめた。
[続きを読む]
knowledge graphsを使ったRAGへ初めの一歩
September 16, 2024に投稿
| Kenji Arai
• 翻訳:en
はじめに
少し前のこの投稿で、ナレッジグラフを使うため、neo4jをローカル環境(dockerコンテナとして)インストールしたことについて述べた。
この投稿ではネット記事を参考にしながら、簡単なナレッジグラフを構築し、RAGとして使用してみたので、その内容についてまとめたい。今回はネット記事をそのまま試したので初めの一歩とした。
[続きを読む]
PLaMo β版を試す
September 1, 2024に投稿
| Kenji Arai
• 翻訳:en
はじめに
8/8にこの記事を読んだ。それによると、GPT-4を超える日本語性能を持つLLMをPreferred Networksの子会社(PFE)が、商用版提供に先駆けて無料トライアルの提供開始すると。
早速、無料トライアルに申し込んで、受付完了のメールを受け取って、アカウント発行の通知を待っていた。通知メールは、8/9に受け取っていたのだが、自分が見過ごしてしまって、申し込んだこともすっかり忘れていた。最近、この記事を読んで、無料トライアルの件を思い出し、メールを再確認し、アカウント通知を見つけた。
この投稿では、無料トライアル版を試した内容をまとめる。
[続きを読む]
neo4jをインストールしてknowledge graphsを試す
August 31, 2024に投稿
| Kenji Arai
• 翻訳:en
モチベーション
これまで、FAISSやBM25を使ってRAGシステムを構築した。ベクトル検索は比較的簡単に構築できるが、必要な情報が"k"個の文書にない場合もあり、精度向上策を調べていた。たまたまこの記事を読んで、ナレッジグラフに興味を持って、自分でも試してみようと思った。
この投稿では、ナレッジグラフを使うため、nao4jをローカル環境にインストールし、ブラウザから使ってみるまでをまとめる。
[続きを読む]