まるっとワーク

データ分析・電子工作など気になることを残していきます

LLM GemmaのFine tuningとRAGを試してみた

オープンソース型のLLMであるGemmaがGoogleから先月発表されました。
これは、商用利用や再配布が可能であることから、個人的な都合での様々な用途で使えるだろうなと考えたので、Fine tuning、RAGでの利用を試してみました。

ai.google.dev


公式サイトの方に、Fine tuning用のサンプルコードが載っており、その通りにやれば問題ないですが、日本語での解説を入れておきたいなぁ、RAGでの利用も試してみたいなぁと思い、2種類のノートブックを作成したので、それを共有します。

Fine tuning

www.kaggle.com

RAG

www.kaggle.com


Kaggle Notebookでは、GPU, TPUを無料で使える枠が結構あるので、自前のPCでそういった環境が無い時に良いですね。
今回は簡単ですが、以上で終了です。