まるっとワーク

データ分析・電子工作など気になることを残していきます

LLM

業務でのLLM活用検討とプロンプティングの難しさ

LLM

業務でのLLM利活用を想定した取り組みの中で、プロンプティングの難しさに直面したので、試したことをまとめます。 目次 業務でのLLM利活用について 「書類の自動チェックする」システムの作成 とりあえずやってみる 使用するモデルと実施方法 用意したデー…

Cloud9でコンテナを作成、ECR + App Runnerでデプロイ(Python Flaskアプリ)

今まで、WEBアプリをデプロイするときは、Githubにコードをアップロードして、GCP Cloud RunやAWS App Runnerサービスを用いて、Githubから直接デプロイ(サービス内でコンテナ化)をしていました。ただ、仕事で使うアプリなどは、コード自体もあまり晒したく…

Google Gemini APIを活用したアイデア創出アプリの作成(Gemini API + Gradio + GCP Cloud Rrun)

LLMの活用事例を考える中で、LLMにアイデア出しを手助けしてもらえたら嬉しいなぁと思いました! ただ、「○○の課題解決に関するアイデアを出して」というと、そこそこは出ますが、結構考え方が1方向だったり、結構同じアイデアばかりだったりして、ちょっと…

LLM GemmaのFine tuningとRAGを試してみた

LLM

オープンソース型のLLMであるGemmaがGoogleから先月発表されました。 これは、商用利用や再配布が可能であることから、個人的な都合での様々な用途で使えるだろうなと考えたので、Fine tuning、RAGでの利用を試してみました。 ai.google.dev 公式サイトの方…

凝ったGPTsを作る!(自作APIで差をつける)

GPT Storeが使えるようになり、注目を集めるGPTsを使ってみると、機能が洗練されているなぁ、と驚きます!各GPTには独自の機能とオリジナリティが備わっており、「自分もこのようなものを作りたい」という気持ちが湧き上がってきます。 しかし、ただプロンプ…

langChainを用いた簡単チャットアプリの作成

LangChainは、Large Language Models(LLM)を使ったアプリケーション開発を容易にするためのフレームワークです。LLMと会話をする際に会話履歴の保管しておく機能や、Agentと呼ばれる機能等、自身で色々と書かないと実現できなかったことが簡単にできる所が…

ChatGPT My GPTsを作って気になったこと

LLM

個人のニーズに合わせてカスタマイズ可能なChatGPTであるGPTs(ジーピーティーズ)、かなり簡単に作成できるのですが、制御は結構難しい・・ 色々と作成して気になったこと、気を付けるべきポイントについて、この記事でまとめます。 目次 GPTsの作り方/共有…