LLM

LLM
LLMのご紹介06新着!!

今話題の日本産LLMのABEJA-Qwen2.5-32B-base-jp-v0.1のご紹介です。なぜかLLM-Doghouseでも実行できました。 34Bと大きめなのでQ4_K_Sまで落として実行しています。コンテキスト […]

続きを読む
LLM
LLMのご紹介05

gemma-3をご紹介したいところですがLLava待ちなので一旦中止です。今回ご紹介したいLLMはAyla-Light-12B-v2です。ベースはmistralです。 gemma-2、3と違い日本語に違和感がありません。 […]

続きを読む
LLM
LLamaSharpのgemma3対応の状況

LLamaSharpのgemma3対応の状況ですがビルド直前のようです。週末ぐらい?かなあ…LLavaをどのように組み込むか考え中。リリースされたらとりあえずコンパイルのみで公開する予定です。LLamaSharpの開発に […]

続きを読む
LLM
gemma3出ましたね

大好きなgemmaの最新バージョンが出ましたね。残念ながらLLamaSharpがまだ対応できていないのでLLM Doghouseではまだ扱うことはできません。たぶんマルチモーダルなので対応に結構時間かかるのかも・・・とは […]

続きを読む
LLM
LLMのご紹介04

はじめに LLama OMNIが出たので音声会話プログラムをわざわざ作らなくてもよくなりそうです。できたらgemma2も音声つけてほしいな、それってgemini(ジェミナイ)じゃん。さてLLMのご紹介Part4です。今回 […]

続きを読む
LLM
LLMのご紹介03

最近出たElyzaちゃんのLlama3のご紹介です。本来の目的や使い方ではないのであまり参考にしないでください^^;(Lm Studioで「Llama-3-ELYZA-JP-8B」で検索) 読み込みに結構時間がかかります […]

続きを読む
LLM
LLMのご紹介02

今回、ご紹介するのはあの有名な「ELYZA-japanese-Llama-2-7b」です。Q8_0を試してみます。賢いのは定評がありますがXXXの方はいけるのでしょうか? System Promptはいつもの設定で下記の […]

続きを読む
LLM
LLMのご紹介01

前回の記事でArrowPro-7B-RobinHoodのご紹介をしましたが「ArrowPro-7B-KillerWhale」というのを発見しましたの試食していきます。LM Studioで「ArrowPro-7B-Kill […]

続きを読む