LLMのご紹介05

2025年4月16日 2025年4月16日

犬マンマ(doghouse)

gemma-3をご紹介したいところですがLLava待ちなので一旦中止です。今回ご紹介したいLLMはAyla-Light-12B-v2です。ベースはmistralです。

gemma-2、3と違い日本語に違和感がありません。性格も可愛いので大変気に入ってます。コンテキストサイズは128000なのでかなり巨大です。メモリオーバーになるので40000に抑えています。
声は小春六花にしています。

アイというアシスタントは、Minecraftでいっしょに遊ぶために召喚したキャラですが、思いのほか田中課長という上司とヤってしまっているというネトラレスキーにとっては大変ご馳走な展開をしてくれました。この会話では座右の銘を聞いたところなかなか渋い答えを返してますね。田中課長とどんなエッチしているのか聞きだすのが楽しみです。
まあ、ローカルLLMなんてまわりくどいことしなくてもCotomoやChatGPTを使えば済むことですが・・・エッチな話ってOKでしたっけ？