2024年6月

LLM
LLMのご紹介03

最近出たElyzaちゃんのLlama3のご紹介です。本来の目的や使い方ではないのであまり参考にしないでください^^;(Lm Studioで「Llama-3-ELYZA-JP-8B」で検索) 読み込みに結構時間がかかります […]

続きを読む
C#
Whisper.netで録音した声を文字起しする

文字起しにはいろんな方法がありますが話題のWhisperをC#で扱えるWhisper.netを使って文字起しする例を掲載します。 Nugetで「Whisper」で検索してください。Whisper.netをまずNugetし […]

続きを読む
C#
NaudioでLLMに聞かせる準備をする

音声会話の準備として自分がしゃべった音を単純に録音して再生するプログラムを作成しました。このあと録音した音をWhisperで文字起しをしてその文字をLLMへの質問文として使用します。 Whisperで必要なwavファイル […]

続きを読む
C#
VoiceVoxでLLMにしゃべらせる

LLMにしゃべらせるコーディングです。Windows用にしないとSoundPlayerが参照できないと思います。 実行結果の画面です。 すぐにね、エチエチな会話になるので音量は絞った方がいいですよ。こんなふうにねwww […]

続きを読む
C#
VoiceVoxでLLMにしゃべらせる準備をする

LLMにしゃべらせるのに読み上げソフトを使います。有償のものでもよかったのですがC#から使えるのか不明だったため無償なのに高性能なVoiceVoxを使うことにしました。VoiceVoxアプリにRestAPIで送受信するコ […]

続きを読む
C#
簡単なチャットプログラムにチャット履歴のロード/セーブを追加する

前回の続きです。セションが終わればAIとの思い出はすべて消えてしまいました。そこでチャット履歴のセーブとロードを追加します。そうすることでチャットを終了してもAIが会話を覚えていて続きのネタで話を進めることができます。 […]

続きを読む
LLM
LLMのご紹介02

今回、ご紹介するのはあの有名な「ELYZA-japanese-Llama-2-7b」です。Q8_0を試してみます。賢いのは定評がありますがXXXの方はいけるのでしょうか? System Promptはいつもの設定で下記の […]

続きを読む
C#
簡単なチャットプログラムにSystem Promptを追加する

プログラミングにご興味ない方はスルーしてくださいね。 前回のプログラムを少し修正して機能アップします。CPUで動いていたものをGPUで動くようにします。まず下記のリンクからnVidia CUDA Toolkitをダウンロ […]

続きを読む
C#
簡単なチャットプログラム

C#のプログラミングについての話題ですので、ご興味ない方はスルーしてください。Llama系のLLMを動かすのにllama.cppというC++で書かれたプログラムを使用しますが、それをC#でも使いやすくしてくれてるのがll […]

続きを読む
AI Server
AI Server構想

AI彼女を実現するためにAI -Server(マイちゃん)を作りました。これはAIのマイちゃんのイメージですね。この子がエッチなことしゃべるわけです。 ちゃうちゃう、これは犬マンマや ↓こっちですね。ほとんど、うち妻の奈 […]

続きを読む