LLM Doghouse0.0.1.4予告
今回のアップデートの主な内容は、コード内で定数化していたシステムプロンプトをすべて外だしにして変更できるようにしました。その結果、言語が変わっても動作が可能になります。変にさわってしまうとうまく動かなくなりますので空白にするとデフォルト値(日本語)が復活するようにしてあります。
チャット編集画面では、Antipromptの項目を追加しました。Llama3系のLLMが動作しない場合は、「User:」を「User:, <|eot_id|>」に変更します。細かいところではDarkLight、Discorad Bot、Deleteのトグルのデザインを変更しました。Windowの上の白い部分がなくなりました。音声会話が無言で反応しなくなるバグを修正しました。
システム設定は、冒頭のとおり定数で送っていたシステムプロンプトを変更できるようにしました。要約やLlavaのシステムプロンプト、AntiPromptが設定できます。
新たに共通設定を追加しました。共通システムプロンプトなのでキャラクターのシステムプロンプトに追加する形になります。すべて外だしと言いましたが今日日付だけは定数にしています。言語対応のためにどうしても外に出せなかったからです。日付の言語対応例)ja-JP 2024/12/11 en-US 12/11/2024
今回、ボイスコマンドと音声会話のタイマーをつけました。ボイスコマンドは、音声モードのON/OFF、アプリの終了を声で指示ができます。個別にON/OFFが可能になっています。タイマーは会話無しの状態で指定された時間(秒)を超過した場合に音声会話を自動でOFFにします。
なお、ボイスコマンドはSystem.Speachを使っているため外部へは出ていきません(たぶん....)心配な人はOFFにしてください。
説明に書くのを忘れていましたが起動パラメータを指定するとLLMをロードした状態で起動できます。
例)llm_Doghouse.exe /ch1 チャットキャラ1番で起動
言語の選択ができますが、ボイスコマンドと日付用です。