AI Interaction System【RJ01372559】【crispumworks】

LLM for Unityを使用してローカル環境でLLMサーバーを構築しています。
※CPUとGPU共にベンチマークソフト程度の負荷がかかります。
LLM言語モデル(.gguf)が必要です。Hugging Faceなどから取得できます。
※Llama-3-ELYZA-JP-8B-q4_k_m.gguf(約5GByte)辺りの使用を想定しています。

// 最低限の設定など
Windows10以降
展開して作成されたフォルダ(AIIS)を適当な場所に保存、AIISAIIS_DataStreamingAssetsLLMModels内にggufファイルを格納してください。
自動的にアタッチされます。
AIIS.exeを実行後、StartボタンでLLMサーバーが起動します。初回生成時は数分程度かかると思います。

// その他機能
LLM管理、プロンプトの保存と管理、アバター呼び出しなど。

// 2025/04/15 AIIS 0.101 に更新しました。
・historyDataの管理機能。データの上限値を設定することで、上限値を超えた部分は古い履歴から削除されます。
・LLMパラメータ管理機能。現在値の読み込み、編集、保存機能を追加しました。