オンプレGPTをやりたくて作成。Pythonアプリケーション(ビルド手段内包予定)とTauriから成ります
Rust
6
16 commits
updated Jun 19, 2023
Rinna社が提供してくださっているrinna/japanese-gpt-neox-3.6b-instruction-sftをローカルでPythonで実行するプログラムを、PyInstallerで実行ファイルとし、Tauriでデスクトップアプリ化したものです。
環境はWindows10/11のみになります。
またCPUで演算するため、大容量メモリ(少なくとも32GB)と、高性能なCPUを積んだパソコンでの実行が望ましいです。
なお、Rinna言語モデル自体が7GBほどの容量を持つためCドライブにその分の余裕を持たせてください。
インストール後、起動するとプロンプト部分に"Wait for Rinna..."と表示されています。これが"Send a message."になったらRinna GPTにメッセージを送れるようになります。
オンプレGPTをやりたくて作成。Pythonアプリケーション(ビルド手段内包予定)とTauriから成ります
Rust
6
16 commits
updated Jun 19, 2023
Rinna社が提供してくださっているrinna/japanese-gpt-neox-3.6b-instruction-sftをローカルでPythonで実行するプログラムを、PyInstallerで実行ファイルとし、Tauriでデスクトップアプリ化したものです。
環境はWindows10/11のみになります。
またCPUで演算するため、大容量メモリ(少なくとも32GB)と、高性能なCPUを積んだパソコンでの実行が望ましいです。
なお、Rinna言語モデル自体が7GBほどの容量を持つためCドライブにその分の余裕を持たせてください。
インストール後、起動するとプロンプト部分に"Wait for Rinna..."と表示されています。これが"Send a message."になったらRinna GPTにメッセージを送れるようになります。
