mirror of
https://github.com/SillyTavern/SillyTavern.git
synced 2025-06-05 21:59:27 +02:00
Merge branch 'staging' into qr-rewrite
This commit is contained in:
Cohee
@@ -9,3 +9,6 @@ trim_trailing_whitespace = true
|
||||
charset = utf-8
|
||||
indent_style = space
|
||||
indent_size = 4
|
||||
|
||||
[*.md]
|
||||
trim_trailing_whitespace = false
|
||||
|
||||
314
.github/readme-ja_jp.md
vendored
Normal file
314
.github/readme-ja_jp.md
vendored
Normal file
@@ -0,0 +1,314 @@
|
||||
[English](readme.md) | [中文](readme-zh_cn.md) | 日本語
|
||||
|
||||
|
||||
|
||||
モバイルフレンドリーなレイアウト、マルチAPI（KoboldAI/CPP、Horde、NovelAI、Ooba、OpenAI、OpenRouter、Claude、Scale）、VN ライクな Waifu モード、Stable Diffusion、TTS、WorldInfo（伝承本）、カスタマイズ可能な UI、自動翻訳、あなたにとって必要とする以上のプロンプトオプション＋サードパーティの拡張機能をインストールする機能。
|
||||
|
||||
[TavernAI](https://github.com/TavernAI/TavernAI) 1.2.8 のフォークに基づいています
|
||||
|
||||
## 重要ニュース！
|
||||
|
||||
1. 私たちは[ドキュメント website](https://docs.sillytavern.app/) を作成し、ほとんどの質問にお答えしています。
|
||||
|
||||
2. アップデートしたらに拡張機能を見失った？リリースバージョン 1.10.6 以降、これまで内蔵されていた拡張機能のほとんどがダウンロード可能なアドオンに変更されました。ダウンロードは、拡張機能パネル（トップバーのスタックドブロックアイコン）にある内蔵の "Download Extensions and Assets" メニューから行えます。
|
||||
|
||||
### Cohee、RossAscends、SillyTavern コミュニティがお届けします
|
||||
|
||||
### SillyTavern または TavernAI とは何ですか？
|
||||
|
||||
SillyTavern は、あなたのコンピュータ（および Android スマホ）にインストールできるユーザーインターフェイスで、テキスト生成 AI と対話したり、あなたやコミュニティが作成したキャラクターとチャットやロールプレイをすることができます。
|
||||
|
||||
SillyTavern は TavernAI 1.2.8 のフォークで、より活発な開発が行われており、多くの主要な機能が追加されています。現時点では、これらは完全に独立したプログラムと考えることができます。
|
||||
|
||||
### ブランチ
|
||||
|
||||
SillyTavern は、すべてのユーザーにスムーズな体験を保証するために、2 つのブランチシステムを使用して開発されています。
|
||||
|
||||
* release -🌟 **ほとんどのユーザーにお勧め。** これは最も安定した推奨ブランチで、メジャーリリースがプッシュされた時のみ更新されます。大半のユーザーに適しています。
|
||||
* staging - ⚠️ **カジュアルな使用にはお勧めしない。** このブランチには最新の機能がありますが、いつ壊れるかわからないので注意してください。パワーユーザーとマニア向けです。
|
||||
|
||||
git CLI の使い方に慣れていなかったり、ブランチが何なのかわからなかったりしても、心配はいりません！リリースブランチが常に望ましい選択肢となります。
|
||||
|
||||
### Tavern 以外に何が必要ですか？
|
||||
|
||||
Tavern は単なるユーザーインターフェイスなので、それだけでは役に立ちません。ロールプレイキャラクターとして機能する AI システムのバックエンドにアクセスする必要があります。様々なバックエンドがサポートされています： OpenAPI API (GPT)、KoboldAI (ローカルまたは Google Colab 上で動作)、その他。詳しくは [FAQ](https://docs.sillytavern.app/usage/faq/) をご覧ください。
|
||||
|
||||
### Tavern を実行するには、強力な PC が必要ですか？
|
||||
|
||||
Tavern は単なるユーザーインターフェイスであり、必要なハードウェアはごくわずかです。パワフルである必要があるのは、AI システムのバックエンドです。
|
||||
|
||||
## モバイルサポート
|
||||
|
||||
> **注**
|
||||
|
||||
> **このフォークは Termux を使って Android スマホでネイティブに実行できます。ArroganceComplex#2659 のガイドを参照してください:**
|
||||
|
||||
<https://rentry.org/STAI-Termux>
|
||||
|
||||
## ご質問やご提案
|
||||
|
||||
### コミュニティ Discord サーバーを開設しました
|
||||
|
||||
サポートを受け、お気に入りのキャラクターやプロンプトを共有する:
|
||||
|
||||
### [参加](https://discord.gg/RZdyAEUPvj)
|
||||
|
||||
***
|
||||
|
||||
開発者と直接連絡を取る:
|
||||
|
||||
* Discord: cohee または rossascends
|
||||
* Reddit: /u/RossAscends または /u/sillylossy
|
||||
* [GitHub issue を投稿](https://github.com/SillyTavern/SillyTavern/issues)
|
||||
|
||||
## このバージョンには以下が含まれる
|
||||
|
||||
* 大幅に修正された TavernAI 1.2.8 (コードの 50% 以上が書き換えまたは最適化されています)
|
||||
* スワイプ
|
||||
* グループチャット: キャラクター同士が会話できるマルチボットルーム
|
||||
* チャットチェックポイント / ブランチ
|
||||
* 高度なKoboldAI / TextGen生成設定と、コミュニティが作成した多くのプリセット
|
||||
* ワールド情報サポート: 豊富な伝承を作成したり、キャラクターカードにトークンを保存したりできます
|
||||
* [OpenRouter](https://openrouter.ai) 各種 API(Claude、GPT-4/3.5 など)の接続
|
||||
* [Oobabooga's TextGen WebUI](https://github.com/oobabooga/text-generation-webui) API 接続
|
||||
* [AI Horde](https://horde.koboldai.net/) 接続
|
||||
* プロンプト生成フォーマットの調整
|
||||
|
||||
## 拡張機能
|
||||
|
||||
SillyTavern は拡張性をサポートしており、[SillyTavern Extras API](https://github.com/SillyTavern/SillyTavern-extras) を介していくつかの追加AIモジュールをホストしています
|
||||
|
||||
* 作者ノート/キャラクターバイアス
|
||||
* キャラクターの感情表現（スプライト）
|
||||
* チャット履歴の自動サマリー
|
||||
* チャットに画像を送り、AI が内容を解釈する
|
||||
* Stable Diffusion 画像生成 (5 つのチャット関連プリセットと 'free mode')
|
||||
* AI 応答メッセージの音声合成（ElevenLabs、Silero、または OS のシステム TTS 経由）
|
||||
|
||||
含まれている拡張機能の完全なリストとその使い方のチュートリアルは [Docs](https://docs.sillytavern.app/) にあります。
|
||||
|
||||
## RossAscends による UI/CSS/クオリティオブライフの調整
|
||||
|
||||
* iOS 用に最適化されたモバイル UI で、ホーム画面へのショートカット保存とフルスクリーンモードでの起動をサポート。
|
||||
* ホットキー
|
||||
* Up = チャットの最後のメッセージを編集する
|
||||
* Ctrl+Up = チャットで最後のユーザーメッセージを編集する
|
||||
* Left = 左スワイプ
|
||||
* Right = 右スワイプ (注: チャットバーに何か入力されている場合、スワイプホットキーが無効になります)
|
||||
* Ctrl+Left = ローカルに保存された変数を見る（ブラウザのコンソールウィンドウにて）
|
||||
* Enter (チャットバー選択時) = AI にメッセージを送る
|
||||
* Ctrl+Enter = 最後の AI 応答を再生成する
|
||||
|
||||
* ユーザー名の変更と文字の削除でページが更新されなくなりました。
|
||||
|
||||
* ページロード時に API に自動的に接続するかどうかを切り替えます。
|
||||
* ページの読み込み時に、最近見た文字を自動的に読み込むかどうかを切り替えます。
|
||||
* より良いトークンカウンター - 保存されていないキャラクターに対して機能し、永続的なトークンと一時的なトークンの両方を表示する。
|
||||
|
||||
* より良い過去のチャット
|
||||
* 新しいチャットのファイル名は、"(文字) - (作成日)" という読みやすい形式で保存されます
|
||||
* チャットのプレビューが 40 文字から 300 文字に増加。
|
||||
* 文字リストの並べ替えに複数のオプション（名前順、作成日順、チャットサイズ順）があります。
|
||||
|
||||
* デフォルトでは、左右の設定パネルはクリックすると閉じます。
|
||||
* ナビパネルのロックをクリックすると、パネルが開いたままになり、この設定はセッションをまたいで記憶されます。
|
||||
* ナビパネルの開閉状態もセッションをまたいで保存されます。
|
||||
|
||||
* カスタマイズ可能なチャット UI:
|
||||
* 新しいメッセージが届いたときにサウンドを再生する
|
||||
* 丸型、長方形のアバタースタイルの切り替え
|
||||
* デスクトップのチャットウィンドウを広くする
|
||||
* オプションの半透明ガラス風パネル
|
||||
* 'メインテキスト'、'引用テキスト'、'斜体テキスト'のページカラーをカスタマイズ可能。
|
||||
* カスタマイズ可能な UI 背景色とぼかし量
|
||||
|
||||
## インストール
|
||||
|
||||
*注: このソフトウェアはローカルにインストールすることを目的としており、colab や他のクラウドノートブックサービス上では十分にテストされていません。*
|
||||
|
||||
> **警告**
|
||||
|
||||
> WINDOWS が管理しているフォルダ（Program Files、System32 など）にはインストールしないでください
|
||||
|
||||
> START.BAT を管理者権限で実行しないでください
|
||||
|
||||
### Windows
|
||||
|
||||
Git 経由でのインストール（更新を容易にするため推奨）
|
||||
|
||||
きれいな写真付きのわかりやすいガイド:
|
||||
<https://docs.sillytavern.app/installation/windows/>
|
||||
|
||||
1. [NodeJS](https://nodejs.org/en) をインストールする(最新の LTS 版を推奨)
|
||||
2. [GitHub Desktop](https://central.github.com/deployments/desktop/desktop/latest/win32) をインストールする
|
||||
3. Windows エクスプローラーを開く (`Win+E`)
|
||||
4. Windows によって制御または監視されていないフォルダを参照または作成する。（例: C:\MySpecialFolder\）
|
||||
5. 上部のアドレスバーをクリックし、`cmd` と入力して Enter キーを押し、そのフォルダーの中にコマンドプロンプトを開きます。
|
||||
6. 黒いボックス（コマンドプロンプト）がポップアップしたら、そこに以下のいずれかを入力し、Enter を押します:
|
||||
|
||||
* Release ブランチの場合: `git clone https://github.com/SillyTavern/SillyTavern -b release`
|
||||
* Staging ブランチの場合: `git clone https://github.com/SillyTavern/SillyTavern -b staging`
|
||||
|
||||
7. すべてをクローンしたら、`Start.bat` をダブルクリックして、NodeJS に要件をインストールさせる。
|
||||
8. サーバーが起動し、SillyTavern がブラウザにポップアップ表示されます。
|
||||
|
||||
ZIP ダウンロードによるインストール（推奨しない）
|
||||
|
||||
1. [NodeJS](https://nodejs.org/en) をインストールする(最新の LTS 版を推奨)
|
||||
2. GitHub のリポジトリから zip をダウンロードする。(`ソースコード(zip)` は [Releases](https://github.com/SillyTavern/SillyTavern/releases/latest) から入手)
|
||||
3. お好きなフォルダに解凍してください
|
||||
4. `Start.bat` をダブルクリックまたはコマンドラインで実行する。
|
||||
5. サーバーがあなたのためにすべてを準備したら、ブラウザのタブを開きます。
|
||||
|
||||
### Linux
|
||||
|
||||
1. `node -v` を実行して、Node.js v18 以上（最新の [LTS バージョン](https://nodejs.org/en/download/) を推奨）がインストールされていることを確認してください。
|
||||
または、[Node Version Manager](https://github.com/nvm-sh/nvm#installing-and-updating) スクリプトを使用して、迅速かつ簡単に Node のインストールを管理します。
|
||||
2. `start.sh` スクリプトを実行する。
|
||||
3. お楽しみください。
|
||||
|
||||
## API キー管理
|
||||
|
||||
SillyTavern は API キーをサーバーディレクトリの `secrets.json` ファイルに保存します。
|
||||
|
||||
デフォルトでは、入力後にページをリロードしても、フロントエンドには表示されません。
|
||||
|
||||
API ブロックのボタンをクリックして、キーを閲覧できるようにする:
|
||||
|
||||
1. ファイル `config.yaml` で `allowKeysExposure` の値を `true` に設定する。
|
||||
2. SillyTavern サーバを再起動します。
|
||||
|
||||
## リモート接続
|
||||
|
||||
SillyTavern をスマホで使用しながら、同じ Wifi ネットワーク上で ST サーバーを PC で実行したい場合に使用します。
|
||||
|
||||
しかし、これはどこからでもリモート接続を許可するために使用することができます。
|
||||
|
||||
**重要: SillyTavern はシングルユーザーのプログラムなので、ログインすれば誰でもすべてのキャラクターとチャットを見ることができ、UI 内で設定を変更することができます。**
|
||||
|
||||
### 1. ホワイトリスト IP の管理
|
||||
|
||||
* SillyTavern のベースインストールフォルダ内に `whitelist.txt` という新しいテキストファイルを作成します。
|
||||
* テキストエディタでこのファイルを開き、接続を許可したい IP のリストを追加します。
|
||||
|
||||
*個々の IP とワイルドカード IP 範囲の両方が受け入れられる。例:*
|
||||
|
||||
```txt
|
||||
192.168.0.1
|
||||
192.168.0.20
|
||||
```
|
||||
|
||||
または
|
||||
|
||||
```txt
|
||||
192.168.0.*
|
||||
```
|
||||
|
||||
(上記のワイルドカード IP 範囲は、ローカルネットワーク上のどのデバイスでも)
|
||||
|
||||
CIDR マスクも受け付ける（例：10.0.0.0/24）。
|
||||
|
||||
* `whitelist.txt` ファイルを保存する。
|
||||
* TAI サーバーを再起動する。
|
||||
|
||||
これでファイルに指定された IP を持つデバイスが接続できるようになる。
|
||||
|
||||
*注: `config.yaml` にも `whitelist` 配列があり、同じように使うことができるが、`whitelist.txt` が存在する場合、この配列は無視される。*
|
||||
|
||||
### 2. ST ホストマシンの IP の取得
|
||||
|
||||
ホワイトリストの設定後、ST ホストデバイスの IP が必要になります。
|
||||
|
||||
ST ホストデバイスが同じ無線 LAN ネットワーク上にある場合、ST ホストの内部無線 LAN IP を使用します:
|
||||
|
||||
* Windows の場合: ウィンドウズボタン > 検索バーに `cmd.exe` と入力 > コンソールに `ipconfig` と入力して Enter > `IPv4` のリストを探す。
|
||||
|
||||
同じネットワーク上にいない状態で、ホストしているSTに接続したい場合は、STホスト機器のパブリックIPが必要です。
|
||||
|
||||
* ST ホストデバイスを使用中に、[このページ](https://whatismyipaddress.com/)にアクセスし、`IPv4` を探してください。これはリモートデバイスからの接続に使用するものです。
|
||||
|
||||
### 3. リモートデバイスを ST ホストマシンに接続します。
|
||||
|
||||
最終的に使用する IP が何であれ、その IP アドレスとポート番号をリモートデバイスのウェブブラウザに入力します。
|
||||
|
||||
同じ無線 LAN ネットワーク上の ST ホストの典型的なアドレスは以下のようになります:
|
||||
|
||||
`http://192.168.0.5:8000`
|
||||
|
||||
http:// を使用し、https:// は使用しないでください
|
||||
|
||||
### ST をすべての IP に開放する
|
||||
|
||||
これはお勧めしませんが、`config.yaml` を開き、`whitelistMode` を `false` に変更してください。
|
||||
|
||||
SillyTavern のベースインストールフォルダにある `whitelist.txt` が存在する場合は削除（または名前の変更）する必要があります。
|
||||
|
||||
これは通常安全ではないので、これを行う際にはユーザー名とパスワードを設定する必要があります。
|
||||
|
||||
ユーザー名とパスワードは `config.yaml` で設定します。
|
||||
|
||||
ST サーバを再起動すると、ユーザ名とパスワードさえ知っていれば、IP に関係なくどのデバイスでも ST サーバに接続できるようになる。
|
||||
|
||||
### まだ接続できませんか？
|
||||
|
||||
* `config.yaml` で見つかったポートに対して、インバウンド/アウトバウンドのファイアウォールルールを作成します。これをルーターのポートフォワーディングと間違えないでください。そうしないと、誰かがあなたのチャットログを見つける可能性があり、それはマジで止めましょう。
|
||||
* 設定 > ネットワークとインターネット > イーサネットで、プライベートネットワークのプロファイルタイプを有効にします。そうしないと、前述のファイアウォールルールを使っても接続できません。
|
||||
|
||||
## パフォーマンスに問題がありますか？
|
||||
|
||||
ユーザー設定パネルでブラー効果なし（高速 UI）モードを有効にしてみてください。
|
||||
|
||||
## このプロジェクトが好きです！どうすればコントリビュートできますか？
|
||||
|
||||
### やるべきこと
|
||||
|
||||
1. プルリクエストを送る
|
||||
2. 確立されたテンプレートを使って機能提案と課題レポートを送る
|
||||
3. 何か質問する前に、readme ファイルや組み込みのドキュメントを読んでください
|
||||
|
||||
### やらないべきこと
|
||||
|
||||
1. 金銭の寄付を申し出る
|
||||
2. 何の脈絡もなくバグ報告を送る
|
||||
3. すでに何度も回答されている質問をする
|
||||
|
||||
## 古い背景画像はどこにありますか？
|
||||
|
||||
100％ オリジナルコンテンツのみのポリシーに移行しているため、古い背景画像はこのリポジトリから削除されました。
|
||||
|
||||
アーカイブはこちら:
|
||||
|
||||
<https://files.catbox.moe/1xevnc.zip>
|
||||
|
||||
## スクリーンショット
|
||||
|
||||
<img width="400" alt="image" src="https://user-images.githubusercontent.com/18619528/228649245-8061c60f-63dc-488e-9325-f151b7a3ec2d.png">
|
||||
<img width="400" alt="image" src="https://user-images.githubusercontent.com/18619528/228649856-fbdeef05-d727-4d5a-be80-266cbbc6b811.png">
|
||||
|
||||
## ライセンスとクレジット
|
||||
|
||||
**このプログラムは有用であることを願って配布されていますが、いかなる保証もありません;
|
||||
また、商品性または特定目的への適合性についての黙示の保証もありません。
|
||||
詳細は GNU Affero General Public License をご覧ください。**
|
||||
|
||||
* Humi によるTAI Base: 不明ライセンス
|
||||
* Cohee の修正と派生コード: AGPL v3
|
||||
* RossAscends の追加: AGPL v3
|
||||
* CncAnon の TavernAITurbo 改造の一部: 不明ライセンス
|
||||
* kingbri のさまざまなコミットと提案 (<https://github.com/bdashore3>)
|
||||
* city_unit の拡張機能と様々な QoL 機能 (<https://github.com/city-unit>)
|
||||
* StefanDanielSchwarz のさまざまなコミットとバグ報告 (<https://github.com/StefanDanielSchwarz>)
|
||||
* PepperTaco の作品にインスパイアされた Waifu モード (<https:/fugithub.com/peppertaco/Tavern/>)
|
||||
* ピグマリオン大学の皆さん、素晴らしいテスターとしてクールな機能を提案してくれてありがとう！
|
||||
* TextGen のプリセットをコンパイルしてくれた obabooga に感謝
|
||||
* KAI Lite の KoboldAI プリセット: <https://lite.koboldai.net/>
|
||||
* Google による Noto Sans フォント（OFLライセンス）
|
||||
* Font Awesome によるアイコンテーマ <https://fontawesome.com> (アイコン: CC BY 4.0、フォント: SIL OFL 1.1、コード: MIT License)
|
||||
* ZeldaFan0225 による AI Horde クライアントライブラリ: <https://github.com/ZeldaFan0225/ai_horde>
|
||||
* AlpinDale による Linux 起動スクリプト
|
||||
* FAQ を提供してくれた paniphons に感謝
|
||||
* 10K ディスコード・ユーザー記念背景 by @kallmeflocc
|
||||
* デフォルトコンテンツ（キャラクターと伝承書）の提供: @OtisAlejandro、@RossAscends、@kallmeflocc
|
||||
* @doloroushyeonse による韓国語翻訳
|
||||
* k_euler_a による Horde のサポート <https://github.com/Teashrock>
|
||||
* [@XXpE3](https://github.com/XXpE3) による中国語翻訳、中国語 ISSUES の連絡先は @XXpE3
|
||||
4
.github/readme-zh_cn.md
vendored
4
.github/readme-zh_cn.md
vendored
@@ -1,4 +1,4 @@
|
||||
[English](readme.md) | 中文
|
||||
[English](readme.md) | 中文 | [日本語](readme-ja_jp.md)
|
||||
|
||||
|
||||
|
||||
@@ -82,7 +82,7 @@ SillyTavern 支持扩展服务，一些额外的人工智能模块可通过 [Sil
|
||||
* 文本图像生成（5 预设，以及 "自由模式"）
|
||||
* 聊天信息的文字转语音（通过 ElevenLabs、Silero 或操作系统的语音生成）
|
||||
|
||||
扩展服务的完整功能介绍和使用教程，请参阅 [Docs](https://docs.sillytavern.app/extras/extensions/)。
|
||||
扩展服务的完整功能介绍和使用教程，请参阅 [Docs](https://docs.sillytavern.app/)。
|
||||
|
||||
## 界面/CSS/性能，由 RossAscends 调整并优化
|
||||
|
||||
|
||||
15
.github/readme.md
vendored
15
.github/readme.md
vendored
@@ -1,4 +1,4 @@
|
||||
English | [中文](readme-zh_cn.md)
|
||||
English | [中文](readme-zh_cn.md) | [日本語](readme-ja_jp.md)
|
||||
|
||||
|
||||
|
||||
@@ -85,7 +85,7 @@ SillyTavern has extensibility support, with some additional AI modules hosted vi
|
||||
* Stable Diffusion image generation (5 chat-related presets plus 'free mode')
|
||||
* Text-to-speech for AI response messages (via ElevenLabs, Silero, or the OS's System TTS)
|
||||
|
||||
A full list of included extensions and tutorials on how to use them can be found in the [Docs](https://docs.sillytavern.app/extras/extensions/).
|
||||
A full list of included extensions and tutorials on how to use them can be found in the [Docs](https://docs.sillytavern.app/).
|
||||
|
||||
## UI/CSS/Quality of Life tweaks by RossAscends
|
||||
|
||||
@@ -162,6 +162,17 @@ Installing via ZIP download (discouraged)
|
||||
|
||||
### Linux
|
||||
|
||||
#### Unofficial Debian/Ubuntu PKGBUILD
|
||||
|
||||
> **This installation method is unofficial and not supported by the project. Report any issues to the PKGBUILD maintainer.**
|
||||
> The method is intended for Debian-based distributions (Ubuntu, Mint, etc).
|
||||
|
||||
1. Install [makedeb](https://www.makedeb.org/).
|
||||
2. Ensure you have Node.js v18 or higher installed by running `node -v`. If you need to upgrade, you can install a [node.js repo](https://mpr.makedeb.org/packages/nodejs-repo) (you'll might need to edit the version inside the PKGBUILD). As an alternative, install and configure [nvm](https://mpr.makedeb.org/packages/nvm) to manage multiple node.js installations. Finally, you can [install node.js manually](https://nodejs.org/en/download), but you will need to update the PATH variable of your environment.
|
||||
3. Now build the [sillytavern package](https://mpr.makedeb.org/packages/sillytavern). The build needs to run with the correct node.js version.
|
||||
|
||||
#### Manual
|
||||
|
||||
1. Ensure you have Node.js v18 or higher (the latest [LTS version](https://nodejs.org/en/download/) is recommended) installed by running `node -v`.
|
||||
Alternatively, use the [Node Version Manager](https://github.com/nvm-sh/nvm#installing-and-updating) script to quickly and easily manage your Node installations.
|
||||
2. Run the `start.sh` script.
|
||||
|
||||
@@ -51,7 +51,7 @@ extras:
|
||||
# Extra models for plugins. Expects model IDs from HuggingFace model hub in ONNX format
|
||||
classificationModel: Cohee/distilbert-base-uncased-go-emotions-onnx
|
||||
captioningModel: Xenova/vit-gpt2-image-captioning
|
||||
embeddingModel: Xenova/all-mpnet-base-v2
|
||||
embeddingModel: Cohee/jina-embeddings-v2-base-en
|
||||
promptExpansionModel: Cohee/fooocus_expansion-onnx
|
||||
# -- OPENAI CONFIGURATION --
|
||||
openai:
|
||||
|
||||
117
public/script.js
117
public/script.js
@@ -275,7 +275,7 @@ DOMPurify.addHook('afterSanitizeAttributes', function (node) {
|
||||
}
|
||||
});
|
||||
|
||||
DOMPurify.addHook("uponSanitizeAttribute", (_, data, config) => {
|
||||
DOMPurify.addHook('uponSanitizeAttribute', (_, data, config) => {
|
||||
if (!config['MESSAGE_SANITIZE']) {
|
||||
return;
|
||||
}
|
||||
@@ -287,7 +287,7 @@ DOMPurify.addHook("uponSanitizeAttribute", (_, data, config) => {
|
||||
return v;
|
||||
}
|
||||
|
||||
return "custom-" + v;
|
||||
return 'custom-' + v;
|
||||
}).join(' ');
|
||||
}
|
||||
break;
|
||||
@@ -320,10 +320,10 @@ export const event_types = {
|
||||
SETTINGS_LOADED_AFTER: 'settings_loaded_after',
|
||||
CHATCOMPLETION_SOURCE_CHANGED: 'chatcompletion_source_changed',
|
||||
CHATCOMPLETION_MODEL_CHANGED: 'chatcompletion_model_changed',
|
||||
OAI_BEFORE_CHATCOMPLETION: 'oai_before_chatcompletion',
|
||||
OAI_PRESET_CHANGED_BEFORE: 'oai_preset_changed_before',
|
||||
OAI_PRESET_CHANGED_AFTER: 'oai_preset_changed_after',
|
||||
WORLDINFO_SETTINGS_UPDATED: 'worldinfo_settings_updated',
|
||||
WORLDINFO_UPDATED: 'worldinfo_updated',
|
||||
CHARACTER_EDITED: 'character_edited',
|
||||
CHARACTER_PAGE_LOADED: 'character_page_loaded',
|
||||
CHARACTER_GROUP_OVERLAY_STATE_CHANGE_BEFORE: 'character_group_overlay_state_change_before',
|
||||
@@ -1473,6 +1473,29 @@ export async function reloadCurrentChat() {
|
||||
showSwipeButtons();
|
||||
}
|
||||
|
||||
/**
|
||||
* Send the message currently typed into the chat box.
|
||||
*/
|
||||
export function sendTextareaMessage() {
|
||||
if (is_send_press) return;
|
||||
|
||||
let generateType;
|
||||
// "Continue on send" is activated when the user hits "send" (or presses enter) on an empty chat box, and the last
|
||||
// message was sent from a character (not the user or the system).
|
||||
const textareaText = String($('#send_textarea').val());
|
||||
if (power_user.continue_on_send &&
|
||||
!textareaText &&
|
||||
!selected_group &&
|
||||
chat.length &&
|
||||
!chat[chat.length - 1]['is_user'] &&
|
||||
!chat[chat.length - 1]['is_system']
|
||||
) {
|
||||
generateType = 'continue';
|
||||
}
|
||||
|
||||
Generate(generateType);
|
||||
}
|
||||
|
||||
function messageFormatting(mes, ch_name, isSystem, isUser) {
|
||||
if (!mes) {
|
||||
return '';
|
||||
@@ -2002,7 +2025,7 @@ function formatGenerationTimer(gen_started, gen_finished, tokenCount) {
|
||||
tokenCount > 0 ? `Token rate: ${Number(tokenCount / seconds).toFixed(1)} t/s` : '',
|
||||
].join('\n');
|
||||
|
||||
if (isNaN(seconds)) {
|
||||
if (isNaN(seconds) || seconds < 0) {
|
||||
return { timerValue: '', timerTitle };
|
||||
}
|
||||
|
||||
@@ -2354,11 +2377,7 @@ export async function generateQuietPrompt(quiet_prompt, quietToLoud, skipWIAN, q
|
||||
return generateFinished;
|
||||
}
|
||||
|
||||
async function processCommands(message, type, dryRun) {
|
||||
if (dryRun || type == 'regenerate' || type == 'swipe' || type == 'quiet') {
|
||||
return null;
|
||||
}
|
||||
|
||||
async function processCommands(message) {
|
||||
const previousText = String($('#send_textarea').val());
|
||||
const result = await executeSlashCommands(message);
|
||||
|
||||
@@ -2946,13 +2965,15 @@ async function Generate(type, { automatic_trigger, force_name2, quiet_prompt, qu
|
||||
|
||||
let message_already_generated = isImpersonate ? `${name1}: ` : `${name2}: `;
|
||||
|
||||
const interruptedByCommand = await processCommands($('#send_textarea').val(), type, dryRun);
|
||||
if (!(dryRun || type == 'regenerate' || type == 'swipe' || type == 'quiet')) {
|
||||
const interruptedByCommand = await processCommands($('#send_textarea').val());
|
||||
|
||||
if (interruptedByCommand) {
|
||||
//$("#send_textarea").val('').trigger('input');
|
||||
unblockGeneration();
|
||||
return Promise.resolve();
|
||||
}
|
||||
}
|
||||
|
||||
if (main_api == 'kobold' && kai_settings.streaming_kobold && !kai_flags.can_use_streaming) {
|
||||
toastr.error('Streaming is enabled, but the version of Kobold used does not support token streaming.', undefined, { timeOut: 10000, preventDuplicates: true });
|
||||
@@ -2981,10 +3002,12 @@ async function Generate(type, { automatic_trigger, force_name2, quiet_prompt, qu
|
||||
chat_metadata['tainted'] = true;
|
||||
}
|
||||
|
||||
if (selected_group && !is_group_generating && !dryRun) {
|
||||
if (selected_group && !is_group_generating) {
|
||||
if (!dryRun) {
|
||||
// Returns the promise that generateGroupWrapper returns; resolves when generation is done
|
||||
return generateGroupWrapper(false, type, { quiet_prompt, force_chid, signal: abortController.signal, quietImage, maxLoops });
|
||||
} else if (selected_group && !is_group_generating && dryRun) {
|
||||
}
|
||||
|
||||
const characterIndexMap = new Map(characters.map((char, index) => [char.avatar, index]));
|
||||
const group = groups.find((x) => x.id === selected_group);
|
||||
|
||||
@@ -3016,8 +3039,18 @@ async function Generate(type, { automatic_trigger, force_name2, quiet_prompt, qu
|
||||
quiet_prompt = main_api == 'novel' && !quietToLoud ? adjustNovelInstructionPrompt(quiet_prompt) : quiet_prompt;
|
||||
}
|
||||
|
||||
if (true === dryRun ||
|
||||
(online_status != 'no_connection' && this_chid != undefined && this_chid !== 'invalid-safety-id')) {
|
||||
const isChatValid = online_status != 'no_connection' && this_chid != undefined && this_chid !== 'invalid-safety-id';
|
||||
|
||||
// We can't do anything because we're not in a chat right now. (Unless it's a dry run, in which case we need to
|
||||
// assemble the prompt so we can count its tokens regardless of whether a chat is active.)
|
||||
if (!dryRun && !isChatValid) {
|
||||
if (this_chid === undefined || this_chid === 'invalid-safety-id') {
|
||||
toastr.warning('Сharacter is not selected');
|
||||
}
|
||||
is_send_press = false;
|
||||
return Promise.resolve();
|
||||
}
|
||||
|
||||
let textareaText;
|
||||
if (type !== 'regenerate' && type !== 'swipe' && type !== 'quiet' && !isImpersonate && !dryRun) {
|
||||
is_send_press = true;
|
||||
@@ -3038,10 +3071,6 @@ async function Generate(type, { automatic_trigger, force_name2, quiet_prompt, qu
|
||||
}
|
||||
}
|
||||
|
||||
if (!type && !textareaText && power_user.continue_on_send && !selected_group && chat.length && !chat[chat.length - 1]['is_user'] && !chat[chat.length - 1]['is_system']) {
|
||||
type = 'continue';
|
||||
}
|
||||
|
||||
const isContinue = type == 'continue';
|
||||
|
||||
// Rewrite the generation timer to account for the time passed for all the continuations.
|
||||
@@ -3655,8 +3684,6 @@ async function Generate(type, { automatic_trigger, force_name2, quiet_prompt, qu
|
||||
scenario,
|
||||
char: name2,
|
||||
user: name1,
|
||||
worldInfoBefore,
|
||||
worldInfoAfter,
|
||||
beforeScenarioAnchor,
|
||||
afterScenarioAnchor,
|
||||
mesExmString,
|
||||
@@ -3745,9 +3772,12 @@ async function Generate(type, { automatic_trigger, force_name2, quiet_prompt, qu
|
||||
}
|
||||
}
|
||||
|
||||
async function finishGenerating() {
|
||||
if (dryRun) return { error: 'dryRun' };
|
||||
if (dryRun) {
|
||||
generatedPromptCache = '';
|
||||
return Promise.resolve();
|
||||
}
|
||||
|
||||
async function finishGenerating() {
|
||||
if (power_user.console_log_prompts) {
|
||||
console.log(generate_data.prompt);
|
||||
}
|
||||
@@ -3832,12 +3862,15 @@ async function Generate(type, { automatic_trigger, force_name2, quiet_prompt, qu
|
||||
if (!data) return;
|
||||
let messageChunk = '';
|
||||
|
||||
if (data.error == 'dryRun') {
|
||||
if (data.error) {
|
||||
generatedPromptCache = '';
|
||||
return;
|
||||
|
||||
if (data?.response) {
|
||||
toastr.error(data.response, 'API Error');
|
||||
}
|
||||
throw data?.response;
|
||||
}
|
||||
|
||||
if (!data.error) {
|
||||
//const getData = await response.json();
|
||||
let getMessage = extractMessageFromData(data);
|
||||
let title = extractTitleFromData(data);
|
||||
@@ -3924,14 +3957,6 @@ async function Generate(type, { automatic_trigger, force_name2, quiet_prompt, qu
|
||||
return;
|
||||
}
|
||||
}
|
||||
} else {
|
||||
generatedPromptCache = '';
|
||||
|
||||
if (data?.response) {
|
||||
toastr.error(data.response, 'API Error');
|
||||
}
|
||||
throw data?.response;
|
||||
}
|
||||
|
||||
console.debug('/api/chats/save called by /Generate');
|
||||
await saveChatConditional();
|
||||
@@ -3953,12 +3978,6 @@ async function Generate(type, { automatic_trigger, force_name2, quiet_prompt, qu
|
||||
streamingProcessor = null;
|
||||
throw exception;
|
||||
}
|
||||
} else { //generate's primary loop ends, after this is error handling for no-connection or safety-id
|
||||
if (this_chid === undefined || this_chid === 'invalid-safety-id') {
|
||||
toastr.warning('Сharacter is not selected');
|
||||
}
|
||||
is_send_press = false;
|
||||
}
|
||||
}
|
||||
|
||||
function flushWIDepthInjections() {
|
||||
@@ -5434,20 +5453,7 @@ function changeMainAPI() {
|
||||
getHordeModels();
|
||||
}
|
||||
|
||||
switch (oai_settings.chat_completion_source) {
|
||||
case chat_completion_sources.SCALE:
|
||||
case chat_completion_sources.OPENROUTER:
|
||||
case chat_completion_sources.WINDOWAI:
|
||||
case chat_completion_sources.CLAUDE:
|
||||
case chat_completion_sources.OPENAI:
|
||||
case chat_completion_sources.AI21:
|
||||
case chat_completion_sources.MAKERSUITE:
|
||||
case chat_completion_sources.MISTRALAI:
|
||||
case chat_completion_sources.CUSTOM:
|
||||
default:
|
||||
setupChatCompletionPromptManager(oai_settings);
|
||||
break;
|
||||
}
|
||||
}
|
||||
|
||||
////////////////////////////////////////////////////
|
||||
@@ -7971,12 +7977,7 @@ jQuery(async function () {
|
||||
});
|
||||
|
||||
$('#send_but').on('click', function () {
|
||||
if (is_send_press == false) {
|
||||
// This prevents from running /trigger command with a send button
|
||||
// But send on Enter doesn't set is_send_press (it is done by the Generate itself)
|
||||
// is_send_press = true;
|
||||
Generate();
|
||||
}
|
||||
sendTextareaMessage();
|
||||
});
|
||||
|
||||
//menu buttons setup
|
||||
|
||||
@@ -1293,34 +1293,6 @@ class PromptManager {
|
||||
this.log('Updated token usage with ' + this.tokenUsage);
|
||||
}
|
||||
|
||||
/**
|
||||
* Populates legacy token counts
|
||||
*
|
||||
* @deprecated This might serve no purpose and should be evaluated for removal
|
||||
*
|
||||
* @param {MessageCollection} messages
|
||||
*/
|
||||
populateLegacyTokenCounts(messages) {
|
||||
// Update general token counts
|
||||
const chatHistory = messages.getItemByIdentifier('chatHistory');
|
||||
const startChat = chatHistory?.getCollection()[0]?.getTokens() || 0;
|
||||
const continueNudge = chatHistory?.getCollection().find(message => message.identifier === 'continueNudge')?.getTokens() || 0;
|
||||
|
||||
this.tokenHandler.counts = {
|
||||
...this.tokenHandler.counts,
|
||||
...{
|
||||
'start_chat': startChat,
|
||||
'prompt': 0,
|
||||
'bias': this.tokenHandler.counts.bias ?? 0,
|
||||
'nudge': continueNudge,
|
||||
'jailbreak': this.tokenHandler.counts.jailbreak ?? 0,
|
||||
'impersonate': 0,
|
||||
'examples': this.tokenHandler.counts.dialogueExamples ?? 0,
|
||||
'conversation': this.tokenHandler.counts.chatHistory ?? 0,
|
||||
},
|
||||
};
|
||||
}
|
||||
|
||||
/**
|
||||
* Empties, then re-assembles the container containing the prompt list.
|
||||
*/
|
||||
|
||||
@@ -1,5 +1,4 @@
|
||||
import {
|
||||
Generate,
|
||||
characters,
|
||||
online_status,
|
||||
main_api,
|
||||
@@ -18,6 +17,7 @@ import {
|
||||
menu_type,
|
||||
substituteParams,
|
||||
callPopup,
|
||||
sendTextareaMessage,
|
||||
} from '../script.js';
|
||||
|
||||
import {
|
||||
@@ -954,9 +954,9 @@ export function initRossMods() {
|
||||
//Enter to send when send_textarea in focus
|
||||
if ($(':focus').attr('id') === 'send_textarea') {
|
||||
const sendOnEnter = shouldSendOnEnter();
|
||||
if (!event.shiftKey && !event.ctrlKey && !event.altKey && event.key == 'Enter' && is_send_press == false && sendOnEnter) {
|
||||
if (!event.shiftKey && !event.ctrlKey && !event.altKey && event.key == 'Enter' && sendOnEnter) {
|
||||
event.preventDefault();
|
||||
Generate();
|
||||
sendTextareaMessage();
|
||||
}
|
||||
}
|
||||
if ($(':focus').attr('id') === 'dialogue_popup_input' && !isMobile()) {
|
||||
|
||||
@@ -49,6 +49,7 @@ let lastMessage = null;
|
||||
let spriteCache = {};
|
||||
let inApiCall = false;
|
||||
let lastServerResponseTime = 0;
|
||||
export let lastExpression = {};
|
||||
|
||||
function isVisualNovelMode() {
|
||||
return Boolean(!isMobile() && power_user.waifuMode && getContext().groupId);
|
||||
@@ -692,6 +693,7 @@ function getFolderNameByMessage(message) {
|
||||
}
|
||||
|
||||
async function sendExpressionCall(name, expression, force, vnMode) {
|
||||
lastExpression[name.split('/')[0]] = expression;
|
||||
if (!vnMode) {
|
||||
vnMode = isVisualNovelMode();
|
||||
}
|
||||
@@ -1476,6 +1478,7 @@ function setExpressionOverrideHtml(forceClear = false) {
|
||||
// character changed
|
||||
removeExpression();
|
||||
spriteCache = {};
|
||||
lastExpression = {};
|
||||
|
||||
//clear expression
|
||||
let imgElement = document.getElementById('expression-image');
|
||||
@@ -1501,4 +1504,5 @@ function setExpressionOverrideHtml(forceClear = false) {
|
||||
eventSource.on(event_types.GROUP_UPDATED, updateVisualNovelModeDebounced);
|
||||
registerSlashCommand('sprite', setSpriteSlashCommand, ['emote'], '<span class="monospace">(spriteId)</span> – force sets the sprite for the current character', true, true);
|
||||
registerSlashCommand('spriteoverride', setSpriteSetCommand, ['costume'], '<span class="monospace">(optional folder)</span> – sets an override sprite folder for the current character. If the name starts with a slash or a backslash, selects a sub-folder in the character-named folder. Empty value to reset to default.', true, true);
|
||||
registerSlashCommand('lastsprite', (_, value) => lastExpression[value.trim()] ?? '', [], '<span class="monospace">(charName)</span> – Returns the last set sprite / expression for the named character.', true, true);
|
||||
})();
|
||||
|
||||
@@ -2642,7 +2642,7 @@ $('#sd_dropdown [id]').on('click', function () {
|
||||
|
||||
jQuery(async () => {
|
||||
registerSlashCommand('imagine', generatePicture, ['sd', 'img', 'image'], helpString, true, true);
|
||||
registerSlashCommand('imagine-comfy-workflow', changeComfyWorkflow, ['icw'], '(workflowName) - change the workflow to be used for image generation with ComfyUI, e.g. <tt>/imagine-comfy-workflow MyWorkflow</tt>')
|
||||
registerSlashCommand('imagine-comfy-workflow', changeComfyWorkflow, ['icw'], '(workflowName) - change the workflow to be used for image generation with ComfyUI, e.g. <tt>/imagine-comfy-workflow MyWorkflow</tt>');
|
||||
|
||||
$('#extensions_settings').append(renderExtensionTemplate('stable-diffusion', 'settings', defaultSettings));
|
||||
$('#sd_source').on('change', onSourceChange);
|
||||
|
||||
@@ -1,6 +1,6 @@
|
||||
import { eventSource, event_types, extension_prompt_types, getCurrentChatId, getRequestHeaders, is_send_press, saveSettingsDebounced, setExtensionPrompt, substituteParams } from '../../../script.js';
|
||||
import { ModuleWorkerWrapper, extension_settings, getContext, renderExtensionTemplate } from '../../extensions.js';
|
||||
import { collapseNewlines, power_user, ui_mode } from '../../power-user.js';
|
||||
import { collapseNewlines } from '../../power-user.js';
|
||||
import { SECRET_KEYS, secret_state } from '../../secrets.js';
|
||||
import { debounce, getStringHash as calculateHash, waitUntilCondition, onlyUnique, splitRecursive } from '../../utils.js';
|
||||
|
||||
@@ -21,6 +21,7 @@ const settings = {
|
||||
protect: 5,
|
||||
insert: 3,
|
||||
query: 2,
|
||||
message_chunk_size: 400,
|
||||
|
||||
// For files
|
||||
enabled_files: false,
|
||||
@@ -87,6 +88,29 @@ async function onVectorizeAllClick() {
|
||||
|
||||
let syncBlocked = false;
|
||||
|
||||
/**
|
||||
* Splits messages into chunks before inserting them into the vector index.
|
||||
* @param {object[]} items Array of vector items
|
||||
* @returns {object[]} Array of vector items (possibly chunked)
|
||||
*/
|
||||
function splitByChunks(items) {
|
||||
if (settings.message_chunk_size <= 0) {
|
||||
return items;
|
||||
}
|
||||
|
||||
const chunkedItems = [];
|
||||
|
||||
for (const item of items) {
|
||||
const chunks = splitRecursive(item.text, settings.message_chunk_size);
|
||||
for (const chunk of chunks) {
|
||||
const chunkedItem = { ...item, text: chunk };
|
||||
chunkedItems.push(chunkedItem);
|
||||
}
|
||||
}
|
||||
|
||||
return chunkedItems;
|
||||
}
|
||||
|
||||
async function synchronizeChat(batchSize = 5) {
|
||||
if (!settings.enabled_chats) {
|
||||
return -1;
|
||||
@@ -116,8 +140,9 @@ async function synchronizeChat(batchSize = 5) {
|
||||
const deletedHashes = hashesInCollection.filter(x => !hashedMessages.some(y => y.hash === x));
|
||||
|
||||
if (newVectorItems.length > 0) {
|
||||
const chunkedBatch = splitByChunks(newVectorItems.slice(0, batchSize));
|
||||
console.log(`Vectors: Found ${newVectorItems.length} new items. Processing ${batchSize}...`);
|
||||
await insertVectorItems(chatId, newVectorItems.slice(0, batchSize));
|
||||
await insertVectorItems(chatId, chunkedBatch);
|
||||
}
|
||||
|
||||
if (deletedHashes.length > 0) {
|
||||
@@ -492,6 +517,43 @@ function toggleSettings() {
|
||||
$('#vectors_chats_settings').toggle(!!settings.enabled_chats);
|
||||
}
|
||||
|
||||
async function onPurgeClick() {
|
||||
const chatId = getCurrentChatId();
|
||||
if (!chatId) {
|
||||
toastr.info('No chat selected', 'Purge aborted');
|
||||
return;
|
||||
}
|
||||
await purgeVectorIndex(chatId);
|
||||
toastr.success('Vector index purged', 'Purge successful');
|
||||
}
|
||||
|
||||
async function onViewStatsClick() {
|
||||
const chatId = getCurrentChatId();
|
||||
if (!chatId) {
|
||||
toastr.info('No chat selected');
|
||||
return;
|
||||
}
|
||||
|
||||
const hashesInCollection = await getSavedHashes(chatId);
|
||||
const totalHashes = hashesInCollection.length;
|
||||
const uniqueHashes = hashesInCollection.filter(onlyUnique).length;
|
||||
|
||||
toastr.info(`Total hashes: <b>${totalHashes}</b><br>
|
||||
Unique hashes: <b>${uniqueHashes}</b><br><br>
|
||||
I'll mark collected messages with a green circle.`,
|
||||
`Stats for chat ${chatId}`,
|
||||
{ timeOut: 10000, escapeHtml: false });
|
||||
|
||||
const chat = getContext().chat;
|
||||
for (const message of chat) {
|
||||
if (hashesInCollection.includes(getStringHash(message.mes))) {
|
||||
const messageElement = $(`.mes[mesid="${chat.indexOf(message)}"]`);
|
||||
messageElement.addClass('vectorized');
|
||||
}
|
||||
}
|
||||
|
||||
}
|
||||
|
||||
jQuery(async () => {
|
||||
if (!extension_settings.vectors) {
|
||||
extension_settings.vectors = settings;
|
||||
@@ -554,9 +616,9 @@ jQuery(async () => {
|
||||
Object.assign(extension_settings.vectors, settings);
|
||||
saveSettingsDebounced();
|
||||
});
|
||||
$('#vectors_advanced_settings').toggleClass('displayNone', power_user.ui_mode === ui_mode.SIMPLE);
|
||||
|
||||
$('#vectors_vectorize_all').on('click', onVectorizeAllClick);
|
||||
$('#vectors_purge').on('click', onPurgeClick);
|
||||
$('#vectors_view_stats').on('click', onViewStatsClick);
|
||||
|
||||
$('#vectors_size_threshold').val(settings.size_threshold).on('input', () => {
|
||||
settings.size_threshold = Number($('#vectors_size_threshold').val());
|
||||
@@ -582,6 +644,12 @@ jQuery(async () => {
|
||||
saveSettingsDebounced();
|
||||
});
|
||||
|
||||
$('#vectors_message_chunk_size').val(settings.message_chunk_size).on('input', () => {
|
||||
settings.message_chunk_size = Number($('#vectors_message_chunk_size').val());
|
||||
Object.assign(extension_settings.vectors, settings);
|
||||
saveSettingsDebounced();
|
||||
});
|
||||
|
||||
toggleSettings();
|
||||
eventSource.on(event_types.MESSAGE_DELETED, onChatEvent);
|
||||
eventSource.on(event_types.MESSAGE_EDITED, onChatEvent);
|
||||
|
||||
@@ -5,7 +5,7 @@
|
||||
"optional": [],
|
||||
"generate_interceptor": "vectors_rearrangeChat",
|
||||
"js": "index.js",
|
||||
"css": "",
|
||||
"css": "style.css",
|
||||
"author": "Cohee#1207",
|
||||
"version": "1.0.0",
|
||||
"homePage": "https://github.com/SillyTavern/SillyTavern"
|
||||
|
||||
@@ -75,7 +75,7 @@
|
||||
</label>
|
||||
|
||||
<div id="vectors_chats_settings">
|
||||
<div id="vectors_advanced_settings" data-newbie-hidden>
|
||||
<div id="vectors_advanced_settings">
|
||||
<label for="vectors_template">
|
||||
Insertion Template
|
||||
</label>
|
||||
@@ -97,17 +97,23 @@
|
||||
</label>
|
||||
</div>
|
||||
<div class="flex-container">
|
||||
<div class="flex1" title="Can increase the retrieval quality for the cost of processing. 0 = disabled.">
|
||||
<label for="vectors_message_chunk_size">
|
||||
<small>Chunk size (chars)</small>
|
||||
</label>
|
||||
<input id="vectors_message_chunk_size" type="number" class="text_pole widthUnset" min="0" max="9999" />
|
||||
</div>
|
||||
<div class="flex1" title="Prevents last N messages from being placed out of order.">
|
||||
<label for="vectors_protect">
|
||||
<small>Retain#</small>
|
||||
</label>
|
||||
<input type="number" id="vectors_protect" class="text_pole widthUnset" min="1" max="99" />
|
||||
<input type="number" id="vectors_protect" class="text_pole widthUnset" min="1" max="9999" />
|
||||
</div>
|
||||
<div class="flex1" title="How many past messages to insert as memories.">
|
||||
<label for="vectors_insert">
|
||||
<small>Insert#</small>
|
||||
</label>
|
||||
<input type="number" id="vectors_insert" class="text_pole widthUnset" min="1" max="99" />
|
||||
<input type="number" id="vectors_insert" class="text_pole widthUnset" min="1" max="9999" />
|
||||
</div>
|
||||
</div>
|
||||
</div>
|
||||
@@ -115,9 +121,17 @@
|
||||
Old messages are vectorized gradually as you chat.
|
||||
To process all previous messages, click the button below.
|
||||
</small>
|
||||
<div class="flex-container">
|
||||
<div id="vectors_vectorize_all" class="menu_button menu_button_icon">
|
||||
Vectorize All
|
||||
</div>
|
||||
<div id="vectors_purge" class="menu_button menu_button_icon">
|
||||
Purge Vectors
|
||||
</div>
|
||||
<div id="vectors_view_stats" class="menu_button menu_button_icon">
|
||||
View Stats
|
||||
</div>
|
||||
</div>
|
||||
<div id="vectorize_progress" style="display: none;">
|
||||
<small>
|
||||
Processed <span id="vectorize_progress_percent">0</span>% of messages.
|
||||
|
||||
4
public/scripts/extensions/vectors/style.css
Normal file
4
public/scripts/extensions/vectors/style.css
Normal file
@@ -0,0 +1,4 @@
|
||||
.mes.vectorized .name_text::after {
|
||||
content: '🟢';
|
||||
margin-left: 5px;
|
||||
}
|
||||
@@ -482,7 +482,10 @@ function setOpenAIMessageExamples(mesExamplesArray) {
|
||||
*/
|
||||
function setupChatCompletionPromptManager(openAiSettings) {
|
||||
// Do not set up prompt manager more than once
|
||||
if (promptManager) return promptManager;
|
||||
if (promptManager) {
|
||||
promptManager.render(false);
|
||||
return promptManager;
|
||||
}
|
||||
|
||||
promptManager = new PromptManager();
|
||||
|
||||
@@ -1031,9 +1034,6 @@ function preparePromptsForChatCompletion({ Scenario, charPersonality, name2, wor
|
||||
prompts.set(jbReplacement, prompts.index('jailbreak'));
|
||||
}
|
||||
|
||||
// Allow subscribers to manipulate the prompts object
|
||||
eventSource.emit(event_types.OAI_BEFORE_CHATCOMPLETION, prompts);
|
||||
|
||||
return prompts;
|
||||
}
|
||||
|
||||
|
||||
@@ -1420,6 +1420,7 @@ async function _save(name, data) {
|
||||
headers: getRequestHeaders(),
|
||||
body: JSON.stringify({ name: name, data: data }),
|
||||
});
|
||||
eventSource.emit(event_types.WORLDINFO_UPDATED, name, data);
|
||||
}
|
||||
|
||||
async function saveWorldInfo(name, data, immediately) {
|
||||
|
||||
@@ -443,7 +443,7 @@ async function sendMistralAIRequest(request, response) {
|
||||
const messages = Array.isArray(request.body.messages) ? request.body.messages : [];
|
||||
const lastMsg = messages[messages.length - 1];
|
||||
if (messages.length > 0 && lastMsg && (lastMsg.role === 'system' || lastMsg.role === 'assistant')) {
|
||||
if (lastMsg.role === 'assistant') {
|
||||
if (lastMsg.role === 'assistant' && lastMsg.name) {
|
||||
lastMsg.content = lastMsg.name + ': ' + lastMsg.content;
|
||||
} else if (lastMsg.role === 'system') {
|
||||
lastMsg.content = '[INST] ' + lastMsg.content + ' [/INST]';
|
||||
|
||||
Reference in New Issue
Block a user