30 KiB
Мобайл-френдли интерфейс, поддержка множества API (KoboldAI/CPP, Horde, NovelAI, Ooba, OpenAI, OpenRouter, Claude, Scale), ВН-образный режим Вайфу, Stable Diffusion, TTS, поддержка миров (лорбуков), кастомизируемый UI, автоперевод, тончайшая настройка промптов + возможность устанавливать расширения.
Основано на форке TavernAI версии 1.2.8
Важные новости!
-
Чтобы помочь вам быстрее разобраться в SillyTavern, мы создали сайт с документацией. Ответы на большинство вопросов можно найти там.
-
Почему пропали расширения после апдейта? Начиная с версии 1.10.6, большинство встроенных расширений были конвертированы в формат загружаемых аддонов. Их можно установить обратно через меню "Download Extensions and Assets" на панели расширений (значок с тремя кубиками сверху).
-
Не поддерживается следующая платформа: android arm LEtime-web. 32-битный Android требует внешнюю зависимость, которую нельзя установить посредством npm. Для её установки потребуется следующая команда:
pkg install esbuild
. После этого продолжайте установку по общей инструкции.
Разрабатывается Cohee, RossAscends и всем сообществом SillyTavern
Что такое SillyTavern и TavernAI?
SillyTavern — это интерфейс, который устанавливается на ПК (и на Android), который даёт возможность общаться с генеративным ИИ и чатиться/ролеплеить с вашими собственными персонажами или персонажами других пользователей.
SillyTavern — это форк версии TavernAI 1.2.8, который разрабатывается более активно и имеет множество новых функций. Сейчас уже можно сказать, что это две отдельные и абсолютно самостоятельные программы.
Скриншоты
Ветки
SillyTavern разрабатывается в двух ветках, чтобы всем категориям пользователей было удобно.
- release -🌟 Рекомендовано для большинства пользователей. Самая стабильная ветка, рекомендуем именно её. Обновляется только в момент крупных релизов. Подходит для большей части пользователей.
- staging - ⚠️ Не рекомендуется для повседневного использования. В этой ветке весь самый свежий и новый функционал, но будьте аккуратны, поскольку сломаться может в любом месте и в любое время. Только для продвинутых пользователей и энтузиастов.
Если вы не умеете обращаться с git через командную строку, или не знаете, что такое ветка, то не переживайте! Наилучшим вариантом всегда остаётся ветка release.
Что ещё нужно, кроме SillyTavern?
Сама по себе SillyTavern бесполезна, ведь это просто интерфейс. Вам потребуется доступ к бэкенду с ИИ, который и будет отыгрывать выбранного вами персонажа. Поддерживаются разные виды бэкендов: OpenAPI API (GPT), KoboldAI (локально или на Google Colab), и многое другое. Больше информации в FAQ.
Требуется ли для SillyTavern мощный ПК?
SillyTavern — это просто интерфейс, поэтому запустить его можно на любой картошке. Мощным должен быть бэкенд с ИИ.
Есть вопросы или предложения?
У нас появился сервер в Discord
Вступайте в наше Discord-сообщество! Задавайте вопросы, делитесь любимыми персонажами и промптами. |
---|
Также можно написать разработчикам напрямую:
- Discord: cohee или rossascends
- Reddit: /u/RossAscends или /u/sillylossy
- Запостить issue на GitHub
Эта версия включает
- Глубоко переработанную TavernAI 1.2.8 (переписано и оптимизировано более 50% кода)
- Свайпы
- Групповые чаты: комнаты для нескольких ботов, где персонажи могут говорить друг с другом и с вами
- Чекпоинты и ветки для чатов
- Продвинутые настройки для KoboldAI / TextGen со множеством созданных сообществом пресетов
- Поддержка миров (функция "Информация о мире" / WorldInfo): создавайте свой богатый лор, или экономьте токены для карточек персонажей
- Соединение через OpenRouter для разных API (Claude, GPT-4/3.5 и других)
- Соединение с API Oobabooga's TextGen WebUI
- Соединение с AI Horde
- Настройку форматирования промптов
Расширения
SillyTavern поддерживает расширения, при этом некоторые из ИИ-модулей работают через SillyTavern Extras API
- Заметки автора / Смещение характера
- Эмоции для персонажей (спрайты)
- Автоматический саммарайз (краткий пересказ) истории чата
- Возможность отправить в чат картинку, которую ИИ сможет рассмотреть и понять
- Генерация картинок в Stable Diffusion (5 пресетов для чата, плюс свободный режим)
- Text-to-speech для сообщений ИИ (с помощью ElevenLabs, Silero, или родной TTS вашей ОС)
Полный список расширений и инструкций к ним можно найти в документации.
Улучшения от RossAscends для UI/CSS/общего удобства
-
Мобильный интерфейс адаптирован для iOS, добавлена возможность сохранить ярлык на главный экран и открыть приложение в полноэкранном режиме.
-
Горячие клавиши
- Up = Редактировать последнее сообщение в чате
- Ctrl+Up = Редактировать ВАШЕ последнее сообщение в чате
- Left = свайп влево
- Right = свайп вправо (ОБРАТИТЕ ВНИМАНИЕ: когда в окне ввода что-то напечатано, клавиши для свайпа не работают)
- Ctrl+Left = посмотреть локальные переменные (в консоли браузера)
- Enter (при нахождении внутри окна ввода) = отправить ваше сообщение ИИ
- Ctrl+Enter = Повторная генерация последнего ответа ИИ
-
Страница больше не перезагружается при смене имени пользователя или удалении персонажа
-
Отключаемая возможность автоматически соединяться с API при загрузке страницы.
-
Отключаемая возможность автоматически загружать последнего открытого персонажа при загрузке страницы.
-
Улучшенный счётчик токенов - работает с несохранёнными персонажами, отображает и перманентные, и временные токены
-
Улучшенный менеджер чатов
- Файлы с новыми чатами получают читабельные названия вида "(персонаж) - (когда создано)"
- Увеличен размер превью чата с 40 символов до 300.
- Несколько вариантов сортировки списка персонажей (по имени, дате создания, размеру чата).
-
Панели настроек слева и справа автоматически скрываются, если щёлкнуть за их пределы.
-
При нажатии на значок замка навигационная панель будет закреплена на экране, и эта настройка сохранится между сессиями
-
Сам статус панели (открыта или закрыта) также сохраняется между сессиями
-
Кастомизируемый интерфейс чата:
- Настройте звук при получении нового ответа
- Переключайтесь между круглыми и прямоугольными аватарками
- Увеличенное вширь окно чата для стационарных ПК
- Возможность включать полупрозрачные панели, стилизованные под стекло
- Настраиваемые цвета для обычного текста, курсива, цитат
- Настраиваемый цвет фона и интенсивность размытия
⌛ Установка
Внимание!
- НЕ УСТАНАВЛИВАЙТЕ В ПАПКИ, КОТОРЫЕ КОНТРОЛИРУЕТ WINDOWS (Program Files, System32 и т.п.).
- НЕ ЗАПУСКАЙТЕ START.BAT С ПРАВАМИ АДМИНИСТРАТОРА
- УСТАНОВКА НА WINDOWS 7 НЕВОЗМОЖНА ИЗ-ЗА ОТСУТСТВИЯ NODEJS 18.16
🪟 Windows
Установка через Git
- Установите NodeJS (рекомендуется последняя LTS-версия)
- Установите Git for Windows
- Откройте Проводник (
Win+E
) - Перейдите в папку, которую не контролирует Windows, или создайте её. (пример: C:\MySpecialFolder)
- Откройте командную строку. Для этого нажмите на адресную строку (сверху), введите
cmd
и нажмите Enter. - Когда появится чёрное окошко (командная строка), введите ОДНУ из перечисленных ниже команд:
-
для ветки release:
git clone https://github.com/SillyTavern/SillyTavern -b release
-
для ветки staging:
git clone https://github.com/SillyTavern/SillyTavern -b staging
- Когда клонирование закончится, дважды щёлкните по
Start.bat
, чтобы установить зависимости для NodeJS. - После этого сервер запустится, и SillyTavern откроется в вашем браузере.
- Когда клонирование закончится, дважды щёлкните по
Установка с помощью SillyTavern Launcher
- Установите Git for Windows
- Откройте Проводник (
Win+E
) и создайте или выберите папку, в которую будет установлен лаунчер - Откройте командную строку. Для этого нажмите на адресную строку (сверху), введите
cmd
и нажмите Enter. - Когда появится чёрное окошко, введите следующую команду:
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git
- Дважды щёлкните по
installer.bat
и выберите, что именно хотите установить - После завершения установки дважды щёлкните по
launcher.bat
Установка с помощью GitHub Desktop
(Тут речь про git только в рамках GitHub Desktop, если хотите использовать git
в командной строке, вам также понадобится Git for Windows)
- Установите NodeJS (latest LTS version is recommended)
- Установите GitHub Desktop
- После завершения установки GitHub Desktop, нажмите
Clone a repository from the internet....
(обратите внимание: для этого шага НЕ требуется аккаунт на GitHub) - В меню перейдите на вкладку URL, введите адрес
https://github.com/SillyTavern/SillyTavern
, и нажмите Clone. В поле Local path можно изменить директорию, в которую будет загружена SillyTavern. - Чтобы запустить SillyTavern, откройте Проводник и перейдите в выбранную на предыдущем шаге папку. По умолчанию репозиторий будет склонирован сюда:
C:\Users\[Имя пользователя]\Documents\GitHub\SillyTavern
- Дважды щёлкните по файлу
start.bat
. (обратите внимание: окончание.bat
может быть скрыто настройками вашей ОС. Таким образом, имя файла будет выглядеть как "Start
". Дважды щёлкните по нему, чтобы запустить SillyTavern) - После того, как вы дважды щёлкнули по файлу, должно открыться чёрное окошко, и SillyTavern начнёт устанавливать свои зависимости.
- Если установка прошла успешно, то в командной строке будет вот такое, а в браузере откроется вкладка с SillyTavern:
- Подключайтесь к любому из поддерживаемых API и начинайте переписку!
🐧 Linux и 🍎 MacOS
В MacOS и Linux всё это делается через Терминал.
- Установите git и nodeJS (как именно - зависит от вашей ОС)
- Клонируйте репозиторий
- для ветки release:
git clone https://github.com/SillyTavern/SillyTavern -b release
- для ветки staging:
git clone https://github.com/SillyTavern/SillyTavern -b staging
- Перейдите в папку установки с помощью
cd SillyTavern
. - Запустите скрипт
start.sh
с помощью одной из команд:
./start.sh
bash start.sh
Установка с помощью SillyTavern Launcher
Для пользователей Linux
- Откройте любимый терминал и установите git
- Загрузите Sillytavern Launcher с помощью команды:
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git
- Перейдите в SillyTavern-Launcher:
cd SillyTavern-Launcher
- Запустите лаунчер установки:
chmod +x install.sh && ./install.sh
, затем выберите, что конкретно хотите установить - После завершения установки, запустите лаунчер следующей командой:
chmod +x launcher.sh && ./launcher.sh
Для пользователей Mac
- Откройте терминал и установите brew:
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
- Затем установите git:
brew install git
- Загрузите Sillytavern Launcher:
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git
- Перейдите в SillyTavern-Launcher:
cd SillyTavern-Launcher
- Запустите лаунчер установки:
chmod +x install.sh && ./install.sh
and choose what you wanna install - После завершения установки, запустите лаунчер следующей командой:
chmod +x launcher.sh && ./launcher.sh
📱 Мобильные устройства - Установка при помощи termux
ОБРАТИТЕ ВНИМАНИЕ!
На Android-телефонах SillyTavern можно запускать нативно посредством Termux. Обратитесь к гайду, написанному ArroganceComplex#2659:
Управление ключами от API
SillyTavern сохраняет ключи от ваших API в файле secrets.json
в папке на сервере.
По умолчанию, ключи не будут отображаться на фронте после их ввода и перезагрузки страницы.
Чтобы включить возможность отображения ключей путём нажатия кнопки в блоке API:
- Зайдите в файл
config.yaml
и установитеallowKeysExposure
в положениеtrue
. - Перезапустите сервер SillyTavern.
Удалённое подключение
В основном этим пользуются тогда, когда хотят использовать SillyTavern с телефона, запустив сервер SillyTavern на стационарном ПК в той же Wi-Fi-сети.
Однако это позволит подключаться откуда угодно, а не только вам.
ВАЖНО: в SillyTavern не предусмотрена возможность использования программы несколькими людьми. Поэтому любой, кто подключится к вашему серверу, получит доступ ко всем вашим персонажам и чатам, а также сможет менять настройки через UI.
1. Заведение "белого списка" IP-адресов
- Создайте в корневой папке SillyTavern файл с названием
whitelist.txt
. - Откройте файл в текстовом редакторе и внесите список IP-адресов, с которых хотите разрешить подключение.
Принимаются как обычные IP-адреса, так и целые диапазоны, размеченные с помощью астериска. Примеры:
192.168.0.1
192.168.0.20
или
192.168.0.*
(диапазон из примера сверху позволит подключаться всем устройствам в локальной сети)
Также принимаются маски CIDR (вида 10.0.0.0/24).
- Сохраните файл
whitelist.txt
. - Перезапустите сервер ST.
После этого устройства из белого списка смогут подключаться к вашему серверу.
Обратите внимание: в файле config.yaml
также имеется массив whitelist
, который работает по тому же принципу. Однако если существует файл whitelist.txt
, то этот массив игнорируется.
2. Получение IP хост-машины с ST
После настройки белого списка адресов, следующим шагом будет получение IP-адреса хост-машины, на которой запущена SillyTavern.
Если хост-машина находится в той же Wi-Fi-сети, то можно воспользоваться её внутренним Wi-Fi-IP-адресом:
- На Windows: нажмите Пуск > введите
cmd.exe
в поиске > в консоли введите командуipconfig
и нажмите Enter > найдите пунктIPv4-адрес
.
Если вы (или кто-то другой) хотите подключаться к хост-машине из другой сети, то вам понадобится ваш публичный IP-адрес.
- Откройте эту страницу с вашей хост-машины и найдите пункт
IPv4
. На этот адрес и будет подключаться удалённое устройство.
3. Соединить удалённое устройство с хост-машиной ST
Какой бы IP-адрес вы ни выбрали, вам нужно будет вводить его в адресной строке браузера вашего удалённого устройства.
Обычный адрес хост-машины, находящейся в той же Wi-Fi-сети, выглядит примерно так:
http://192.168.0.5:8000
НЕ используйте https:// Только http://
Открытие доступа до ST для всех IP-адресов
Мы не рекомендуем так делать, но вы можете открыть файл config.yaml
и изменить whitelistMode
на false
.
Обязательно нужно удалить (или переименовать) файл whitelist.txt
, если такой файл есть в корневой директории SillyTavern.
Эта практика считается небезопасной, поэтому, если вы решите так сделать, мы попросим вас установить логин и пароль.
Оба этих параметра настраиваются в config.yaml
(username и password).
Останется только перезапустить сервер ST, и после этого к вам сможет подключиться любой пользователь вне зависимости от IP-адреса его устройства. Главное, чтобы он знал логин и пароль.
Не получается соединиться?
- Создайте входящее/исходящее правило в вашем фаерволле для порта, указанного в
config.yaml
. НЕ ПУТАЙТЕ этот процесс с пробросом портов на роутере. Если по ошибке перепутаете, то на ваш сервер сможет забраться посторонний человек и украсть ваши логи, этого следует избегать. - Переключите Сетевой профиль на значение "Частные". Для этого зайдите в Параметры > Сеть и Интернет > Ethernet. КРАЙНЕ важно для Windows 11, без этого не получится подключиться даже с правилом фаервола.
Проблемы с производительностью?
Попробуйте включить опцию "Отключить эффект размытия" в меню "Пользовательские настройки".
Нравится ваш проект! Как помочь?
ЧТО ДЕЛАТЬ
- Присылайте пулл реквесты
- Присылайте идеи и баг-репорты, оформленные по установленным шаблонам
- Прежде чем задавать вопросы, прочтите readme и документацию
ЧЕГО НЕ ДЕЛАТЬ
- Предлагать донаты
- Присылать баг-репорты безо всякого контекста
- Задавать вопросы, на которые уже отвечали
Где найти старые фоны?
Мы двигаемся в сторону 100% уникальности всего используемого контента, поэтому старые фоны были убраны из репозитория.
Они отправлены в архив, скачать их можно здесь:
https://files.catbox.moe/1xevnc.zip
Авторы и лицензии
Мы надеемся, что эта программа принесёт людям пользу, но мы не даём НИКАКИХ ГАРАНТИЙ; мы ни в коем случае не гарантируем того, что программа СООТВЕТСТВУЕТ КАКИМ-ЛИБО КРИТЕРИЯМ или ПРИГОДНА ДЛЯ КАКОЙ-ЛИБО ЦЕЛИ. Подробнее можно узнать в GNU Affero General Public License.
- Базовая TAI от Humi: Лицензия неизвестна
- Модификации от Cohee и производная кодовая база: AGPL v3
- Дополнения RossAscends: AGPL v3
- Кусочки TavernAITurbo мода от CncAnon: Лицензия неизвестна
- Различные коммиты и предложения от kingbri (https://github.com/bdashore3)
- Расширения и внедрение разного рода удобств - city_unit (https://github.com/city-unit)
- Различные коммиты и баг-репорты от StefanDanielSchwarz (https://github.com/StefanDanielSchwarz)
- Режим Вайфу вдохновлён работой PepperTaco (https://github.com/peppertaco/Tavern/)
- Благодарность Pygmalion University за прекрасную работу по тестированию и за все предлагаемые крутые фичи!
- Благодарность oobabooga за компиляцию пресетов для TextGen
- Пресеты для KoboldAI из KAI Lite: https://lite.koboldai.net/
- Шрифт Noto Sans от Google (OFL license)
- Тема Font Awesome https://fontawesome.com (Иконки: CC BY 4.0, Шрифты: SIL OFL 1.1, Код: MIT License)
- Клиентская библиотека для AI Horde от ZeldaFan0225: https://github.com/ZeldaFan0225/ai_horde
- Пусковой скрипт для Linux от AlpinDale
- Благодарность paniphons за оформление документа с FAQ
- Фон в честь 10 тысяч пользователей в Discord от @kallmeflocc
- Стандартный контент (персонажи и лорбуки) предоставлен пользователями @OtisAlejandro, @RossAscends и @kallmeflocc
- Корейский перевод от @doloroushyeonse
- Поддержка k_euler_a для Horde от https://github.com/Teashrock
- Китайский перевод от @XXpE3, 中文 ISSUES 可以联系 @XXpE3