rixty
/
SillyTavern
mirror of https://github.com/SillyTavern/SillyTavern.git
1
0
Fork 0
Code Issues Packages Projects Releases Wiki Activity
SillyTavern/.github/readme-de_de.md

23 KiB
Raw Blame History

[!IMPORTANT]
Die hier veröffentlichten Informationen sind möglicherweise veraltet oder unvollständig. Für aktuelle Informationen nutzen Sie bitte die englische Version. Letztes Update dieser README: 28.9.2024

SillyTavern bietet eine einheitliche Benutzeroberfläche für viele LLM-APIs (KoboldAI/CPP, Horde, NovelAI, Ooba, Tabby, OpenAI, OpenRouter, Claude, Mistral und mehr), ein mobilfreundliches Layout, einen Visual-Novel-Modus, die Integration von Automatic1111 & ComfyUI API zur Bilderzeugung, TTS, WorldInfo (Lorebooks), anpassbare UI, automatische Übersetzung, mehr Eingabeaufforderungsoptionen, als du jemals wolltest oder brauchst, und unendliches Wachstumspotenzial durch Drittanbietererweiterungen.

Wir haben eine Dokumentationswebsite, um die meisten deiner Fragen zu beantworten und dir den Einstieg zu erleichtern.

Was ist SillyTavern?

SillyTavern (oder ST abgekürtz) ist eine lokal installierte Benutzeroberfläche, die es dir ermöglicht, mit Textgenerations-LLMs, Bildgenerierungsmaschinen und TTS-Sprachmodellen zu interagieren.

Angefangen im Februar 2023 als Fork von TavernAI 1.2.8 hat SillyTavern nun über 100 Mitwirkende und 2 Jahre unabhängiger Entwicklung hinter sich und dient weiterhin als führende Software für versierte KI-Hobbyisten.

Unsere Vision

  1. Wir möchten die Nutzer mit so viel Nutzen und Kontrolle über ihre LLM-Prompts wie möglich ausstatten. Die steile Lernkurve ist Teil des Spaßes!
  2. Wir bieten weder Online- oder gehosteten Dienste an, noch verfolgen wir programmgesteuert Benutzerdaten.
  3. SillyTavern ist ein Herzensprojekt, das von einer engagierten Community von LLM-Enthusiasten unterstützt wird, und wird immer kostenlos und Open Source sein.

Branches

SillyTavern wird mit einem Branchsystem entwickelt, um ein reibungsloses Erlebnis für alle Nutzer zu gewährleisten.

  • release -🌟 Empfohlen für die meisten Nutzer. Dies ist der stabilste und empfohlene Branch, der nur aktualisiert wird, wenn wichtige Versionen veröffentlicht werden. Er ist für die Mehrheit der Nutzer geeignet. Typischerweise einmal im Monat aktualisiert.
  • staging - ⚠️ Nicht für den gelegentlichen Gebrauch empfohlen. Dieser Branch enthält die neuesten Funktionen, kann jedoch jederzeit instabil sein. Nur für Power-User und Enthusiasten. Mehrmals täglich aktualisiert.

Wenn du nicht vertraut mit der Verwendung der git CLI bist oder nicht verstehst, was ein Branch ist, mach dir keine Sorgen! Der Release-Branch ist immer die bevorzugte Option für dich.

Was brauche ich zusätzlich zu SillyTavern?

Da SillyTavern nur eine Benutzeroberfläche ist, benötigst du Zugriff auf ein LLM-Backend, um Inferenz bereitzustellen. Du kannst AI Horde für sofortiges Chatten ohne weitere Einrichtung verwenden. Darüber hinaus unterstützen wir viele andere lokale und cloudbasierte LLM-Backends: OpenAI-kompatible API, KoboldAI, Tabby und viele mehr. Du kannst mehr über unsere unterstützten APIs in der FAQ lesen.

Brauche ich einen leistungsstarken PC, um SillyTavern auszuführen?

Die Hardwareanforderungen sind minimal: Es läuft auf allem, was NodeJS 18 oder höher ausführen kann. Wenn du LLM-Inferenz auf deinem lokalen Rechner durchführen möchtest, empfehlen wir eine NVIDIA-Grafikkarte der 3000er-Serie mit mindestens 6 GB VRAM. Überprüfe die Dokumentation deines Backends für weitere Einzelheiten.

Vorgeschlagene Backends (keine Partnerschaft oder Werbebeziehung)

  • AI Horde - verwende Modelle, die von Freiwilligen gehostet werden. Erfordert keine weitere Einrichtung
  • KoboldCpp - ein Favorit der Community, um GGUF-Modelle lokal auszuführen
  • tabbyAPI - eine beliebte, portable, speicherplatzoptimierte und lokal gehostete exl2 Inferenz-API
  • OpenRouter - eine einzige API für viele Cloud-Anbieter (OpenAI, Claude, Meta Llama usw.) sowie beliebte Community-Modelle.

Fragen oder Vorschläge?

Discord-Server

Tritt unserer Discord-Community bei! Erhalte Unterstützung, teile deine Lieblingscharaktere und Prompts.

Oder nimm direkt Kontakt mit den Entwicklern auf:

Ich mag dieses Projekt! Wie kann ich beitragen?

  1. Sende Pull-Requests. Lerne, wie du beitragen kannst: CONTRIBUTING.md
  2. Sende Feature Requests und Issues unter Verwendung der bereitgestellten Vorlagen.
  3. Lies diese gesamte README-Datei und überprüfe zuerst die Dokumentationswebsite, um doppelte Issues zu vermeiden.

Screenshots

image image

Charakterkarten

SillyTavern basiert auf dem Konzept der "Charakterkarten". Eine Charakterkarte ist eine Sammlung von Prompts, die das Verhalten des LLM festlegen und erforderlich sind, um persistente Gespräche in SillyTavern zu führen. Sie funktionieren ähnlich wie ChatGPT's GPTs oder Poe's Bots. Der Inhalt einer Charakterkarte kann alles sein: ein abstraktes Szenario, ein Assistent, der für eine bestimmte Aufgabe maßgeschneidert ist, eine berühmte Persönlichkeit oder ein fiktiver Charakter.

Das Namensfeld ist der einzige erforderliche Eingabewert für die Charakterkarte. Um ein neutrales Gespräch mit dem LLM zu beginnen, erstelle eine neue Karte, die einfach "Assistent" genannt wird, und lasse die restlichen Felder leer. Für einen thematischeren Chat kannst du dem LLM verschiedene Hintergrundinformationen, Verhaltensweisen und Schreibmuster sowie ein Szenario geben, um das Gespräch zu beginnen.

Um ein schnelles Gespräch zu führen, ohne eine Charakterkarte auszuwählen, oder um einfach die LLM-Verbindung zu testen, gib einfach dein Prompt in die Eingabezeile auf dem Willkommensbildschirm ein, nachdem du SillyTavern geöffnet hast. Bitte beachte, dass solche Chats vorübergehend sind und nicht gespeichert werden.

Um eine allgemeine Vorstellung davon zu bekommen, wie man Charakterkarten definiert, sieh dir die mitgelieferte Charakterkarte (Seraphina) an oder lade ausgewählte von der Community erstellte Karten im Menü "Erweiterungen & Assets herunterladen" herunter.

Wichtigste Features

  • Erweiterte Text-Generierungs-Einstellungen mit vielen von der Community erstellten mitgelieferten Einstellungen (Presets)
  • Unterstützung für World Info: Erstelle reichhaltige Lore oder reduziere die Tokens in deiner Charakterkarte
  • Gruppenchats: Multi-Bot-Räume für Charaktere, die mit dir und/oder untereinander sprechen
  • Reichhaltige UI-Anpassungsoptionen: Themes zur Farbenwahl, Hintergrundbilder, benutzerdefiniertes CSS und mehr
  • Benutzer-Personas: Lass die KI ein wenig über dich wissen, um die Immersion zu erhöhen
  • Eingebaute RAG-Unterstützung: Füge Dokumente zu deinen Chats hinzu, auf die die KI verweisen kann
  • Umfangreiches "Chat-Befehle"-System und eigene Scripting-Engine

Erweiterungen

SillyTavern unterstützt Erweiterungen.

  • Emotionale Ausdrucksformen von Charakteren (Sprites)
  • Automatische Zusammenfassung des Chatverlaufs
  • Automatische UI- und Chat-Übersetzung
  • Bildgenerierung mit Stable Diffusion/FLUX/DALL-E
  • Text-to-Speech für KI-Antwortnachrichten (über ElevenLabs, Silero oder die TTS-Funktion des Betriebssystems)
  • Websuchfunktionen zum Hinzufügen zusätzlicher realer Kontexte zu deinen Eingabeaufforderungen
  • Viele weitere sind im Menü "Erweiterungen & Assets herunterladen" verfügbar.

Tutorials zur Nutzung findest du in der Dokumentation.

⌛ Installation

!WARNING]

* INSTALLIERE NICHT IN EINEM VON WINDOWS KONTROLLIERTEN ORDNER (Programme, System32 usw.).
* FÜHRE START.BAT NICHT MIT ADMIN-BERECHTIGUNGEN AUS.
* DIE INSTALLATION AUF WINDOWS 7 IST UNMÖGLICH, DA ES NODEJS 18.16 NICHT AUSFÜHREN KANN.

🪟 Windows

Installation über Git

  1. Installiere NodeJS (die neueste LTS-Version wird empfohlen).
  2. Installiere Git für Windows.
  3. Öffne den Windows-Explorer (Win+E).
  4. Gehe zu oder erstelle einen Ordner, der nicht von Windows kontrolliert oder überwacht wird. (z.B.: C:\MySpecialFolder)
  5. Öffne ein Eingabeaufforderungsfenster in diesem Ordner, indem du in die 'Adressleiste' oben klickst, cmd eingibst und Enter drückst.
  6. Sobald das schwarze Fenster (Eingabeaufforderung) erscheint, gib EINE der folgenden Optionen ein und drücke Enter:
  • für den Release-Branch: git clone https://github.com/SillyTavern/SillyTavern -b release
  • für den Staging-Branch: git clone https://github.com/SillyTavern/SillyTavern -b staging
  1. Sobald alles geklont ist, doppelklicke auf Start.bat, damit NodeJS seine Anforderungen installiert.
  2. Der Server wird dann gestartet, und SillyTavern wird in deinem Browser geöffnet.

Installation über GitHub Desktop

(Dies ermöglicht die Nutzung von git nur in GitHub Desktop. Wenn du git auch in der Eingabeaufforderung verwenden möchtest, musst du auch Git für Windows installieren.)

  1. Installiere NodeJS (die neueste LTS-Version wird empfohlen).
  2. Installiere GitHub Desktop.
  3. Klicke nach der Installation von GitHub Desktop auf Ein Repository aus dem Internet klonen.... (Hinweis: Du musst kein GitHub-Konto für diesen Schritt erstellen).
  4. Klicke im Menü auf den Tab URL, gib diese URL ein https://github.com/SillyTavern/SillyTavern und klicke auf Klonen. Du kannst den lokalen Pfad ändern, um festzulegen, wohin SillyTavern heruntergeladen werden soll.
  5. Um SillyTavern zu öffnen, durchsuche mit dem Windows-Explorer den Ordner, in den du das Repository geklont hast. Standardmäßig wird das Repository hier hin geklont: C:\Users\[Dein Windows-Benutzername]\Documents\GitHub\SillyTavern.
  6. Doppelklicke auf die Datei start.bat. (Hinweis: Der Teil .bat des Dateinamens könnte von deinem Betriebssystem verborgen sein. In diesem Fall sieht es aus wie eine Datei namens "Start". Dies ist die Datei, auf die du doppelklickst, um SillyTavern auszuführen.)
  7. Nach dem Doppelklicken sollte ein großes schwarzes Konsolenfenster erscheinen, und SillyTavern beginnt, das zu installieren, was es zum Betrieb benötigt.
  8. Nach dem Installationsprozess sollte das Konsolenfenster so aussehen, und ein SillyTavern-Tab sollte in deinem Browser geöffnet sein.
  9. Verbinde dich mit einer der unterstützten APIs und beginne zu chatten!

🐧 Linux & 🍎 MacOS

Für MacOS/Linux werden all diese Schritte in einem Terminal durchgeführt.

  1. Installiere git und nodeJS (die Methode zur Durchführung hängt von deinem Betriebssystem ab).
  2. Klone das Repository.
  • für den Release-Branch: git clone https://github.com/SillyTavern/SillyTavern -b release
  • für den Staging-Branch: git clone https://github.com/SillyTavern/SillyTavern -b staging
  1. cd SillyTavern, um in den Installationsordner zu navigieren.
  2. Führe das Skript start.sh mit einem dieser Befehle aus:
  • ./start.sh
  • bash start.sh

⚡ Installation über SillyTavern Launcher

Der SillyTavern Launcher ist ein Installationsassistent, der dir bei der Einrichtung mit vielen Optionen helfen wird, einschließlich der Installation eines Backends für lokale Inferenz.

Für Windows-Nutzer

  1. Drücke auf deiner Tastatur WINDOWS + R, um das Ausführen-Dialogfeld zu öffnen. Führe dann den folgenden Befehl aus, um git zu installieren:
cmd /c winget install -e --id Git.Git
  1. Drücke auf deiner Tastatur WINDOWS + E, um den Datei-Explorer zu öffnen, und navigiere dann zu dem Ordner, in dem du den Launcher installieren möchtest. Gib im gewünschten Ordner in die Adressleiste cmd ein und drücke Enter. Führe dann den folgenden Befehl aus:
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher && start installer.bat

Für Linux-Nutzer

  1. Öffne dein bevorzugtes Terminal und installiere git.
  2. Klone den SillyTavern-Launcher mit:
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher
  1. Starte die installer.sh mit:
chmod +x install.sh && ./install.sh
  1. Nach der Installation starte die launcher.sh mit:
chmod +x launcher.sh && ./launcher.sh

Für Mac-Nutzer

  1. Öffne ein Terminal und installiere brew mit:
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
  1. Installiere git mit:
brew install git
  1. Klone den SillyTavern-Launcher mit:
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher
  1. Starte die installer.sh mit:
chmod +x install.sh && ./install.sh
  1. Nach der Installation starte die launcher.sh mit:
chmod +x launcher.sh && ./launcher.sh

🐋 Installation über Docker

Diese Anweisungen setzen voraus, dass du Docker installiert hast, auf deine Befehlszeile für die Installation von Containern zugreifen kannst und mit deren allgemeiner Funktionsweise vertraut bist.

Image selbst bauen

Wir haben einen umfassenden Leitfaden zur Nutzung von SillyTavern in Docker hier der die Installationen auf Windows, macOS und Linux abdeckt! Lies ihn, wenn du das Image selbst bauen möchtest.

Verwendung der GitHub Container Registry (am einfachsten)

Du benötigst zwei zwingende Verzeichniszuordnungen und eine Portzuordnung, um SillyTavern funktionsfähig zu machen. Ersetze in dem Befehl deine Auswahl an den folgenden Stellen:

Container-Variablen

Volumen-Zuordnungen
  • [config] - Das Verzeichnis, in dem die SillyTavern-Konfigurationsdateien auf deinem Host-Computer gespeichert werden
  • [data] - Das Verzeichnis, in dem die Benutzerdaten von SillyTavern (einschließlich Charaktere) auf deinem Host-Computer gespeichert werden
  • [plugins] - (optional) Das Verzeichnis, in dem die SillyTavern-Server-Plugins auf deinem Host-Computer gespeichert werden
Port-Zuordnungen
  • [PublicPort] - Der Port, über den der Datenverkehr ausgegeben werden soll. Dies ist zwingend erforderlich, da du auf die Instanz von außerhalb des virtuellen Maschinencontainers zugreifst. EXPOSIERE DIES NICHT IM INTERNET, OHNE EINEN GETRENNTEN SERVICE FÜR DIE SICHERHEIT ZU IMPLEMENTIEREN.
Zusätzliche Einstellungen
  • [DockerNet] - Das Docker-Netzwerk, mit dem der Container erstellt werden soll. Wenn du nicht weißt, was das ist, sieh dir die offizielle Docker-Dokumentation an.
  • [version] - Auf der rechten Seite dieser GitHub-Seite siehst du "Packages". Wähle das Paket "sillytavern" und du siehst die Imageversionen. Das Image-Tag "latest" hält dich auf dem Laufenden mit dem aktuellen Release. Du kannst auch "staging" und "release" Tags nutzen, die auf die nightly images der jeweiligen Branche verweisen, aber das könnte unangemessen sein, wenn du Erweiterungen verwendest, die möglicherweise kaputt sind und Zeit benötigen, um aktualisiert zu werden.

Installationsbefehl

  1. Öffne deine Befehlszeile.
  2. Führe den folgenden Befehl aus:

docker create --name='sillytavern' --net='[DockerNet]' -p '8000:8000/tcp' -v '[plugins]':'/home/node/app/plugins':'rw' -v '[config]':'/home/node/app/config':'rw' -v '[data]':'/home/node/app/data':'rw' 'ghcr.io/sillytavern/sillytavern:[version]'

Beachte, dass 8000 ein Standard-Listening-Port ist. Vergiss nicht, einen geeigneten Port zu verwenden, wenn du ihn in der Konfiguration änderst.

📱 Installation über Termux auf Android OS

!HINWEIS]
**SillyTavern kann nativ auf Android-Geräten über Termux ausgeführt werden, aber wir bieten keine offizielle Unterstützung für diesen Anwendungsfall.**

**Bitte beziehe dich auf diesen Leitfaden von ArroganceComplex#2659:**

* <https://rentry.org/STAI-Termux>

Nicht unterstützte Plattform: android arm LEtime-web. 32-Bit-Android benötigt eine externe Abhängigkeit, die nicht mit npm installiert werden kann. Verwende den folgenden Befehl, um sie zu installieren: pkg install esbuild. Führe dann die üblichen Installationsschritte aus.

API-Schlüsselverwaltung

SillyTavern speichert deine API-Schlüssel in einer Datei secrets.json im Benutzerdatenverzeichnis (/data/default-user/secrets.json ist der Standardpfad).

Standardmäßig sind API-Schlüssel nach dem Speichern und Aktualisieren der Seite nicht mehr über die Benutzeroberfläche sichtbar.

Um die Ansicht deiner Schlüssel zu aktivieren:

  1. Setze den Wert von allowKeysExposure auf true in der Datei config.yaml.
  2. Starte den SillyTavern-Server neu.
  3. Klicke auf den Link 'Verborgene API-Schlüssel anzeigen' in der unteren rechten Ecke des API-Verbindungsfeldes.

Befehlszeilenargumente

Sie können Befehlszeilenargumente an den Start des SillyTavern-Servers übergeben, um einige Einstellungen in config.yaml zu überschreiben.

Beispiele

node server.js --port 8000 --listen false
# oder
npm run start -- --port 8000 --listen false
# oder (nur Windows)
Start.bat --port 8000 --listen false

Unterstützte Argumente

Option Beschreibung Typ
--version Versionsnummer anzeigen boolean
--enableIPv6 Aktiviert IPv6. boolean
--enableIPv4 Aktiviert IPv4. boolean
--port Legt den Port fest, unter dem SillyTavern ausgeführt wird. Wenn nicht angegeben, wird auf YAML-Konfiguration „Port“ zurückgegriffen. number
„--dnsPreferIPv6“ Bevorzugt IPv6 für DNS. Wenn nicht angegeben, wird auf YAML-Konfiguration „preferIPv6“ zurückgegriffen. boolean
„--autorun“ Startet SillyTavern automatisch im Browser. Wenn nicht angegeben, wird auf YAML-Konfiguration „autorun“ zurückgegriffen. boolean
„--autorunHostname“ Der Autorun-Hostname, am besten auf „auto“ belassen. string
„--autorunPortOverride“ Überschreibt den Port für Autorun. string
„--listen“ SillyTavern lauscht auf allen Netzwerkschnittstellen. Wenn nicht angegeben, wird auf YAML-Konfiguration „listen“ zurückgegriffen. boolean
„--corsProxy“ Aktiviert CORS-Proxy. Wenn nicht angegeben, wird auf YAML-Konfiguration „enableCorsProxy“ zurückgegriffen. boolean
--disableCsrf Deaktiviert CSRF-Schutz boolean
--ssl Aktiviert SSL boolean
--certPath Pfad zu Ihrer Zertifikatsdatei. string
--keyPath Pfad zu Ihrer privaten Schlüsseldatei. string
--whitelist Aktiviert den Whitelist-Modus boolean
--dataRoot Stammverzeichnis für Datenspeicherung string
--avoidLocalhost Vermeidet die Verwendung von „localhost“ für Autorun im Auto-Modus. boolean
--basicAuthMode Aktiviert die grundlegende Authentifizierung boolean
--requestProxyEnabled Aktiviert die Verwendung eines Proxys für ausgehende Anfragen boolean
--requestProxyUrl Proxy-URL anfordern (HTTP- oder SOCKS-Protokolle) string
--requestProxyBypass Proxy-Bypass-Liste anfordern (durch Leerzeichen getrennte Liste von Hosts) Array

Remoteverbindungen

Dies ist in den meisten Fällen für Personen gedacht, die SillyTavern auf ihren Mobiltelefonen verwenden möchten, während ihr PC den ST-Server im selben WLAN-Netzwerk betreibt. Es kann jedoch auch verwendet werden, um Remoteverbindungen von überall her zu ermöglichen.

Lies die ausführliche Anleitung zum Einrichten von Remoteverbindungen in den Docs.

Möglicherweise möchtest du SillyTavern-Benutzerprofile auch mit (optionalem) Kennwortschutz konfigurieren: Benutzer.

Leistungsprobleme?

  1. Deaktiviere den Unschärfeeffekt und aktiviere "Verringerte Bewegung" im Bedienfeld "Benutzereinstellungen" (UI-Design schaltet Kategorie um).
  2. Wenn du Response Streaming verwendest, stelle die Streaming-FPS auf einen niedrigeren Wert ein (10-15 FPS werden empfohlen).
  3. Stelle sicher, dass der Browser die GPU-Beschleunigung zum Rendern verwenden kann.

Lizenz und Danksagungen

Dieses Programm wird in der Hoffnung verbreitet, dass es nützlich ist,
aber OHNE JEGLICHE GARANTIE; nicht einmal die stillschweigende Garantie der
MARKTFÄHIGKEIT oder EIGNUNG FÜR EINEN BESTIMMTEN ZWECK. Siehe die
GNU Affero General Public License für weitere Details.

  • TavernAI 1.2.8 von Humi: MIT-Lizenz
  • Teile von CncAnons TavernAITurbo-Mod werden mit Genehmigung verwendet
  • Visual Novel-Modus inspiriert von der Arbeit von PepperTaco (https://github.com/peppertaco/Tavern/)
  • Noto Sans-Schriftart von Google (OFL-Lizenz)
  • Symboldesign von Font Awesome https://fontawesome.com (Symbole: CC BY 4.0, Schriftarten: SIL OFL 1.1, Code: MIT-Lizenz)
  • Standardinhalt von @OtisAlejandro (Seraphina-Charakter und Lorebook) und @kallmeflocc (10.000 Discord-Benutzer-Feierhintergrund)
  • Docker-Anleitung von @mrguymiah und @Bronya-Rand

Top Contributors

Contributors