KI-Einstellungen

In Ryokan kannst du selbst bestimmen, wie deine KI antwortet. Von der Kreativität und Antwortlänge bis zur Verwaltung langer Gespräche stehen dir verschiedene Einstellungen zur Verfügung.

Die meisten Optionen funktionieren mit wenigen Klicks. Für zusätzliche Kontrolle gibt es einen Power-User-Modus.

Antwortverhalten anpassen

Öffne Einstellungen → API & Modell. Unter Antwortverhalten findest du die wichtigsten Einstellungen für die Textgenerierung.

Kreativität (Temperature): Bestimmt, wie vorhersehbar oder abwechslungsreich die Antworten ausfallen. Niedrige Werte erzeugen meist konsistentere Antworten, höhere Werte ermöglichen mehr Variation.
Antwortlänge (Max Tokens): Legt fest, wie viele Tokens eine KI-Antwort maximal verwenden darf. Ein höheres Limit erlaubt längere Antworten, erzwingt sie aber nicht.
Wiederholungs-Strafe (Repetition Penalty): Reduziert wiederholte Wörter und Formulierungen. Zu hohe Werte können den Schreibstil allerdings unnatürlich machen.

Für diese Einstellungen bietet Ryokan vordefinierte Werte, sodass du nicht direkt mit Zahlen arbeiten musst.

Sampling und weitere Parameter

Unter Sampling und weitere Parameter findest du zusätzliche Möglichkeiten, die Textgenerierung zu beeinflussen.

Wortvielfalt (Top-P) steuert, wie breit die Auswahl möglicher nächster Tokens ist. Auswahl-Limit (Top-K) begrenzt diese Auswahl auf eine bestimmte Anzahl besonders wahrscheinlicher Tokens.

Mit dem Qualitätsfilter (Min-P) kannst du sehr unwahrscheinliche Optionen ausschließen. Wiederholungen reduzieren (Frequency Penalty) macht häufig verwendete Wörter bei der weiteren Generierung weniger wahrscheinlich.

Nicht jeder KI-Anbieter unterstützt sämtliche Parameter. Bei nicht unterstützten Einstellungen kann ein Anbieter Werte ignorieren oder eine Anfrage ablehnen.

Denktiefe und Denkbudget

Bei unterstützten Modellen kannst du einstellen, wie viel Aufwand die KI vor einer Antwort für ihre interne Verarbeitung verwenden darf.

Unter Denktiefe stehen je nach Modell unterschiedliche Stufen zur Verfügung. Mit Auto verwendest du die Standardeinstellung des Anbieters.

Einige Modelle unterstützen zusätzlich ein Denkbudget, das die Anzahl der Thinking-Tokens begrenzt. Ein höheres Budget kann komplexere Verarbeitung ermöglichen, aber auch die Antwortzeit erhöhen.

Bei Anthropic und Gemini teilen sich Thinking und eigentliche Antwort das Ausgabe-Limit. Das Denkbudget erhöht dieses Limit nicht automatisch.

Kontextfenster und Gedächtnis

Unter Einstellungen → Gedächtnis verwaltest du, wie Ryokan mit längeren Gesprächen umgeht.

Das Kontextfenster bestimmt, wie viel Gesprächsverlauf die KI gleichzeitig berücksichtigen kann. Ryokan versucht, die verfügbare Kontextgröße des ausgewählten Modells automatisch zu erkennen.

Du kannst zwischen drei Kontextstrategien wählen:

Sparsam: Verwendet weniger Kontext und kann API-Kosten reduzieren.
Ausgewogen: Verbindet Gesprächskontinuität mit einem moderaten Kontextverbrauch.
Maximaler Kontext: Nutzt möglichst viel vom verfügbaren Kontextfenster.

Alternativ kannst du über Manuelles Limit eine eigene Obergrenze festlegen.

Gesprächszusammenfassung

Aktivierst du Gesprächszusammenfassung, kann Ryokan ältere Abschnitte langer Unterhaltungen automatisch zusammenfassen.

Dadurch bleiben wichtige Informationen aus dem bisherigen Verlauf auch dann verfügbar, wenn nicht mehr alle ursprünglichen Nachrichten in das Kontextfenster passen.

Unter Verbindung für Zusammenfassungen kannst du außerdem eine separate KI-Verbindung auswählen. So lässt sich beispielsweise ein günstigeres Modell für Zusammenfassungen verwenden.

Presets erstellen und verwenden

Unter Einstellungen → Presets kannst du wiederverwendbare KI-Konfigurationen erstellen.

Ein Preset kann Generationseinstellungen und zusätzliche Prompt-Anweisungen enthalten. Dazu gehören auch Systemanweisungen und Abschließende Anweisungen, die nach dem Gesprächsverlauf ergänzt werden.

Du kannst Presets speichern, bearbeiten, anwenden und als JSON-Datei importieren oder exportieren.

Presets werden unabhängig von deinen KI-Verbindungen verwaltet. Beim Anwenden werden die entsprechenden Einstellungen für die aktuelle Verbindung übernommen.

Power-User-Modus

Unter Einstellungen → Erweitert kannst du den Power-User-Modus aktivieren.

Dadurch werden die einfachen Auswahlmöglichkeiten durch präzisere Regler ersetzt.

Zusätzlich stehen erweiterte Optionen zur Verfügung, darunter:

Service Tier: Auswahl zwischen Auto, Standard und Flex, sofern der Anbieter diese Verarbeitung unterstützt.
Zusätzliche API-Parameter: Anbieterspezifische Einstellungen über ein JSON-Objekt.

Diese Optionen sind vor allem für Nutzer gedacht, die ihre Modelle gezielt konfigurieren möchten.

Einstellungen direkt im Chat ändern

Du musst eine laufende Geschichte nicht verlassen, um Einstellungen anzupassen.

Öffne im Chat das Menü mit den drei Punkten. Dort kannst du unter anderem die aktive KI-Verbindung, das Modell und die Generierungsparameter ändern.

Änderungen in diesem Chat-Einstellungsmenü werden direkt für die nächsten Anfragen gespeichert.

Tipp: Für den Einstieg reichen die Standardwerte meistens aus. Wenn du etwas verändern möchtest, beginne am besten mit Kreativität und Antwortlänge, bevor du mehrere Sampling-Parameter gleichzeitig anpasst.