Was ist eine Gruppe

Verstehen, wie MoleAPI-Gruppen mit Modellverfügbarkeit, Preisstrategien und Stabilität zusammenhängen

In MoleAPI kann Gruppe so verstanden werden: „Über welches Modell-Channel- und Preisstrategie-Set ein bestimmter API Key läuft“.

Es ist kein rein darstellendes Feld, sondern wirkt sich direkt auf Folgendes aus:

Welche Modelle dieser Key sehen kann
Über welche Art von Channel diese Modelle aufgerufen werden
Welche Preisstrategie gilt
In manchen Fällen auf Stabilität und geeignete Einsatzszenarien

Warum gibt es Gruppen

Wenn die Plattform alle Modelle, alle Preise und alle Channels ohne Trennung zusammenmischt, ist es für Nutzer schwierig, nach Einsatzzweck zu unterscheiden.

Der Zweck von Gruppen ist, unterschiedliche Ziele getrennt verwalten zu können, zum Beispiel:

Testumgebung und Produktionsumgebung verwenden unterschiedliche Gruppen
Kostensensitive Requests laufen über eine günstigere Gruppe
Stabilitätskritische Requests laufen über eine stabilere Gruppe
Bestimmte Modelle dürfen nur von bestimmten Keys verwendet werden

Wie du Gruppen verstehen kannst

Eine praxisnähere Definition ist:

Gruppe = Kombination aus Modellmenge + Channel-Strategie + Preisstrategie

Deshalb kann selbst beim gleichen Modell in unterschiedlichen Gruppen Folgendes auftreten:

Unterschiedliche Verfügbarkeit; ein Gruppenwechsel kann dazu führen, dass ein Modell nicht mehr verfügbar ist
Unterschiedliche Stückpreise; teilweise mit Rabatt
Unterschiedliche Stabilität im Nutzungserlebnis, z. B. kann die Stabilität der Gruppe relay geringer sein

Wähle im linken Filter auf der Preisseite der Konsole „Verfügbare Token-Gruppen“, um die in dieser Gruppe sichtbare Modellliste anzuzeigen.

MoleAPI-Konsolen-Preisseite: links der Filter für verfügbare Token-Gruppen (z. B. default, discount), nach Auswahl einer Gruppe wird rechts die Liste der in dieser Gruppe nutzbaren Modelle angezeigt

Häufige Gruppentypen

Im Folgenden die in der Dokumentation häufigsten und am einfachsten verständlichen Typen:

Gruppentyp	Merkmale	Geeignete Szenarien
`default`	Standardgruppe, in der Regel stabiler und universeller	Produktivprojekte, langfristige Nutzung
`discount`	Aktions- oder Rabattgruppe	Kostensensitive Szenarien, bei denen Änderungen durch Aktionen akzeptiert werden
`relay`	Meist günstiger, das Nutzungserlebnis hängt jedoch stärker vom konkreten Channel ab	Tests, Experimente, stark kostensensitive Szenarien

Maßgeblich sind die aktuellen Gruppeninformationen in der Konsole und in den Systemankündigungen.

Was sollten Einsteiger wählen

Wenn du zum ersten Mal integrierst, wird empfohlen:

Zuerst die Standardgruppe verwenden, um den Ablauf erfolgreich durchzuspielen
Danach anhand von Preis, Modellabdeckung und Stabilität Anpassungen vornehmen

Der Grund: Für Einsteiger ist es wichtiger, den Ablauf zuerst erfolgreich umzusetzen, als sofort maximal zu sparen.

Wann sollte man Gruppen bewusst unterscheiden

In den folgenden Szenarien solltest du Gruppen klar planen:

1. Trennung von Produktion und Test

Lass Test-Traffic und produktiven Traffic nicht in derselben Strategie zusammenlaufen.

2. Wenn du Kosten steuern willst

Wenn du sehr preissensitiv bist, sind Gruppen ein wichtiges Mittel zur Steuerung.

3. Unterschiedliche Berechtigungen für unterschiedliche Systeme

Zum Beispiel:

Interne Experimentierprojekte können günstigere Gruppen verwenden
Offizielle Produkte geben nur wenige stabile Modelle frei

4. Wenn du die Wirkung unterschiedlicher Channels beobachten willst

Manchmal unterscheidet sich das Nutzungserlebnis desselben Modells je nach Gruppe. Dann ist es sinnvoll, zuerst mit geringem Traffic zu testen und erst danach die langfristige Strategie festzulegen.

Beziehung zwischen Gruppen und API Key

Gruppen werden in der Regel auf dem API Key konfiguriert. Beim Erstellen oder Bearbeiten eines API Key wählst du unter „Token-Gruppe“ die Gruppe dieses Key aus (z. B. default, discount, relay). Unterschiedliche Gruppen entsprechen unterschiedlichen Ratios und Modellumfängen.

Auswahloberfläche für die Token-Gruppe beim Erstellen oder Bearbeiten eines API Key: Unter dem Eingabefeld werden Gruppen wie default (Standard 1x), discount (Sonderpreis 0.8x), relay (Weiterleitung 0.3x) sowie die zugehörigen Ratios aufgelistet

Das bedeutet:

Unterschiedliche Keys können über unterschiedliche Gruppen laufen
Dasselbe Konto kann gleichzeitig mehrere Strategien besitzen
Du kannst unterschiedliche Keys pro Projekt oder Umgebung vergeben und ihnen unterschiedliche Gruppen zuweisen

Deshalb empfehlen wir häufig:

Einen Test-Key
Einen produktiven Key
Bei Bedarf für jedes System einen eigenen Key

Nutzungsempfehlungen

Empfohlene Vorgehensweise

Einsteiger sollten zuerst default verwenden
Mehrere Keys nach Umgebung trennen
Für wichtige Geschäftsprozesse zuerst Stabilität sicherstellen und erst dann günstigere Gruppen in Betracht ziehen
Vor dem Go-live in der Zielgruppe zuerst echte Tests durchführen

Nicht empfohlene Vorgehensweise

Alle Projekte teilen sich einen Key und eine Gruppe
Ohne ausreichendes Verständnis direkt produktiven Traffic auf eine unbekannte Gruppe umstellen
Nur auf den Preis schauen und Modellverfügbarkeit sowie Stabilität ignorieren

Kurzempfehlung

Nutze zuerst die Standardgruppe, um den Ablauf erfolgreich umzusetzen, und optimiere die Gruppen danach entsprechend Kosten-, Modell- und Stabilitätsanforderungen.