Wie erstelle ich im Enginsight SIEM einen LLM-Provider für IONOS CLOUD AI?
Im Enginsight SIEM hast du die Möglichkeit, LLM (Large Language Model)-Anbieter anzubinden, um KI-Ressourcen bspw. im Kontext des Data Lakes und in Playbooks zu nutzen.
Neben LLM-Anbietern wie ChatGPT, Ollama und DeepMask kannst du auch andere LLM-Anbieter anbinden, die die OpenAI-Schnittstelle nutzen.
Im Folgenden zeigen wir dir, wie du in Enginsight einen LLM-Provider für die IONOS CLOUD AI erstellst.
Schritt 1: API-Token in IONOS CLOUD erstellen
Nimm folgende Schritte vor, um in IONOS CLOUD einen API-Token zu generieren:
Logge dich in deiner IONOS CLOUD DCD-Instanz ein.
Bitte beachte: Die im folgenden beschriebenen Ansichten und Konfigurationsschritte können sich ändern. Enginsight übernimmt keine Gewähr für Änderungen an der Benutzeroberfläche von Drittanbietern.
Klicke in der rechten oberen Ecke der Ansicht auf Management und wähle Token Manager aus dem Menü aus.
Stelle einen Time To Live (TTL)-Wert für das API-Token ein. Dieser bestimmt, wie lange das Token gültig ist. Wir empfehlen eine TTL von 365 Tagen.
Bitte beachte: Dieser Schritt ist wichtig, da anderenfalls der LLM-Provider, den du in der Enginsight Plattform anlegst, nur 1 Stunde lang funktioniert!
Klicke auf Generate Token, um das API-Token zu generieren.
Nun wird dir das erstellte API-Token angezeigt.
Klicke auf Download, um den Token Value herunterzuladen, und speichere ihn an einem sicheren Ort. Den Token Value benötigst du später in der Enginsight Plattform.
Schritt 2: LLM-Provider in Enginsight anlegen
Nimm folgende Schritte vor, um einen LLM-Provider für IONOS CLOUD AI in der Enginsight Plattform anzulegen:
Logge dich in der Enginsight Plattform ein.
Navigiere zu SIEM → Orchestrierung (SOAR) → LLM Provider.
Klicke auf LLM Provider hinzufügen in der rechten oberen Ecke der Ansicht, um einen neuen LLM-Provider hinzuzufügen.
Gib dem LLM-Anbieter einen aussagekräftigen Namen, in unserem Beispiel ist dies IONOS - OpenAI Hub. Bei Bedarf kannst du dem LLM-Anbieter noch eine genauere Beschreibung hinzufügen.
Setze einen Haken in die Checkbox neben Standard LLM Provider, wenn du IONOS CLOUD als Standard-Anbieter festlegen möchtest. Wenn du bei der Eingabe eines Prompts keinen spezifischen anderen Anbieter auswählst, wird standardmäßig der hier festgelegte Anbieter verwendet.
Klicke in das Feld Anbieter und wähle OpenAI Compatible aus der Liste aus.
Gib im Feld Modell das konkrete KI-Modell an, das du verwenden möchtest.
In IONOS CLOUD entspricht dies dem sogenannten Model Identifier, in unserem Beispiel ist dies mistralai/Mistral-Small-24B-Instruct.
Bitte beachte: Enginsight übernimmt für Inhalte und Aktualität der Dokumentation von Drittanbietern keine Gewähr.
Gib im Feld Base-Url die Basis-URL an, unter der die API des LLM-Anbieters aufgerufen werden kann.
Für IONOS CLOUD ist dies https://openai.inference.de-txl.ionos.com/v1 .
Füge im Feld API-Schlüssel den API-Token ein, den du in Schritt 1 in IONOS CLOUD erstellt hast.
Lege im Feld Prompts optional fest, wie viele Prompts gleichzeitig durch das LLM bearbeitet werden dürfen. Die standardmäßig angegebene Anzahl ist 1.
Passe bei Bedarf das Nutzungslimit an, um den Ressourcenverbrauch des genutzten LLMs zu steuern:
Klicke auf Nutzungslimit hinzufügen, um weitere Eingabefelder zu öffnen.
Gib im Feld Grenzwert den maximalen Wert für die Ressource an, der innerhalb des definierten Zeithorizonts genutzt werden darf. Der standardmäßig angegebene Grenzwert ist 1000000.
Gib im Feld Zeithorizont die Zeiteinheit an, für die das Nutzungslimit gilt. Der Zeithorizont ergibt sich aus der hier angegebenen Zeiteinheit und dem gewählten Intervall. Die standardmäßig angegebene Zeiteinheit ist Months.
Lege im Feld Intervall fest, für wie viele Tage, Wochen oder Monate das Nutzungslimit gilt. Das standardmäßig angegebene Intervall ist 1.
Klicke auf LLM Provider hinzufügen, nachdem du alle Einstellungen vorgenommen hast, um den neuen LLM-Anbieter anzulegen.
Zuletzt aktualisiert
War das hilfreich?