> For the complete documentation index, see [llms.txt](https://docs.enginsight.com/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.enginsight.com/docs/knowledge-base/hersteller-spezifische-guides/wie-erstelle-ich-im-enginsight-siem-einen-llm-provider-fur-ionos-cloud-ai.md).

# Wie erstelle ich im Enginsight SIEM einen LLM-Provider für IONOS CLOUD AI?

Im Enginsight SIEM hast du die Möglichkeit, LLM (Large Language Model)-Anbieter anzubinden, um KI-Ressourcen bspw. im Kontext des [Data Lakes](https://docs.enginsight.com/docs/manual/bedienung-der-plattform/siem/data-lake) und in [Playbooks](https://docs.enginsight.com/docs/manual/bedienung-der-plattform/siem/orchestrierung-soar/playbooks) zu nutzen.

Neben LLM-Anbietern wie ChatGPT, Ollama und DeepMask kannst du auch andere LLM-Anbieter anbinden, die die OpenAI-Schnittstelle nutzen.

Im Folgenden zeigen wir dir, wie du in Enginsight einen LLM-Provider für die IONOS CLOUD AI erstellst.

***

## Schritt 1: API-Token in IONOS CLOUD erstellen

Nimm folgende Schritte vor, um in IONOS CLOUD einen API-Token zu generieren:

{% stepper %}
{% step %}
Logge dich in deiner IONOS CLOUD DCD-Instanz ein.

{% hint style="warning" %}
**Bitte beachte**: Die im folgenden beschriebenen Ansichten und Konfigurationsschritte können sich ändern. Enginsight übernimmt keine Gewähr für Änderungen an der Benutzeroberfläche von Drittanbietern.
{% endhint %}
{% endstep %}

{% step %}
Klicke in der rechten oberen Ecke der Ansicht auf **Management** und wähle **Token Manager** aus dem Menü aus.

<div align="left"><figure><img src="https://3365013050-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2Fm7kFsCWkwO5xnjJ7eSF0%2Fuploads%2Fhhkepbi3KsasESoPRmZH%2FEnginsight-KB-LLM%20Provider%20IONOS-1.jpg?alt=media&amp;token=808e374b-661a-4a1b-bbb9-b22b7125b2b1" alt=""><figcaption></figcaption></figure></div>
{% endstep %}

{% step %}
Stelle einen **Time To Live (TTL)**-Wert für das API-Token ein. Dieser bestimmt, wie lange das Token gültig ist. Wir empfehlen eine TTL von **365 Tagen**.

{% hint style="danger" %}
**Bitte beachte**: Dieser Schritt ist wichtig, da anderenfalls der LLM-Provider, den du in der Enginsight Plattform anlegst, nur 1 Stunde lang funktioniert!
{% endhint %}

<div align="left"><figure><img src="https://3365013050-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2Fm7kFsCWkwO5xnjJ7eSF0%2Fuploads%2FHf335lg5kAiSObH3d856%2FEnginsight-KB-LLM%20Provider%20IONOS-2.jpg?alt=media&amp;token=dae668c5-1ce6-4bf7-9ce1-1fc2b5556cda" alt="" width="563"><figcaption></figcaption></figure></div>

Klicke auf **Generate Token**, um das API-Token zu generieren.
{% endstep %}

{% step %}
Nun wird dir das erstellte API-Token angezeigt.

Klicke auf **Download**, um den **Token Value** herunterzuladen, und speichere ihn an einem sicheren Ort. Den Token Value benötigst du später in der Enginsight Plattform.

<div align="left"><figure><img src="https://3365013050-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2Fm7kFsCWkwO5xnjJ7eSF0%2Fuploads%2FHyrqIzOWDHxwH7OgZiUL%2FEnginsight-KB-LLM%20Provider%20IONOS.jpg?alt=media&amp;token=55b8db9a-eae1-4cee-a07a-cc376d400d50" alt="" width="563"><figcaption></figcaption></figure></div>
{% endstep %}
{% endstepper %}

***

## Schritt 2: LLM-Provider in Enginsight anlegen

Nimm folgende Schritte vor, um einen LLM-Provider für IONOS CLOUD AI in der Enginsight Plattform anzulegen:

{% stepper %}
{% step %}
Logge dich in der Enginsight Plattform ein.
{% endstep %}

{% step %}
Navigiere zu **SIEM** → **Orchestrierung (SOAR)** → [LLM Provider](https://docs.enginsight.com/docs/manual/bedienung-der-plattform/siem/orchestrierung-soar/llm-provider).
{% endstep %}

{% step %}
Klicke auf <i class="fa-plus">:plus:</i> **LLM Provider hinzufügen** in der rechten oberen Ecke der Ansicht, um einen [neuen LLM-Provider hinzuzufügen](https://docs.enginsight.com/docs/manual/bedienung-der-plattform/siem/orchestrierung-soar/llm-provider/llm-provider-hinzufugen).
{% endstep %}

{% step %}
Gib dem LLM-Anbieter einen aussagekräftigen **Namen**, in unserem Beispiel ist dies *IONOS - OpenAI Hub*. Bei Bedarf kannst du dem LLM-Anbieter noch eine genauere **Beschreibung** hinzufügen.
{% endstep %}

{% step %}
Setze einen Haken in die Checkbox <i class="fa-square">:square:</i> neben **Standard LLM Provider**, wenn du IONOS CLOUD als Standard-Anbieter festlegen möchtest. Wenn du bei der Eingabe eines Prompts keinen spezifischen anderen Anbieter auswählst, wird standardmäßig der hier festgelegte Anbieter verwendet.

<figure><img src="https://3365013050-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2Fm7kFsCWkwO5xnjJ7eSF0%2Fuploads%2FWv3VvscYesENMKla9Fwj%2FEnginsight-KB-LLM%20Provider%20IONOS-3.jpg?alt=media&amp;token=c7c2a3f8-b582-4017-ab35-f38b20b5f9c4" alt=""><figcaption></figcaption></figure>
{% endstep %}

{% step %}
Klicke in das Feld **Anbieter** und wähle **OpenAI Compatible** aus der Liste aus.
{% endstep %}

{% step %}
Gib im Feld **Modell** das konkrete KI-Modell an, das du verwenden möchtest.&#x20;

In IONOS CLOUD entspricht dies dem sogenannten **Model Identifier**, in unserem Beispiel ist dies *mistralai/Mistral-Small-24B-Instruct*.

{% hint style="info" %}
Eine Übersicht der Modelle, die IONOS für seinen IONOS CLOUD AI Model Hub anbietet, findest du hier: <https://docs.ionos.com/cloud/ai/ai-model-hub/models/llms>. Wähle aus dieser Übersicht das gewünschte Modell aus, um den entsprechenden **Model Identifier** zu erhalten, den du in der Enginsight Plattform eingeben musst. &#x20;
{% endhint %}

{% hint style="warning" %}
**Bitte beachte**: Enginsight übernimmt für Inhalte und Aktualität der Dokumentation von Drittanbietern keine Gewähr.
{% endhint %}
{% endstep %}

{% step %}
Gib im Feld **Base-Url** die Basis-URL an, unter der die API des LLM-Anbieters aufgerufen werden kann.

Für IONOS CLOUD ist dies *<https://openai.inference.de-txl.ionos.com/v1> .*

{% hint style="info" %}
Informationen zur Basis-URL eines LLM-Anbieters findest du in der Regel immer in der Dokumentation des entsprechenden Anbieters.
{% endhint %}
{% endstep %}

{% step %}
Füge im Feld **API-Schlüssel** den API-Token ein, den du in [Schritt 1](#schritt-1-api-token-in-ionos-cloud-erstellen) in IONOS CLOUD erstellt hast.
{% endstep %}

{% step %}
Lege im Feld **Prompts** optional fest, wie viele Prompts gleichzeitig durch das LLM bearbeitet werden dürfen. Die standardmäßig angegebene Anzahl ist **1**.

<figure><img src="https://3365013050-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2Fm7kFsCWkwO5xnjJ7eSF0%2Fuploads%2FzpgRzk87oOSys8sSLXi5%2FEnginsight-KB-LLM%20Provider%20IONOS-4.jpg?alt=media&amp;token=8749895e-d5aa-4285-aa6f-ecb502f885c7" alt=""><figcaption></figcaption></figure>
{% endstep %}

{% step %}
Passe bei Bedarf das Nutzungslimit an, um den Ressourcenverbrauch des genutzten LLMs zu steuern:

1. Klicke auf <i class="fa-plus">:plus:</i> **Nutzungslimit hinzufügen**, um weitere Eingabefelder zu öffnen.
2. Gib im Feld **Grenzwert** den maximalen Wert für die Ressource an, der innerhalb des definierten Zeithorizonts genutzt werden darf. Der standardmäßig angegebene Grenzwert ist **1000000**.
3. Gib im Feld **Zeithorizont** die Zeiteinheit an, für die das Nutzungslimit gilt. Der Zeithorizont ergibt sich aus der hier angegebenen Zeiteinheit und dem gewählten Intervall. Die standardmäßig angegebene Zeiteinheit ist **Months**.
4. Lege im Feld **Intervall** fest, für wie viele Tage, Wochen oder Monate das Nutzungslimit gilt. Das standardmäßig angegebene Intervall ist **1**.

<div align="left"><figure><img src="https://3365013050-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2Fm7kFsCWkwO5xnjJ7eSF0%2Fuploads%2FF3fcO1vMSV7Va0ssiw3L%2FEnginsight-KB-LLM%20Provider%20IONOS-5.jpg?alt=media&amp;token=c488d173-e40b-4900-ad8e-e4d030f74b7e" alt=""><figcaption></figcaption></figure></div>
{% endstep %}

{% step %}
Klicke auf **LLM Provider hinzufügen**, nachdem du alle Einstellungen vorgenommen hast, um den neuen LLM-Anbieter anzulegen.
{% endstep %}
{% endstepper %}

***
