> For the complete documentation index, see [llms.txt](https://docs.enginsight.com/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.enginsight.com/docs/manual/bedienung-der-plattform/siem/orchestrierung-soar/llm-provider/llm-provider-hinzufugen.md).

# LLM Provider hinzufügen

{% hint style="warning" %}
**Bitte beachte**: Diese Ansicht befindet sich im **Beta-Status**. Benutzeroberfläche und Funktionalitäten können sich jederzeit ändern.

<i class="fa-eye">:eye:</i> Diese Ansicht ist nur sichtbar, wenn du die Option **Beta-Funktionalitäten aktivieren** unter Einstellungen → [Benutzerkonto](/docs/manual/administration/einstellungen/benutzerkonto.md#erweiterte-einstellungen) aktiviert hast.
{% endhint %}

***

<i class="fa-computer-mouse">:computer-mouse:</i> Klicke auf <i class="fa-plus">:plus:</i> **LLM Provider hinzufügen** in der rechten oberen Ecke der [LLM-Provider-Übersicht](/docs/manual/bedienung-der-plattform/siem/orchestrierung-soar/llm-provider.md#llm-provider-ubersicht), um einen neuen LLM-Anbieter zu hinterlegen. Es öffnet sich die Ansicht **SIEM** → **Orchestrierung (SOAR)** → **LLM Provider** → **Hinzufügen**.

<figure><img src="https://1720942473-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F1oAJCT6yz8fThAzdCQJt%2Fuploads%2FfE59aiaBuSvLV9HLjMaG%2FEnginsight-SIEM-LLM%20Provider%20hinzufuegen-Full.jpg?alt=media&amp;token=6e563d09-8bee-4f14-bf96-9b6d0df84b70" alt=""><figcaption></figcaption></figure>

<i class="fa-computer-mouse">:computer-mouse:</i> Klicke auf **LLM Provider hinzufügen**, nachdem du alle Einstellungen vorgenommen hast, um den neuen LLM Provider zu speichern und hinzuzufügen.

<i class="fa-computer-mouse">:computer-mouse:</i> Klicke auf **Zurück**, um zurück zur Listenübersicht zu gelangen.

{% hint style="danger" %}
**Bitte beachte**: Verlässt du diese Ansicht ohne zu speichern, sind alle vorgenommenen Einstellungen verloren und können nicht wiederhergestellt werden!
{% endhint %}

***

## Grundeinstellungen

Hier kannst du verschiedene allgemeine Einstellungen vornehmen.

<figure><img src="https://1720942473-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F1oAJCT6yz8fThAzdCQJt%2Fuploads%2Fw3S7vVgS47azi6MyjfEh%2FEnginsight-SIEM-LLM%20Provider%20hinzufuegen-Grundeinstellungen.jpg?alt=media&amp;token=3408285f-66d6-4dc2-8590-77de36a648dd" alt=""><figcaption></figcaption></figure>

Folgende Optionen stehen zur Verfügung:

<table><thead><tr><th width="200.21875">Option</th><th>Beschreibung</th></tr></thead><tbody><tr><td>Name</td><td>Gib dem LLM-Anbieter einen aussagekräftigen Namen.</td></tr><tr><td>Beschreibung</td><td><p>Beschreibe den LLM-Anbieter genauer.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Dieses Feld ist optional.</p></div></td></tr><tr><td>Aktiviert</td><td><p>Aktiviere die Nutzung des LLM-Anbieters, um damit Aktionen im Kontext des <a href="/docs/manual/bedienung-der-plattform/siem/data-lake.md">Data Lakes</a> und in <a href="/docs/manual/bedienung-der-plattform/siem/orchestrierung-soar/playbooks.md">Playbooks</a> durchführen zu können.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Dieses Feld ist nicht standardmäßig aktiviert.</p></div><p><i class="fa-computer-mouse">:computer-mouse:</i> Setze einen Haken in die Checkbox <i class="fa-square">:square:</i> neben <strong>Aktiviert</strong> oder entferne den Haken aus der Checkbox <i class="fa-square-check">:square-check:</i>, um die Nutzung des LLM-Anbieters zu deaktivieren.</p></td></tr><tr><td>Standard LLM Provider</td><td><p>Lege diesen LLM-Anbieter als Standard-Anbieter fest. Wenn du bei der Eingabe eines Prompts keinen spezifischen anderen Anbieter auswählst, wird standardmäßig der hier festgelegte Anbieter verwendet.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Dieses Feld ist nicht standardmäßig aktiviert.</p></div><p><i class="fa-computer-mouse">:computer-mouse:</i> Setze einen Haken in die Checkbox <i class="fa-square">:square:</i> neben <strong>Standard LLM Provider</strong> oder entferne den Haken aus der Checkbox <i class="fa-square-check">:square-check:</i>, um die standardmäßige Nutzung des LLM-Anbieters zu deaktivieren.</p></td></tr></tbody></table>

***

## Anbieter-Details

Hier kannst du einen LLM-Anbieter auswählen und Angaben zum API-Zugriff auf das gewählte Modell machen.

{% hint style="warning" %}
**Bitte beachte**: Modellanfragen können je nach Kontext-Länge und Token-Anzahl hohe Kosten verursachen. Prüfe die aktuellen Preise des genutzten LLMs und überwache deinen Verbrauch regelmäßig.
{% endhint %}

<figure><img src="https://1720942473-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F1oAJCT6yz8fThAzdCQJt%2Fuploads%2Fx1erlnkxSmivySl08Yz5%2FEnginsight-SIEM-LLM%20Provider%20hinzufuegen-Anbieter.jpg?alt=media&amp;token=dc138fe7-1a6e-484b-a322-a1a546e68ec5" alt=""><figcaption></figcaption></figure>

Folgende Optionen stehen zur Verfügung:

<table><thead><tr><th width="200.13671875">Option</th><th>Anbieter</th></tr></thead><tbody><tr><td>Anbieter</td><td><p>Gib den Anbieter des LLMs an, das du nutzen möchtest.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Der standardmäßig ausgewählte LLM-Anbieter ist <strong>ChatGPT</strong>.</p></div><p><i class="fa-computer-mouse">:computer-mouse:</i> Klicke in das Feld <strong>Anbieter</strong>, um eine Liste aller verfügbaren LLM-Anbieter auszuklappen, und wähle einen Anbieter aus.<br><br>Folgende Anbieter stehen zur Verfügung:</p><ul><li><strong>ChatGPT</strong></li><li><strong>Ollama</strong></li><li><strong>DeepMask</strong></li><li><strong>OpenAI Compatible</strong>: Alle LLM-Anbieter, die die OpenAI-Schnittstelle nutzen, z.B. IONOS CLOUD AI. </li></ul></td></tr><tr><td>Modell</td><td><p>Gib den <em>Model Identifier</em> des konkreten Modells an, das du nutzen möchtest.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Informationen zum Model Identifier eines Modells findest du in der Dokumentation des entsprechenden Anbieters.</p></div></td></tr><tr><td>Base-Url</td><td><p><i class="fa-eye">:eye:</i> Diese Option ist nicht für alle LLM-Anbieter verfügbar.<br></p><p>Gib die Basis-URL an, unter der die API des LLM-Anbieters aufgerufen werden kann.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Informationen zur Basis-URL eines LLM-Anbieters findest du in der Dokumentation des entsprechenden Anbieters.</p></div></td></tr><tr><td>API-Schlüssel</td><td>Gib den API-Schlüssel für den ausgewählten LLM-Anbieter an, um Anfragen an das Modell zu authentifizieren und auszuführen.</td></tr><tr><td>Parallele Prompts</td><td><p>Lege fest, wie viele Prompts gleichzeitig durch das LLM bearbeitet werden dürfen.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Die standardmäßig angegebene Anzahl ist <strong>1</strong>.</p></div><p><i class="fa-computer-mouse">:computer-mouse:</i> Klicke in das Feld <strong>Parallele Prompts</strong> und nutze die Buttons <i class="fa-angle-up">:angle-up:</i> und <i class="fa-angle-down">:angle-down:</i>, um die Anzahl höher oder niedriger einzustellen. Oder gib manuell eine Zahl ein und bestätige deine Eingabe mit der <strong>Enter</strong>-Taste.</p></td></tr></tbody></table>

***

## Nutzungslimits

Hier kannst du Nutzungslimits für Token, Anfragen oder Rechenzeit festlegen, um den Ressourcenverbrauch des genutzten LLMs zu steuern.

<i class="fa-computer-mouse">:computer-mouse:</i> Klicke auf <i class="fa-plus">:plus:</i> **Nutzungslimit hinzufügen**, um weitere Eingabefelder zu öffnen, in denen du ein neues Nutzungslimit festlegen kannst.

<figure><img src="https://1720942473-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F1oAJCT6yz8fThAzdCQJt%2Fuploads%2F5aqHaKE2VysUH8uUClo5%2FEnginsight-SIEM-LLM%20Provider%20hinzufuegen-Nutzungslimits.jpg?alt=media&amp;token=b4f69951-c36b-41c5-8e5c-806e709ac227" alt=""><figcaption></figcaption></figure>

Folgende Optionen stehen zur Verfügung:

<table><thead><tr><th width="200.21875">Option</th><th>Beschreibung</th></tr></thead><tbody><tr><td>Typ</td><td><p>Zeigt die Art der Ressource, deren Verbrauch begrenzt werden soll.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Dieses Feld kann nicht angepasst werden. Der standardmäßig angegebene Typ ist <strong>Tokens</strong>.</p></div></td></tr><tr><td>Grenzwert</td><td><p>Gib den maximalen Wert für die Ressource an, der innerhalb des definierten Zeithorizonts genutzt werden darf.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Der standardmäßig angegebene Grenzwert ist <strong>1000000</strong>.</p></div><p><i class="fa-computer-mouse">:computer-mouse:</i> Klicke in das Feld <strong>Grenzwert</strong> und nutze die Buttons <i class="fa-angle-up">:angle-up:</i> und <i class="fa-angle-down">:angle-down:</i>, um die Anzahl höher oder niedriger einzustellen. Oder gib manuell eine Zahl ein und bestätige deine Eingabe mit der <strong>Enter</strong>-Taste.</p></td></tr><tr><td>Zeithorizont</td><td><p>Gib die Zeiteinheit an, für die du das Nutzungslimit festlegst. Der Zeithorizont ergibt sich aus der hier angegebenen Zeiteinheit und dem gewählten Intervall.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Die standardmäßig angegebene Zeiteinheit ist <strong>Months</strong>.</p></div><p><i class="fa-computer-mouse">:computer-mouse:</i> Klicke in das Feld <strong>Zeithorizont</strong>, um eine Liste aller verfügbaren Optionen auszuklappen, und wähle eine Option aus.<br><br>Folgende Optionen stehen zur Verfügung:</p><ul><li><strong>Months</strong>: Das Nutzungslimit gilt auf Monatsbasis.</li><li><strong>Weeks</strong>: Das Nutzungslimit gilt auf Wochenbasis.</li><li><strong>Days</strong>: Das Nutzungslimit gilt auf Tagesbasis.</li></ul></td></tr><tr><td>Intervall</td><td><p>Lege fest, für wie viele Tage, Wochen oder Monate das Nutzungslimit gilt.</p><div data-gb-custom-block data-tag="hint" data-style="info" class="hint hint-info"><p>Das standardmäßig angegebene Intervall ist <strong>1</strong>.</p></div><p><i class="fa-computer-mouse">:computer-mouse:</i> Klicke in das Feld <strong>Intervall</strong> und nutze die Buttons <i class="fa-angle-up">:angle-up:</i> und <i class="fa-angle-down">:angle-down:</i>, um die Anzahl höher oder niedriger einzustellen. Oder gib manuell eine Zahl ein und bestätige deine Eingabe mit der <strong>Enter</strong>-Taste.</p></td></tr></tbody></table>

<i class="fa-computer-mouse">:computer-mouse:</i> Klicke auf **Nutzungslimit zurücksetzen**, und bestätige die Meldung, die erscheint, mit **Löschen**, um alle hinzugefügten Nutzungslimits zu entfernen.

<i class="fa-computer-mouse">:computer-mouse:</i> Klicke auf das **Löschen**-Symbol <i class="fa-trash">:trash:</i> neben den Eingabefeldern eines Nutzungslimits, um das entsprechende Nutzungslimit zu löschen.

***

## Weitere Ressourcen

**Knowledge Base**

* [Wie erstelle ich im Enginsight SIEM einen LLM-Provider für IONOS CLOUD AI?](https://docs.enginsight.com/docs/knowledge-base/hersteller-spezifische-guides/wie-erstelle-ich-im-enginsight-siem-einen-llm-provider-fur-ionos-cloud-ai)

***
