Agent-Modul

Das Modul Agent ist ein intelligenter, leistungsstarker LLM-Assistent, der Ihrem definierten Dialogablauf und Ihren Regeln folgt, beim Thema bleibt und themenfremde Anfragen höflich abweist – und dabei dennoch eigenständig denkt und handelt. Er wiederholt nicht einfach Skripte: Er passt sich an Gespräche und unerwartete Antworten an, trifft Entscheidungen in Echtzeit und hält den Dialog auf natürliche Weise in Gang, während er die von Ihnen gesetzten Grenzen und den Gesprächsstil respektiert.

Der Agent kann außerdem auf API-Integrationen und Ihre AI Knowledge Base zugreifen und mit ihnen arbeiten. Weitere Informationen finden Sie unter:

• Tools und Integrationen
• AI Knowledge im Agent

💡 Bei angemessener Verwendung können ein oder einige wenige Agent-Module die meisten Ihrer Dialoge bewältigen und viele andere Module im Dialogablauf ersetzen.

🤖 Name des Agenten

Dies ist lediglich der Anzeigename (das Label) des Moduls. Er hat keinen Einfluss auf die Funktionalität.

🤖 LLM-Modell

Wählen Sie das OpenAI-LLM-Modell, das der Agent verwenden soll.

• Wenn kein Modell ausgewählt ist, verwendet der Agent standardmäßig Version 4.1.
• Der Agent verbraucht, wie andere LLM-gesteuerte Module, bei jeder Interaktion AI Credits.
• Sie können Kosten und Leistung ausbalancieren, indem Sie ein anderes Modell wählen. Zum Beispiel sind die „mini"-Modelle in der Regel günstiger (d. h. sie verbrauchen weniger AI Credits) und schneller – besonders bei Voicebots, wo Reaktionszeiten wichtig sind –, könnten aber bei sehr komplizierten Aufgaben weniger genau sein. Umgekehrt sind die „vollen" Modelle leistungsstärker, können aber für einfache Aufgaben wie FAQs unnötig kostspielig sein.
• Wenn Sie nicht wissen, welches Sie wählen sollen, keine Sorge – verwenden Sie einfach die Standardoptionen. Wenn der Preis eine Rolle spielt, beginnen Sie mit den „mini"-Modellen und wechseln Sie nur dann zu den vollen Modellen, wenn die Antworten unbefriedigend sind.

🤖 Anweisungen für den Agenten (Benutzer-Prompts)

Der Agent befolgt die hier geschriebenen Anweisungen (Prompts). Es ist wichtig, diese Anweisungen sorgfältig auszufüllen – je besser die Anweisungen, desto besser verhält sich der Bot gemäß Ihrer Vorstellung. Folgen Sie dieser einfachen Prämisse: Wenn ein anderer Mensch Ihren Prompt klar verstehen kann, kann der Bot es wahrscheinlich auch.

Siehe auch 🤖 Tipps & bewährte Verfahren

Für Anweisungen an den Knowledge-Base-Agenten siehe 🤖 AI Knowledge im Agent

Klicken Sie auf das Stift-Symbol ✏️, um den Anweisungseditor zu öffnen. Geben Sie klare, strukturierte, schrittweise Anweisungen für den Bot an und vermeiden Sie Widersprüche.

:info:

Der Prompt unten ist ein Beispiel für eine mehrstufige Anweisung, die eine API-Integration enthält.

1️⃣ Beginnen Sie mit der Definition der Identität, Rolle und grundlegenden Prinzipien des Bots

2️⃣ Definieren Sie den passenden Kommunikationsstil und Tonfall

3️⃣ Definieren Sie Anwendungsfälle, die der Agent selbstständig bewältigen soll

4️⃣ Fügen Sie zusätzliche Anweisungen hinzu – falls nötig

💡

Tipp: Sie können andere öffentlich verfügbare LLM-Tools nutzen, um ähnliche Anweisungen für Ihren Bot zu generieren. Wenn Sie dies tun, überprüfen Sie die generierten Prompts stets doppelt und korrigieren Sie etwaige Fehler oder Widersprüche.

:info:

Der obige Prompt war ein Beispiel für einen relativ einfachen Dialog mit nur einigen wenigen Optionen und Bedingungen.

Denken Sie daran: Je einfacher und weniger verwirrend der Prompt, desto größer die Chance, dass der Agent genau das tut, was Sie von ihm wollen.

Wenn Ihr Dialog komplexer ist, viele komplizierte Bedingungen enthält oder mehrere Integrationen aufruft, erwägen Sie, mehrere Agenten mit einfacheren Prompts für jede einzelne Aufgabe oder jeden Anwendungsfall zu erstellen. Verketten Sie die Agenten dann nacheinander. Siehe auch 🤖 Tipps & bewährte Verfahren.

🤖 Ausgabepfade

Der Agent verwendet Ausgabepfade, wann immer eine definierte Bedingung erfüllt ist. Sie können beispielsweise Pfade wie Wettervorhersage bereitgestellt und Wiederholt themenfremd einrichten. Der Agent verlässt das Modul dann über den Ausgabepfad Wettervorhersage bereitgestellt, wenn er die Wettervorhersage erfolgreich abruft und liefert, und über den Pfad Wiederholt themenfremd, wenn der Nutzer wiederholt themenfremde Fragen stellt. Sie können dann Ihren üblichen Dialogablauf darauf aufbauend fortsetzen, je nachdem, was im Agent geschehen ist.

Der Ausgabepfad Other wird automatisch ausgelöst, wenn keine beschriebene Bedingung oder kein beschriebenes Verhalten zutrifft oder im Fehlerfall.

:info:

Anders als andere Module kann der Agent mit dem Nutzer interagieren und ein Gespräch führen, während er „innerhalb des Moduls bleibt" – d. h. ohne den Ablauf über Pfeile fortzusetzen. Ein Ausgabepfad wird nur dann verwendet, wenn eine in den Anweisungen des Agenten beschriebene Bedingung erfüllt ist.

1️⃣ Pfadname

• Name des Ausgabepfads

• Z. B. Wettervorhersage bereitgestellt und Wiederholt themenfremd

• Sie können den Agenten anweisen, einen definierten Ausgabepfad zu verwenden, wenn eine Bedingung erfüllt ist, z. B. wenn der Agent erfolgreich eine Wettervorhersage bereitstellt

2️⃣ Anweisungen

• Zusätzliche Anweisungen, die nur für den angegebenen Ausgabepfad gelten. Fügen Sie alle zusätzlichen Anweisungen hinzu, die Sie nicht in die allgemeinen Agent-Anweisungen aufgenommen haben. Stellen Sie sicher, dass sich die Prompts hier und in den allgemeinen Anweisungen nicht widersprechen.

3️⃣ Agent bei Übergabe stummschalten

• Wenn dieses Kästchen angehakt ist ☑️, sagt der Agent nichts, bevor er diesen Ausgabepfad verwendet.
• Wenn das Kästchen nicht angehakt ist, generiert der Agent möglicherweise eine benutzerdefinierte Antwort, bevor er diesen Ausgabepfad verwendet.

:info:

Beispiel für die Einrichtung unten:

• Wenn der Agent die Wettervorhersage bereitstellt, fährt er anschließend einfach über den Ausgabepfad Wettervorhersage bereitgestellt fort.

• Wenn der Nutzer jedoch wiederholt themenfremde Fragen stellt, generiert der Agent eine benutzerdefinierte Nachricht wie „Es tut mir leid, ich habe wirklich keine Antworten auf Ihre Fragen, ich kann Ihnen nur bei Fragen zum Wetter helfen.", bevor er über den Ausgabepfad Wiederholt themenfremd beendet wird. Anschließend können Sie weitere Standardmodule hinzufügen und Ihren Dialogablauf fortsetzen.

🤖 Tools und API-Integrationen

Der Agent kann API-Integrationen aufrufen und mit deren Ergebnissen arbeiten, während er das Gespräch weiterführt. Wenn erforderliche Informationen fehlen, kann der Agent dies erkennen und den Nutzer nach den fehlenden Informationen fragen, bevor er API-Aufrufe durchführt.

:info:

Die Nutzung des Agenten zum Aufrufen von API-Integrationen ist ein leistungsstarkes, fortgeschrittenes Werkzeug, aber für einfachere Aufgaben wie das Beantworten von FAQs, das Erfassen persönlicher Daten eines Nutzers oder das Analysieren von Nutzeranfragen keineswegs erforderlich. Bei allen Aufgaben, bei denen der Agent keine Daten von anderen Systemen abrufen oder an sie senden muss, brauchen Sie sich darüber keine Gedanken zu machen – der Agent ist auch ohne Integrationen problemlos nutzbar.

So teilen Sie dem Agenten mit, wie er API-Integrationen verwenden soll

1️⃣ API-Integrationen auswählen

• Wählen Sie die Integrationen einfach im Dropdown-Feld in den Einstellungen des Agent-Moduls aus
• Der Bot erhält nur Zugriff auf die ausgewählten API-Integrationen
• (Diese Integrationen müssen zunächst in den API-Integrationen definiert werden)

2️⃣ API-Integrationen definieren

Um API-Integrationen für Ihren Agenten zu aktivieren, müssen Sie den Reiter Eingaben für den Agenten in den Einstellungen der API-Integrationen ausfüllen.

Weitere Details finden Sie unter Eingaben für das Agent-Modul.

3️⃣ Dem Agenten mitteilen, wie er Integrationen verwenden soll

Nun müssen Sie dem Agenten mitteilen, wie er diese Integrationen als Teil des eigentlichen Dialogs verwenden soll. Sie müssen deren Verwendung in den Anweisungen des Agenten definieren (Anweisungen (Benutzer-Prompts) für den Agenten):

• Teilen Sie dem Agenten mit, welche Parameter er verwenden und was er mit dem Ergebnis tun soll, z. B.:

:info:

Der Agent ruft Integrationen in der definierten Reihenfolge nacheinander auf – nicht alle auf einmal. Seien Sie vorsichtig, wenn Sie mehr als 1 API aufrufen, da dies zu längeren Reaktionszeiten führen kann, insbesondere bei Voicebots.

🤖 AI Knowledge im Agent

Der Agent kann auf Ihre Dateien und andere Wissensdatenbanken zugreifen und mit ihnen arbeiten, die unter dem Reiter AI Knowledge gespeichert sind (siehe AI Knowledge).

1️⃣ Um den Zugriff auf die AI-Knowledge-Datenbank zu aktivieren, haken Sie einfach ☑️ das Kontrollkästchen AI KB verwenden in den Einstellungen des Agent-Moduls an.

2️⃣ Füllen Sie dann den Namen des Knowledge Base Index aus. Vorerst finden Sie den Namen des Knowledge Base Index unter der Instanz-ID in den ⚙️ Einstellungen im linken Bereich des Reiters „AI Knowledge" (siehe 1️⃣ Wissen hinzufügen/bearbeiten). Tragen Sie die Instanz-ID als Namen des Knowledge Base Index ein.

3️⃣ Füllen Sie die Anweisungen für den Knowledge-Base-Agenten aus. Verwenden Sie dieselben Prinzipien wie bei den Haupt-Anweisungen für den Agenten (Benutzer-Prompts) – konzentrieren Sie sich nur auf das gewünschte Verhalten der AI-Knowledge-Funktion.

Der Agent beantwortet dann die Frage (oder handelt gemäß den Anweisungen für den Knowledge-Base-Agenten) und fährt anschließend fort, gemäß den Haupt-Anweisungen für den Agenten zu handeln.

4️⃣ Vergessen Sie in den Haupt-Anweisungen für den Agenten nicht zu erwähnen, wann die Wissensbasis verwendet werden soll.

5️⃣ Haken Sie bei Voicebots – und bei Chatbots, wenn Sie eine sehr schnelle Reaktion erwarten – ☑️ Asynchroner Modus an. Dies aktiviert die asynchrone Verarbeitung für lang laufende Anfragen. Wenn aktiviert, antwortet das Modul sofort mit einer Platzhalternachricht und verarbeitet die Anfrage im Hintergrund. Die endgültige Antwort wird geliefert, sobald sie fertig ist. Nützlich für komplexe Abfragen, deren Berechnung Zeit in Anspruch nehmen kann.

:info:

Anders als bei Kategorien in AI Knowledge entscheidet der Agent von Haus aus, welche KB-Kategorien oder -Quellen er verwendet

🤖 Wie der Agent $context-Variablen in Anweisungen liest und behandelt

Beim Ausfüllen der Anweisungen des Agenten möchten Sie sich möglicherweise auf $context-Variablen beziehen. Befolgen Sie diese Regeln, wenn Sie sich in Ihren Prompts auf $contexts beziehen:

1️⃣ Wenn Sie einen Kontextnamen „unverändert", mit einem vorangestellten $-Zeichen, schreiben (z. B. $sys_date_time), liest der Agent nur den Wert innerhalb des Kontexts. Sie können dies nutzen, um dem Agenten externe und bereits vorhandene Informationen zu übergeben, die er für den angegebenen Anwendungsfall benötigen könnte.

• Ihr Prompt:

• Was der Agent tatsächlich sieht:

2️⃣ Wenn Sie dem Agenten mitteilen möchten, dass er eine Kontextvariable verwenden soll (nicht nur lesen), oder dass er einen bestimmten Wert in einen bestimmten Kontext speichern soll, sagen Sie ihm einfach, er soll verwende „context xyz" oder speichere den Wert „ABC" in context „nameOfYourContext". Der Agent erkennt, was Sie möchten, und verwendet oder speichert den entsprechenden Kontext dementsprechend.

❗ Verwenden Sie in diesem Fall kein $-Präfix, wenn Sie sich auf einen Kontextnamen beziehen. Wie unter 1️⃣ gezeigt, wandelt das $-Präfix den Namen des Kontexts in seinen Wert um.

Es besteht keine Notwendigkeit, den Agenten jede einzelne Sache in Kontexten speichern zu lassen, wenn Sie mit diesen Kontexten außerhalb des Agenten nicht arbeiten müssen.

Wenn Sie beispielsweise nur die Vertragsnummer des Kunden anhand seines Namens verifizieren müssen und es Ihnen nur darauf ankommt, ob er verifiziert ist oder nicht, dann:

❌ statt dies:

...und speichere sie in context „contract_number". Schritt 4: Frage den Nutzer „Ist Ihre Vertragsnummer $contract_number?" Schritt 5: Wenn er bestätigt, setze context „user_verified" auf den Wert „true".

✅ sagen Sie dem Agenten einfach dies:

...aus der Antwort und frage den Nutzer, ob diese Vertragsnummer korrekt ist. Schritt 3: Wenn er bestätigt, setze context „user_verified" auf den Wert „true". :info:

Dieselbe Logik wurde in den Schritten 3–5 im Prompt-Beispiel für den Wettervorhersage-Bot angewendet: Anweisungen für den Agenten (Benutzer-Prompts)

🤖 Tipps & bewährte Verfahren

Auch wenn Sie die Anweisungen (Prompts) des Agenten praktisch beliebig und in jedem Stil verfassen können, empfehlen wir, einige bewährte Verfahren zu befolgen.

💡 Verwenden Sie menschenlesbare Anweisungen

• Wenn ein anderer Mensch Ihren Prompt klar verstehen kann, dann kann der Agent ihn wahrscheinlich auch verstehen.
• Der Agent ist technisch in der Lage, praktisch mit jedem geschriebenen Text zu arbeiten, sodass Sie Code-Fragmente, JSON-Beispiele oder andere für Maschinen bestimmte Texte in die Anweisungen aufnehmen können. Je komplizierter Sie es jedoch machen, desto höher ist die Wahrscheinlichkeit, dass etwas schiefgeht. In der Regel besteht absolut keine Notwendigkeit, explizit Code in die Anweisungen zu schreiben – verweisen Sie einfach auf die jeweiligen Kontexte oder API-Integrationen.

💡 Seien Sie spezifisch

• Es mag offensichtlich klingen, aber der Agent kann Ihre Gedanken und Absichten nicht lesen. Wenn Sie möchten, dass er etwas tut, sagen Sie ihm, dass er etwas tun soll, und geben Sie an, wie er die Aufgabe angehen soll. Er kennt Ihren beabsichtigten Gesprächsablauf, Ihre Unternehmensprozesse, Ausnahmen, Ihren Kommunikationsstil usw. nicht implizit und könnte sich unvorhersehbar verhalten, wenn er keine entsprechenden Anweisungen erhält.

💡 Vermeiden Sie Widersprüche

• Wenn Sie Bedingungen definieren (wenn …, dann …), achten Sie darauf, Widersprüche zu vermeiden. Wenn eine Anweisung besagt „Wenn der Nutzer seinen Namen nicht genannt hat, frage einmal erneut, und wenn er sich weiterhin weigert, lege auf" und eine andere Anweisung an anderer Stelle besagt „Wenn er seinen Namen nicht genannt hat, ignoriere es einfach und fahre fort", verhält sich der Agent inkonsistent.

💡 Überprüfen Sie alle Kontexte

• Wenn Sie sich auf Kontexte beziehen, prüfen Sie, ob sie korrekt sind und im Rahmen des Dialogablaufs sinnvoll sind. Je mehr Änderungen Sie während der Dialogerstellung an Ihren Anweisungen vornehmen, desto höher ist die Wahrscheinlichkeit, dass einige zuvor verwendete Kontexte nicht mehr gültig sind, einen anderen Namen haben usw.

• Überprüfen Sie die $-Präfix-Zeichen:

  • Wenn Sie erwarten, dass der Agent den tatsächlichen Wert eines Kontexts liest, schreiben Sie ihn mit dem $-Zeichen
  • Wenn Sie ihn nur verwenden oder hineinschreiben müssen, schreiben Sie ihn ohne das $-Zeichen
  • Weitere Informationen finden Sie unter 🤖 Wie der Agent $context-Variablen in Anweisungen liest und behandelt

💡 Teilen Sie Aufgaben auf mehrere Agenten auf

• Wenn Ihr Dialog komplex ist – mit vielen Bedingungen, mehreren Integrationen oder detaillierten Arbeitsabläufen –, erwägen Sie, mehrere einfachere Agenten zu erstellen, von denen jeder für eine bestimmte Aufgabe oder einen bestimmten Anwendungsfall zuständig ist. Verketten Sie diese Agenten dann, um den vollständigen Dialogablauf abzuwickeln.
• Je einfacher und klarer Ihr Prompt, desto zuverlässiger wird der Agent wie erwartet arbeiten.
  Wenn Ihr aktueller Agent also „größtenteils funktioniert, aber manchmal bei Schritt 6 scheitert und vergisst, dem Kunden zu danken", ist das ein gutes Zeichen dafür, dass Sie in Erwägung ziehen sollten, ihn in kleinere, spezialisiertere Agenten aufzuteilen.

• Wichtige Hinweise beim Aufteilen von Agenten

• Agenten können die Gesprächstranskription lesen. Sie wissen, was im Dialog passiert.

• Agenten teilen ihre Prompts nicht miteinander. Möglicherweise müssen Sie die Rolle des zweiten Agenten explizit beschreiben, den Kommunikationsstil kopieren und einfügen und bei Bedarf auch die Rollenbeschreibung des ersten Agenten anpassen.
• Agenten teilen keine Antwortdaten von Integrationen miteinander. Wenn der zweite Agent Daten benötigt, die vom ersten Agenten abgerufen wurden, weisen Sie den ersten Agenten an, diese in Kontexten zu speichern. Zum Beispiel:

- context "city" = client's city <0.city>

:info:

Das Aufteilen Ihres Arbeitsablaufs auf mehrere Agenten kann – manchmal – auch den Verbrauch von AI Credits günstig beeinflussen. Alles, einschließlich des Master-Prompts, des allgemeinen Prompts des Agenten, der Prompts der Ausgabepfade, der Antworten von API-Integrationen usw., wird auf einmal verarbeitet und verbraucht mit jeder Antwort des Agenten AI Credits. Mit einem riesigen Agenten verbrauchen Sie möglicherweise unnötig 2–3 AI Credits pro Antwort des Agenten – für jeden einzelnen Schritt des Prompts –, obwohl es Ihnen bei „Schritt 1" auf „Schritt 7" möglicherweise noch gar nicht ankommt. Durch das Aufteilen in kleinere Agenten erhöhen Sie möglicherweise die Anzahl der Interaktionen geringfügig, verringern aber dank der wesentlich kleineren, in einem gegebenen Moment verarbeiteten Prompts die Gesamtzahl der verbrauchten AI Credits erheblich. Wenn Sie das Gefühl haben, dass der Verbrauch zu hoch ist und Sie bereits kleinere LLM-Modelle verwenden (siehe unten), erwägen Sie, den großen Agenten aufzuteilen.

💡 LLM-Modelle

• Wenn Sie selbst kein LLM-Modell festgelegt haben, verwendet der Agent standardmäßig GPT 4.1

• Wenn Sie das Gefühl haben, dass Ihre Beschreibungen klar und konsistent sind, der Agent sich aber dennoch weigert, ihnen zu folgen, versuchen Sie, zu einem anderen Modell zu wechseln – z. B. sind die „vollen" Modelle (wie 4.1) leistungsstärker als die „mini"-Modelle (wie 4.1-mini).

• Beachten Sie, dass die „vollen" Modelle möglicherweise:

  • mehr AI Credits pro Interaktion verbrauchen (Sie können den Verbrauch in den Details der Konversation in den Ereignisprotokollen überprüfen)
  • eine längere Reaktionszeit haben; dies kann bei Voicebots bemerkbar sein

💡 API-Integrationen im Agent

• Stellen Sie sicher, dass Sie das Beschreibungsfeld unter API-Integrationen → Eingaben für den Agenten → Beschreibung ausfüllen. Wenn Ihre Beschreibung für einen Menschen verständlich ist, sollte sie auch für den Agenten verständlich sein.

• Wenn Sie mehrere Endpunkte verwenden möchten, die einander ähneln, achten Sie besonders darauf, deren Funktionen ausreichend zu beschreiben, damit der Agent sie sicher voneinander unterscheiden kann

• Wenn Sie erwarten, dass der Agent die erforderlichen Variablen selbst erfasst, setzen Sie die entsprechende Kontextquelle auf Agent; wenn Sie sie hingegen bereits haben oder nicht möchten, dass der Agent sie liest, setzen Sie Discussion

• Setzen Sie die Quelle Ihrer API-Schlüssel oder Zugriffstokens nicht auf Agent

• Die API-Antwort ist ebenfalls Teil des gesamten Prompts, da der Agent sie lesen und verarbeiten muss; große Antworten führen zu großen Prompts, was zu einem höheren Verbrauch von AI Credits führen kann

• Ein LLM funktioniert am besten mit APIs, die so wenig Daten wie möglich zurückgeben; das Durchsuchen vieler unnötiger Antwortdaten verringert die Erfolgsquote

• Wenn Ihre Antwort größer als 1 kB ist, prüfen Sie, ob sie wirklich nur notwendige Daten enthält oder ob die Antwort vereinfacht werden kann