Betriebsmodell für KI-Agenten

Nach dem Pilot beginnt die Arbeit

Viele KI-Projekte enden mit einer erfolgreichen Demonstration. Der eigentliche Nutzen entsteht aber erst im Betrieb, wenn der Agent über Monate zuverlässig arbeitet. Dafür braucht es ein Betriebsmodell, das Verantwortung, Änderungen, Überwachung, Kosten und Vorfälle regelt.

Rollen klar zuweisen

• Fachlich verantwortliche Person für Zweck, Qualität und Anpassungen
• Technisch verantwortliche Person für Plattform, Integration und Sicherheit
• Betrieb für Überwachung, Störungen und Benutzerunterstützung
• Governance für Risiko, Richtlinien und periodische Überprüfung

Änderungen kontrolliert einführen

Bei KI-Agenten ändern sich mehr Elemente als bei klassischer Software: Anweisungen, Wissensquellen, Werkzeuge und das zugrunde liegende Modell. Auch der Anbieter kann Modelle aktualisieren. Jede Änderung sollte vor der Produktivsetzung mit einem Testset geprüft werden. Wo möglich, werden Modellversionen festgelegt und Wechsel bewusst geplant.

Überwachen und Kosten steuern

Im Betrieb interessieren Nutzung, Antwortqualität, Fehler, Laufzeiten und Kosten. Viele KI-Dienste werden nach Verbrauch abgerechnet, etwa nach Tokens oder Nachrichten. Ohne Budgets und Warnungen können Kosten unbemerkt steigen. Regelmässige Stichproben durch Fachpersonen ergänzen technische Kennzahlen.

Vorfälle und Ausserbetriebnahme

Ein Agent kann falsche Informationen liefern, unerwünschte Aktionen ausführen oder missbraucht werden. Für solche Fälle braucht es einen klaren Meldeweg, die Möglichkeit, den Agenten rasch zu deaktivieren, und eine Analyse der Ursache. Agenten, die ihren Zweck nicht mehr erfüllen, werden geordnet ausser Betrieb genommen, inklusive Entzug von Berechtigungen.

Einordnung durch techtask

techtask begleitet KI-Agenten vom Pilot in den Betrieb. Wir definieren Rollen, Testverfahren, Überwachung und Kostenkontrolle, damit Agenten dauerhaft verlässlich arbeiten.