KI-Lösungen sicher und vergleichbar beschaffen

Warum KI anders beschafft werden muss

KI-Lösungen verhalten sich nicht vollständig deterministisch. Dieselbe Frage kann unterschiedliche Antworten erzeugen, Modelle werden vom Anbieter aktualisiert und die Qualität hängt stark von den eigenen Daten ab. Klassische Pflichtenhefte mit fixen Funktionslisten greifen deshalb zu kurz.

Die Grundsätze des Beschaffungsrechts gelten trotzdem unverändert. Anforderungen müssen funktional, nachvollziehbar und nicht diskriminierend formuliert sein. Die Herausforderung besteht darin, Qualität und Risiko einer KI-Lösung überhaupt vergleichbar zu machen.

Rechtlicher Rahmen in der Schweiz

Die Schweiz hat derzeit kein eigenes KI-Gesetz. Der Bundesrat hat im Februar 2025 entschieden, die KI-Konvention des Europarats zu ratifizieren und die nötigen Anpassungen vor allem sektoriell im bestehenden Recht vorzunehmen. Bis dahin stützen sich Beschaffungsstellen auf Datenschutzgesetz, Beschaffungsrecht, Informationssicherheitsvorgaben und branchenspezifische Regeln.

Organisationen, deren KI-Systeme in der EU eingesetzt werden oder dort Wirkung entfalten, sollten zudem prüfen, ob der EU AI Act auf sie anwendbar ist. Diese Rechtslage ist in Bewegung und muss vor jeder Beschaffung neu beurteilt werden.

Anforderungen, die KI vergleichbar machen

• Klar beschriebene Anwendungsfälle mit Beispieldaten und erwarteten Ergebnissen
• Transparenz über eingesetzte Modelle, Anbieter und Verarbeitungsorte
• Zusage, dass Kundendaten nicht zum Training allgemeiner Modelle genutzt werden
• Regeln für Modellwechsel und Information über wesentliche Änderungen
• Protokollierung von Eingaben, Ausgaben und Aktionen im erforderlichen Umfang
• Möglichkeiten zur menschlichen Kontrolle und zur Korrektur von Ergebnissen
• Export von Konfiguration, Prompts, Wissensquellen und Protokollen beim Exit

Qualität testen statt behaupten

Für KI-Lösungen eignen sich strukturierte Tests im Verfahren. Alle Anbieter erhalten denselben anonymisierten Testdatensatz und dieselben Aufgaben. Bewertet werden Korrektheit, Nachvollziehbarkeit, Umgang mit fehlenden Informationen und Verhalten bei heiklen Eingaben. So entsteht eine Grundlage, die über Marketingaussagen hinausgeht.

Pilot und Vertrag

Ein befristeter Pilot mit definierten Erfolgskriterien reduziert das Risiko einer Fehlinvestition. Der Vertrag sollte regeln, wie nach dem Pilot entschieden wird, welche Kennzahlen gemessen werden und wie bei ungenügender Qualität nachgebessert oder ausgestiegen werden kann.

Einordnung durch techtask

techtask verbindet KI-Architektur, Governance und Beschaffungspraxis. Wir helfen, Anwendungsfälle zu schärfen, Tests zu entwerfen und Kriterien so zu formulieren, dass KI-Angebote fair und nachvollziehbar verglichen werden können.