Absicherung als Produktmerkmal – warum kontrollierte KI-Systeme Vertrauen gewinnen und unkontrollierte scheitern

Haftung ist das Grundproblem intelligenter Systeme – und ohne Lösung gibt es keine breite Marktdurchdringung. Prof. König bringt einen historischen Vergleich: Die juristische Person war einst ein neues Konzept. Gesellschaften mussten lernen, dass nicht nur natürliche Personen, sondern auch Firmen haftbar sein können. Er argumentiert: Wir werden möglicherweise an einen Punkt kommen, an dem KI-Systeme als haftbare Entitäten beziehungsweise über dahinterstehende Organisationen haftbar gemacht werden. Ohne Haftungsmodell können intelligente Systeme nicht breit in die Gesellschaft. Versicherungen sind der naheliegende pragmatische Mechanismus – vergleichbar mit Produkthaftpflicht, Kfz-Versicherung oder Medizinproduktehaftung. Für ETERNUM bedeutet das: Klare Haftungsausschlüsse im Vertrag, Rollenklärung mit Kunden, Dokumentation der Systemgrenzen und nachvollziehbares Logging sind keine optionalen Extras – sie sind Voraussetzung für seriöses Geschäft.

Autonomie ohne Absicherung ist Reputationsrisiko – kontrollierte Autonomie ist das eigentliche Produkt. Garmi, der humanoide Roboter der TU München, wird nicht einfach auf Pflegeheimbewohner losgelassen. Er durchläuft Simulation, Tests, Sicherheitsarchitekturen und kontrollierte Interaktionen, bevor er mit echten Menschen arbeitet. Dieselbe Logik muss für AI Agents gelten: Keine falschen Leistungsversprechen, keine falschen Preise, keine medizinischen oder rechtlichen Aussagen ohne Rahmen, keine Terminüberschreibungen, keine Datenschutzverletzungen, saubere Übergabe an Menschen, nachvollziehbare Logs. Das klingt nach Einschränkung, ist aber das Gegenteil: Es ist die Grundlage für Vertrauen, Skalierung und langfristige Kundenbeziehungen.

Menschliche Übergabe ist kein Schwächezeichen – sie erhöht Vertrauen und Conversion. Wie bei Robotik gilt: Autonomie ja, aber nicht blind. Voice Agents brauchen klare Übergabeformulierungen: „Ich leite das an das Team weiter." „Ein Mitarbeiter ruft Sie zurück." „Das ist ein Anliegen, das ich nicht abschließend beurteilen kann. Ich erfasse es und gebe es priorisiert weiter." Diese Übergaben signalisieren Professionalität, nicht Inkompetenz. Für Anrufer ist es beruhigend zu wissen, dass ein System seine eigenen Grenzen kennt. Das unterscheidet seriöse Anbieter von Anbietern, die Vollautonomie versprechen und dann an Grenzfällen scheitern.

Absicherung wird zum Differenzierungsmerkmal im DACH-Markt. In Österreich und Deutschland ist Vertrauen ein stärkeres Kaufargument als technischer Vorsprung. Wer kontrollierte KI verkauft – mit klaren Grenzen, dokumentierten Eskalationspunkten, DSGVO-orientierter Datenverarbeitung und nachvollziehbaren Entscheidungspfaden – gewinnt Kunden, die bei unkontrollierten Systemen zögern würden. Die Formulierung im Vertrieb sollte lauten: „Wir automatisieren nicht blind. Wir bauen Agenten mit klaren Grenzen, Übergaben und Kontrollpunkten." Das ist ehrlich, respektvoll – und deutlich besser verkäuflich als Disruptions-Rhetorik.

Schritt 1 – Voice-Agent-Sicherheitsmatrix für jede Fokusbranche erstellen. Für Handwerker, Zahnärzte, Physiotherapeuten, Immobilien und weitere Branchen: erlaubte Aussagen, verbotene Aussagen, Eskalationspflichten, Pflichtdaten, Datenschutzrisiken, Haftungsrisiken und Übergabeformulierungen definieren. Diese Matrix wird Teil jedes Kundenprojekts und dokumentiert die Systemgrenzen transparent.

Schritt 2 – Simulations- und Testprotokoll vor jedem Livegang standardisieren. Mindestumfang: 30 Testanrufe vor Livegang, davon 10 Grenzfälle, 5 Eskalationsfälle. Qualitätsbewertung, Freigabeliste, Kundentest mit echten Beispielen. Kein Agent wird ungeprüft direkt auf echte Kunden losgelassen. Die Testphase wird Teil des Delivery-Playbooks und kommunikativ als Qualitätsmerkmal positioniert.

Schritt 3 – Absicherung aktiv im Vertrieb kommunizieren, nicht verstecken. Viele KI-Anbieter behandeln Sicherheit als Pflichtübung, die man möglichst nicht erwähnt. ETERNUM sollte das Gegenteil tun: Absicherung, Eskalationslogik und Kontrollpunkte als Verkaufsargumente führen. Gerade bei konservativen DACH-Unternehmen ist „kontrollierte Automatisierung" ein stärkeres Argument als „maximale Automatisierung".

Schritt 4 – Für jede sensible Branche klare Regeln definieren, was der Agent NICHT darf. Zahnärzte: keine Diagnosen, keine Behandlungsempfehlungen. Kanzleien: keine Rechtsberatung, keine Fristzusagen. Immobilien: keine verbindlichen Preiszusagen, keine Vertragsinhalte. Steuerberater: keine steuerliche Beratung, keine Fristzusagen. Diese No-Go-Listen werden dokumentiert, mit dem Kunden abgestimmt und im Agenten hinterlegt.