Die Risiken der KI im Unternehmen, in der Schweiz

Die mit KI verbundenen Unternehmensrisiken sind nicht monolithisch. Sie gliedern sich in vier unterschiedliche Kategorien, jede mit eigenen Ursachen, Konsequenzen und Steuerungshebeln. Diese Kartierung zu verstehen ist der erste Schritt vor jeder Einführung.

Die Schweiz hat noch kein spezifisches KI-Gesetz. Der gewählte Ansatz ist technologische Neutralität: bestehende Gesetze finden Anwendung. Das bedeutet, dass drei Rechtsbereiche den KI-Einsatz in Unternehmen direkt regeln.

Das neue Bundesgesetz über den Datenschutz (nDSG, in Kraft seit September 2023) ist direkt auf KI-Verarbeitungen anwendbar. Es verpflichtet zur Transparenz über Zweck und Datenquellen, zur Folgenabschätzung bei erhöhten Risiken und gewährt das Recht auf menschliche Überprüfung automatisierter Entscheidungen (Art. 21 nDSG). Sanktionen können bis zu 250'000 CHF betragen und begründen die persönliche Haftung der Führungspersonen.

Das Obligationenrecht (Art. 41 OR) verpflichtet das einsetzende Unternehmen, jeden Schaden zu ersetzen, der durch ein von ihm betriebenes KI-System verursacht wird. Das Unternehmen ist verantwortlich, nicht das System. Das Bundesgesetz über die Produktehaftpflicht (PrHG) kann ebenfalls gelten, wenn die KI als fehlerhafter Bestandteil eingestuft wird.

Der europäische AI Act, im März 2024 verabschiedet und schrittweise bis 2026 in Anwendung tretend, betrifft direkt Schweizer Unternehmen, die auf dem europäischen Markt tätig sind oder deren KI-Systeme in der EU eingesetzt werden. Er klassifiziert KI in vier Risikoniveaus (inakzeptabel, hoch, begrenzt, minimal) und schreibt für Hochrisikosysteme Dokumentations-, Prüf- und CE-Kennzeichnungspflichten vor.

Generative KI produziert statistisch wahrscheinliche Ergebnisse, nicht notwendigerweise korrekte. Das Phänomen der Halluzination, bei dem das Modell falsche Informationen mit Bestimmtheit präsentiert, ist bei allen grossen aktuellen Modellen dokumentiert. Im beruflichen Kontext kann dies schlecht formulierte Verträge, fehlerhafte Finanzanalysen, falsche Kundenantworten oder fehlerhafte medizinische Entscheidungen bedeuten.

Operationelle Abhängigkeit ist ein oft unterschätztes Risiko. Wenn ein kritischer Prozess vollständig auf einem KI-System eines externen Anbieters beruht, kann ein Ausfall, eine Änderung der Nutzungsbedingungen oder eine Preiserhöhung den Betrieb erheblich stören. Ohne Kontinuitätsplan ist die Vulnerabilität strukturell.

Ein Modell, das auf historischen Daten trainiert wurde, erbt die Verzerrungen dieser Daten. Im Kontext von Rekrutierung, Kreditvergabe, Versicherungsprämien oder Leistungsbeurteilung kann ein verzerrter Algorithmus zu diskriminierenden Entscheidungen im Sinne des Schweizer und europäischen Rechts führen, selbst ohne Schädigungsabsicht.

Das Fehlen menschlicher Kontrolle über diese Entscheidungen verschärft das Risiko: Die Diskriminierung ist im Prozess nicht sichtbar, sie zeigt sich nur in den Ergebnissen. In der Schweiz schreibt das nDSG vor, dass automatisierte Entscheidungen mit erheblichen rechtlichen Auswirkungen auf eine Person dem Recht auf menschliche Überprüfung unterliegen.

Die meisten Verbraucher-KI-Tools (ChatGPT, Copilot, Gemini) verarbeiten Daten auf Servern in den USA. Wenn ein Mitarbeitender vertrauliche Informationen, Kundendaten, Geschäftsgeheimnisse oder personenbezogene Daten in diese Tools eingibt, verlassen diese Daten den Unternehmensbereich und möglicherweise die Schweizer und europäische Gerichtsbarkeit.

Die weltweite Rechenkapazität ist nach wie vor stark in den USA konzentriert, was Europa in einer strukturellen Abhängigkeit von amerikanischen Hyperscalern belässt. Diese Realität schafft ein Souveränitätsrisiko, das Schweizer Unternehmen, insbesondere in regulierten Sektoren (Finanzen, Gesundheit, Versicherung, Verwaltung), nicht länger ignorieren können.

Die Datenlokalisierung ist ein Sicherheitskriterium, nicht nur eine Komfortfrage. Alternativen existieren, insbesondere Open-Source-Modelle auf europäischer Infrastruktur, die die Verarbeitung sensibler Daten ermöglichen, ohne diese aus der EU zu übertragen.

Viele Schweizer Unternehmen haben KI adoptiert, doch die Strategie hinkt oft hinterher. Adoption ohne Governance ist selbst ein Risiko: Die Anwendungsfälle multiplizieren sich unkoordiniert, Verantwortlichkeiten bleiben unklar, und kein Rahmen definiert, welche Daten mit welchen Tools geteilt werden dürfen.

Vendor-Lock-in ist eine Form strategischer Abhängigkeit. Wenn die Prozesse eines Unternehmens auf einem proprietären KI-Tool beruhen, wird die Migration zu einer Alternative kostspielig, risikoreich und technisch komplex. Langfristig verfügt der Anbieter über Marktmacht, die die Verhandlungsfähigkeit des Unternehmens aushöhlt.

Der Mangel an internen Kompetenzen ist eines der grössten Hindernisse für eine strukturierte Adoption. KMU können in der Regel nicht allein ein KI-Governance-Team aufbauen. Externe Begleitung, sei es Beratung, Schulung oder technischer Dienstleister, ist daher ein Risikominderungsfaktor, kein Luxus.

Die Schweiz setzt auf einen Ansatz technologischer Neutralität: kein einheitliches KI-Gesetz, aber Anwendung bestehender Sektorgesetze. Konkret gelten 2025-2026 folgende Texte direkt für KI-Anwendungen in Unternehmen:

Der EDÖB (Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter) hat bestätigt, dass das nDSG ohne Zweideutigkeit direkt auf KI-Verarbeitungen anwendbar ist. Die Behörde überwacht insbesondere Fälle von Gesichtserkennung, Verhaltensüberwachung und Verarbeitung sensibler Daten durch automatisierte Systeme.

Für Unternehmen mit EU-Exposure kommt der AI Act als zusätzliche Regulierungsschicht hinzu. Die ersten Verbote (inakzeptables Risikoniveau) sind im Februar 2025 in Kraft getreten. Die Pflichten für Hochrisikosysteme treten schrittweise bis August 2026 in Kraft.

Das KI-Risikomanagement erfordert weder einen vollständigen Stopp noch einen Neustart. Es verlangt einen strukturierten, auf die Grösse und den Sektor der Organisation abgestimmten Ansatz. Hier sind die von Schweizer Praktikern identifizierten Prioritätsschritte.

Für Schweizer Unternehmen, die Unternehmens-KI-Tools, Kundenportale, interne Software oder KI-Agenten einsetzen möchten, ohne ihre Daten an amerikanische Hyperscaler zu übertragen, verfolgt Kleap einen Ansatz basierend auf drei Grundsätzen.

Erster Grundsatz: europäische Infrastruktur. Deployments stützen sich auf Hetzner (Deutschland, ISO 27001-zertifiziert) und Open-Source-Modelle, deren Daten die EU nicht verlassen und nicht zum Training von Drittmodellen wiederverwendet werden.

Zweiter Grundsatz: Begleitung. Kleap verkauft kein Tool, sondern bietet ein von einem Team geliefertes Ergebnis. Drei Wege stehen zur Verfügung: schlüsselfertige Erstellung über die Partneragentur Lionscreative, Vermittlung an einen spezialisierten Dienstleister oder geführtes Kleap Enterprise Deployment.

Dritter Grundsatz: Rückverfolgbarkeit. Die Aktionen der eingesetzten KI-Systeme sind prüfbar. Führungspersonen können Entscheidungen dokumentieren, um die nDSG-Anforderungen zu erfüllen und eine AI Act-Konformität vorzubereiten.