Die Entwicklung neuer Produkte beginnt immer mit einer Idee. Welches Problem soll das Produkt lösen? Welche Möglichkeiten bietet es den Nutzern? Diese Ideen werden später in Funktionen und Prozesse übersetzt.
Ein Designer im weitesten Sinne wählt die Fähigkeiten eines Produkts auf Basis von Dingen, die bereits existieren: Ein Staubsaugerroboter entfernt Staub ähnlich wie ein herkömmlicher Staubsauger, eine mobile App nutzt Sensoren und Betriebssystemfunktionen, und ein Online-Shop hat immer Warenkorb und Kasse.
Produkte müssen sich jedoch nicht strikt an Branchenstandards halten. Jedes Unternehmen versucht, etwas Neues zu schaffen – eine neue Art der Inhaltsbereitstellung, neue Interaktionsformen, höhere Geschwindigkeit oder breitere Zugänglichkeit. Neue Technologien werden dabei zu Treibern des Fortschritts, und KI ist eine davon.Gleichzeitig steht KI seit ihren Anfängen unter genauer Beobachtung durch Regulierungsbehörden weltweit. Wie also damit arbeiten, ohne gegen Gesetze zu verstoßen?
Tipp 1: Systeme bauen, die sich an Veränderungen anpassen lassen
Die Regulierung von KI steht noch am Anfang – in Zukunft wird es deutlich mehr davon geben. Gleichzeitig unterliegt dein Produkt schon heute vielen weiteren Gesetzen:
- Datenschutzgesetze
- Produktsicherheitsvorschriften
- Verbraucherschutzgesetze
- Jugendschutz
- Urheberrecht und verwandte Schutzrechte
- Vorschriften zur öffentlichen Ordnung und Sicherheit
Deshalb solltest du Flexibilität in die Architektur deines Produkts einbauen – egal ob Software, Hardware oder Produktlinie – damit Anpassungen und Verbesserungen bei Bedarf möglich sind.
Dazu gehören:
- Menschliche Aufsicht – die Möglichkeit, von KI generierte Entscheidungen zu überprüfen und zu ändern (z. B. Bearbeitungsmodi für generierte Texte)
- Protokolle – zur Dokumentation aller Ereignisse und Aktionen
- Reparierbarkeit – KI-Komponenten lassen sich im Servicecenter, über Patches oder durch Nutzer selbst ersetzen
Es ist besser, sich früh auf mögliche Probleme vorzubereiten.
Tipp 2: Vom ersten Tag an alles dokumentieren
Dokumentation dient gleich mehreren Zwecken:
- Nachweis der Urheberschaft oder anderer Rechte am Produkt oder seinen Komponenten
- Überwachungsmaßnahmen
- Untersuchung von Vorfällen
- Algorithmen zum Nachtrainieren
- Einhaltung gesetzlicher Vorschriften
Ein Produkt konform zu machen, ist deutlich einfacher, wenn du detaillierte Aufzeichnungen aller KI-relevanten Ereignisse hast:
- Entscheidung zur Entwicklung eines KI-basierten Produkts, Ziele und erwartete Fähigkeiten
- Auswahl von Daten und Modellen
- Entwicklung und Aufbau der Infrastruktur
- Tests und Produktverbesserungen
- Markteinführung und Nutzerwahrnehmung (inklusive Testgruppen)
- laufender Betrieb
Form und Inhalt der Dokumentation variieren je nach Phase – bei Zertifizierungen oder behördlichen Untersuchungen sind sie aber alle entscheidend.
Tipp 3: Data-Governance-Praktiken aufbauen
Ein KI-Modell funktioniert nur mit hochwertigen Daten. Die Erstellung und Verbesserung von Daten fällt ins Datenmanagement – die Qualitätssicherung dagegen ist Sache der Data Governance.
Data Governance gibt dir Kontrolle über alle Prozesse rund um dein KI-Produkt: von der Datenerfassung über kontinuierliches Feedback bis zur Protokollanalyse. Außerdem kannst du damit bewerten, ob ein Datensatz die Qualitätskriterien für KI-Nutzung erfüllt – und beobachten, wie sich Datenqualität auf die Modellleistung auswirkt.
Zu Data-Governance-Praktiken zählen:
- Datenermittlung und -bewertung
- Datenklassifizierung und -organisation
- Datenkatalog und Metadatenverwaltung
- Datenqualitätsmanagement
- Datenzugriffsmanagement
- Datenschutzpraktiken
Dafür braucht es nicht zwingend ein eigenes Team. Auch kleine Start-ups sollten sich von Anfang an damit beschäftigen. Wer keine internen Ressourcen für einen Datenschutzbeauftragten hat, kann diese Rolle auch extern besetzen – etwa über spezialisierte Anbieter wie https://privacity.de/, die DPO-as-a-Service für Tech-Unternehmen übernehmen.
Tipp 4: Regelmäßige Risikobewertungen und Tests
Vertrau nicht blind Anbietern, die KI-Integrationen, Modelle, Daten oder andere Komponenten verkaufen. Prüfe immer die Dokumentation sowie Untersuchungen unabhängiger Organisationen und Forschender.
Achte besonders auf:
- auf welchen Daten das Modell trainiert wurde und wie diese Daten gewonnen wurden
- Häufigkeit von Halluzinationen
- ob das Modell bei Integration in deine Systeme Zugriffskontrollregeln einhält
- ob das Modell Systemaufforderungen folgt
- ob Nutzer Sicherheitsvorkehrungen umgehen und schädliche Inhalte erzwingen können
Bleib außerdem auf dem Laufenden – über Branchennachrichten und Organisationen, die sich mit KI-Sicherheit beschäftigen und Berichte zu Risiken und bekannten Vorfällen veröffentlichen.
All diese Probleme können Reputations- und finanziellen Schaden verursachen. Ein in ein Support-System integrierter Chatbot etwa kann nicht nur Skripte preisgeben, sondern auch interne Informationen über Team, Unternehmenssysteme, Supportanfragen oder inoffizielle interne Dokumente.
Tipp 5: Kommunikationskanäle für den KI-Einsatz schaffen
KI-Technologien sind für die meisten Verbraucher noch neu. Gleichzeitig haben sie sich in den letzten Jahren so rasant entwickelt, dass es immer schwieriger wird, echte von generierten Inhalten zu unterscheiden.
Deshalb: Informiere Nutzer klar, wann KI im Spiel ist. Üblicherweise über sichtbare Textbenachrichtigungen oder andere Indikatoren – spezifisches Interface-Design, Lichter, Töne oder sogar das Weiterleiten in eine separate Umgebung.
Manchmal lohnt es sich auch zu erklären, wie KI in deinem Produkt funktioniert: Cloud-Lösung über API oder lokal bereitgestelltes Open-Source-Modell in der eigenen Infrastruktur? Im B2B-Kontext kann diese Info die Kaufentscheidung beeinflussen – besonders in sensiblen Branchen wie Banking oder Gesundheit.
Erkläre außerdem Nutzungsregeln und erwartetes Verhalten. Geht etwas schief, können Nutzer das erkennen und dich informieren – oder das Problem sogar selbst beheben (z. B. durch Zurücksetzen auf Standardeinstellungen).
Das Grundprinzip ist einfach: Verheimliche nicht, dass KI die Funktionsweise deines Produkts beeinflusst.
Fazit
Mit diesen Grundsätzen schützt du dein Produkt, deine Website oder App vor vielen Risiken. Sie sind technologieneutral – gelten also für viele Produktarten, ohne deine Tool-Auswahl einzuschränken.
Betrachte dein Produkt immer mit den Augen eines kritischen Nutzers. Wenn du das Gefühl hast, KI könnte mehr Schaden als Nutzen stiften, geh zurück in die Entwurfsphase und pass es an.