Open Access

Mario Martini

• KI-Systemen ist zwar eine beeindruckende Leistungskraft eigen. Ihnen unterlaufen aber teils auch überraschende Fehler. Denn im Unterschied zum Menschen fehlt ihnen der Common Sense. Treffen sie falsche Entscheidungen, ist das jedoch für Dritte regelmäßig nicht erkenn-bar. Gerade in (grundrechts-)sensiblen Bereichen birgt diese Intransparenz neue Gefahren. Dem setzt die KI-VO zahlreiche Schutzinstrumente entgegen (insbes. Risikomanagement, Qualität und Relevanz der verwendeten Datensätze, technische Dokumentation, Aufzeich-nungs-, Transparenz- und Informationsbereitstellungspflichten für die Betreiber sowie nor-mative Vorgaben für die Robustheit, Genauigkeit und Cybersicherheit). Ergänzend gehört auch die menschliche Aufsicht zu den zentralen Anforderungen, die die KI-VO für den gesam-ten Lebenszyklus von Hochrisiko-KI-Systemen aufstellt (Erwgr. 65, 66). Sie soll Risiken senken und dazu beitragen, dass der Einsatz von KI vertrauenswürdig und ethisch vertretbar ist. Der Unionsgesetzgeber möchte damit einen ausgewogenen Kompromiss zwischen Innovations-förderung und Risikoschutz herstellen.