@incollection{Martini2024,
  author    = {Martini, Mario},
  title     = {Art. 14 - Menschliche Aufsicht},
  booktitle = {KI-VO: Verordnung {\"u}ber K{\"u}nstliche Intelligenz; Kommentar},
  editor    = {Martini, Mario and Wendehorst, Christiane},
  edition   = {1},
  isbn      = {978-3-406-81136-4},
  publisher      = {Deutsches Forschungsinstitut f{\"u}r {\"o}ffentliche Verwaltung},
  pages     = {422 -- 446},
  year      = {2024},
  abstract  = {KI-Systemen ist zwar eine beeindruckende Leistungskraft eigen. Ihnen unterlaufen aber teils auch {\"u}berraschende Fehler. Denn im Unterschied zum Menschen fehlt ihnen der Common Sense. Treffen sie falsche Entscheidungen, ist das jedoch f{\"u}r Dritte regelm{\"a}ßig nicht erkenn-bar. Gerade in (grundrechts-)sensiblen Bereichen birgt diese Intransparenz neue Gefahren. Dem setzt die KI-VO zahlreiche Schutzinstrumente entgegen (insbes. Risikomanagement, Qualit{\"a}t und Relevanz der verwendeten Datens{\"a}tze, technische Dokumentation, Aufzeich-nungs-, Transparenz- und Informationsbereitstellungspflichten f{\"u}r die Betreiber sowie nor-mative Vorgaben f{\"u}r die Robustheit, Genauigkeit und Cybersicherheit). Erg{\"a}nzend geh{\"o}rt auch die menschliche Aufsicht zu den zentralen Anforderungen, die die KI-VO f{\"u}r den gesam-ten Lebenszyklus von Hochrisiko-KI-Systemen aufstellt (Erwgr. 65, 66). Sie soll Risiken senken und dazu beitragen, dass der Einsatz von KI vertrauensw{\"u}rdig und ethisch vertretbar ist. Der Unionsgesetzgeber m{\"o}chte damit einen ausgewogenen Kompromiss zwischen Innovations-f{\"o}rderung und Risikoschutz herstellen.},
  language  = {de}
}