Open Access

Mario Martini

• Viele KI-Systeme gleichen einer Blackbox: Ihre Funktions- und Arbeitsweise sowie Entschei-dungsprozesse liegen im Dunkeln. Insbesondere lernende Systeme sind so komplex, dass selbst ihre Entwickler bzw. Programmierer häufig nicht sagen können, auf welchen ver-schlungenen Pfaden sie zu ihren Ausgaben gelangen. Erst die Möglichkeit, Technik zu verstehen, schafft aber Vertrauen in ihre Funktionsweise. Vor diesem Hintergrund hatte die Wissenschaft hinreichende Transparenz schon früh zu einer Kernvoraussetzung für vertrauenswürdige KI erhoben. Diesem Ziel verschreibt sich Art. 13. Seine Vorgaben sollen helfen, Bedenken hinsichtlich der Undurchsichtigkeit und Komplexität von Hochrisiko-KI-Systemen auszuräumen, sowie Betreiber zu befähigen, die Funktionsweise der Systeme zu verstehen, ihre Funktionalität zu bewerten sowie Stärken und Grenzen zu er-fassen (Erwgr. 72 S. 1, 2). Die Informationen, insbes. über beabsichtigte und ausgeschlossene Verwendungszwecke des Systems, sollen Betreiber besser in die Lage versetzen, das richtige KI-System auszuwählen sowie es „korrekt und angemessen [zu] verwenden“ (Erwgr. 72 S. 6 und 7). Im Idealfall beugt der verbesserte Informationsstand auch Fehlanwendungen vor, welche Risiken für die Gesundheit, Sicherheit und die Grundrechte Betroffener mit sich brin-gen könnten (vgl. Erwgr. 65 S. 9 sowie 72 S. 5 und 6). Um das angestrebte Transparenzniveau zu erreichen, setzt Art. 13 auf zwei Instrumente: integrierte Transparenzmechanismen des Hochrisiko-KI-Systems (Abs. 1) und Betriebsanleitungen (Abs. 2–3). Letztere sind im Technik-regulierungsrecht kein Novum, sondern insbes. im Produktsicherheitsrecht längst ein etabliertes Instrument der Kundeninformation.