Die Transaprenzpflichten nach der KI-VO

‍

Ein wesentlicher Aspekt im Bereich der KI-Compliance ist die Einhaltung von Transparenzpflichten. Gemäß Art 13 KI-VO (Entwurf) sind Hochrisiko-KI-Systeme so konzipiert und entwickelt, dass ihr Betrieb hinreichend transparent ist, damit die Nutzer der Ergebnisse des System angemessen interpretieren und verwenden können. Die Transparenz wird auf eine geeignete Art und in einem angemessenen Maß gewährleistet, damit die Nutzer und ihre Anbieter die sogleich geschildertenTransparenzpflichten erfüllen können.

‍

Transparenzpflichten bei KI-Anwendungen

‍

Demnach müssen Hochrisiko-KI-Systeme mit einer Gebrauchsanweisung bereitgestellt werden. Diese Bereitstellung muss in digitaler Form erfolgen oder auf andere Weise versehensein, die präzise, vollständig, korrekt, eindeutig, relevant, barrierefrei undverständlich ist.

Konkret hat die Gebrauchsanweisung folgende Punkte zu enthalten:

-  die Namen und die Kontaktangabendes Anbieter sowie gegebenenfalls seines Bevollmächtigten

-  die Merkmale, Fähigkeiten undLeistungsgrenzen des Hochrisiko-KI-Systems einschließlich

-  seiner Zweckbestimmung

-  des Maßes an Genauigkeit, Robustheit und Cybersicherheit sowie alle bekannten und vorhersehbaren Umstände, die sich darauf auswirken

-  seiner Leistung bezüglich derPersonen oder Personengruppen, auf die das System bestimmungsgemäß angewendet werden soll

-  der Spezifikation für die Eingabedaten oder sonstiger relevanter Informationen über die verwendeten Trainings-, Validierungs- und Testdatensätze unter Berücksichtigung der Zweckbestimmung des KI-Systems

-  etwaige Änderungen gegenüber derersten Konformitätsbewertung

-  Maßnahmen zur menschlichen Aufsicht, einschließlich der technischen Maßnahmen, die getroffen wurden, umden Nutzern die Interpretation der Ergebnisse von KI-Systemen zu erleichtern

-  die erwartete Lebensdauer des Hochrisiko-KI-Systems und alle erforderlichen Wartungs- und Pflegemaßnahmen zurGewährleistung des ordnungsgemäßen Funktionierens, auch in Bezug auf Software-Updates.

‍

KI und Recht: Pflichten für Händler und Einführer

‍

Wichtig ist in diesem Zusammenhang, dass die genannten Transparenzpflichten nicht nur die Anbieter von KI-Systemen treffen, sondern auch deren Händler und Einführer. Gerade für den Bereich der Software-Entwicklung hat dies weitgehende Konsequenzen.