Wann liegt ein KI-System nach der KI-Verordnung vor?

Was ist ein KI-System? – Eine Definition gemäß Artikel 3 KI-VO

Künstliche Intelligenz (KI) ist ein Begriff, der in den letzten Jahren zunehmend an Bedeutung gewonnen hat. Die Europäische Union hat mit der KI-Verordnung einen rechtlichen Rahmen geschaffen, um den Einsatz von KI-Systemen zu regulieren. Doch was genau ist ein KI-System? Laut Artikel 3 der KI-VO, unter Berücksichtigung des Erwägungsgrundes 12, lässt sich ein KI-System wie folgt definieren:

1. Ein maschinengestütztes System

Ein KI-System wird als „maschinenbasiert“ bezeichnet, weil es von Maschinen betrieben wird. Diese Systeme sind darauf ausgelegt, Aufgaben durch den Einsatz von maschinellen Prozessen zu bewältigen.

2. Autonomer Betrieb

Ein wesentliches Merkmal eines KI-Systems ist seine Fähigkeit, in unterschiedlichem Maße autonom zu agieren. Autonomie bedeutet, dass das KI-System bis zu einem gewissen Grad unabhängig von menschlichem Zutun Entscheidungen treffen kann. Es analysiert Eingabedaten und generiert daraufhin Ausgabedaten, wobei der Entscheidungsprozess oft komplex und für Menschen nicht immer nachvollziehbar ist. Diese Autonomie führt dazu, dass dasselbe System bei identischen Eingaben unterschiedliche Ergebnisse liefern kann.

3. Anpassungsfähigkeit

Nach der Inbetriebnahme kann ein KI-System anpassungsfähig sein. Das bedeutet, dass es in der Lage ist, durch Lernprozesse seine Leistung und Funktionsweise zu verbessern. Diese Anpassungsfähigkeit ist entscheidend für die Weiterentwicklung des Systems im Laufe seiner Nutzung.

4. Ableitung von Ausgaben

Ein KI-System ist in der Lage, aus den erhaltenen Eingaben bestimmte Ausgaben abzuleiten, wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen. Diese Fähigkeit geht über die bloße Verarbeitung von Daten hinaus und umfasst komplexe Prozesse des Lernens, Schlussfolgerns und Modellierens.

5. Einfluss auf physische oder virtuelle Umgebungen

KI-Systeme können sowohl physische als auch virtuelle Umgebungen beeinflussen. Dies bedeutet, dass sie durch ihre Ausgaben und Entscheidungen reale Auswirkungen auf die Welt um uns herum haben können.

Was ist kein KI-System?

Nicht alle computergestützten Systeme fallen unter die Definition eines KI-Systems. Einfachere Softwaresysteme und traditionelle Programmieransätze gelten nicht als KI-Systeme. Diese Systeme folgen vorgegebenen Regeln und Algorithmen, ohne die oben genannten Merkmale von Autonomie, Anpassungsfähigkeit und der Fähigkeit zur Ableitung komplexer Ausgaben.

Eingebettete Systeme und ihre Rolle als KI-System

KI-Systeme können entweder eigenständig oder als Teil eines Produkts verwendet werden. Wenn ein KI-System in ein physisches Produkt integriert wird, stellt sich die Frage, ob das gesamte „eingebettete System“ als KI-System gilt oder ob der Begriff nur auf die Software-Komponente beschränkt ist. Nach Ansicht von Borges ist der Begriff des KI-Systems strikt auf die Software-Komponente beschränkt und umfasst nicht die Kombination von Software und Hardware. Dies ist eine wichtige Unterscheidung im Kontext der KI-VO, da ein Produkt mit einer KI-Software-Komponente dadurch nicht automatisch selbst zu einem KI-System wird.

Fazit und Auswirkungen auf Software-Branche

Die Definition von KI-Systemen gemäß der KI-VO ist durch klar, unterscheidet aber zwischen verschiedenen Formen der Technologie. Während KI-Systeme durch ihre Autonomie, Anpassungsfähigkeit und ihre Fähigkeit zur Ableitung von Ausgaben charakterisiert werden, bleiben einfache Softwaresysteme und nicht-eingebettete Produkte außerhalb dieser Definition. Diese Unterscheidung ist entscheidend, um den Einsatz von KI in verschiedenen Bereichen zu regulieren und ihre Auswirkungen auf unsere Gesellschaft zu steuern. In der Regel bedarf es einer Einzelfallprüfung, um die Qualifikation eines KI-Systems zu bejahen oder verneinen. In der Folge stellt sich häufig die Frage, ob ein Hochrisiko-KI-System vorliegt.

‍