Sind Sie bereit für die KI-Verordnung?

13.12.2024

Die rasante Entwicklung Künstlicher Intelligenz verändert die Geschäftswelt grundlegend. Um Risiken zu minimieren und Chancen verantwortungsvoll zu nutzen, hat der Rat der EU-Mitgliedsstaaten am 21. Mai 2024 die Verordnung über künstliche Intelligenz (KI-Verordnung) verabschiedet - das weltweit erste Regelwerk zur Regulierung von KI-Systemen. Die EU-Mitgliedstaaten müssen die KI-Verordnung nun in nationales Recht umsetzen.

Was ist KI?

Die KI-Verordnung definiert in Artikel 3 Nr. 1 ein KI-System als „ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.“ 

Die KI Verordnung definiert KI-Systeme technologieneutral. Ziel ist es, alle Technologien zu erfassen, die Entscheidungen treffen oder Vorschläge machen können, ohne sich dabei ausschließlich auf festgelegte Algorithmen zu stützen und somit den Anwendungsbereich für zukünftige technologische Entwicklungen offen zu lassen.

Anwendungsbereich der KI-Verordnung

Die Verordnung nimmt neben Anbietern und Betreibern von KI-Systemen auch Produkthersteller, Einführer und Händler von KI-Systemen in die Pflicht, also auch Unternehmen, welche KI im Rahmen des Geschäftsbetriebes nutzen oder in ihre Produkte integrieren. Die Verordnung verfolgt einen risikobasierten Ansatz und unterteilt KI-Systeme in vier Risikokategorien. Die Anforderungen steigen mit dem Risiko, welches ein KI-System für die Gesellschaft darstellen kann.

  • Verbotene KI-Systeme (KI-Systeme, welche Grundrechte verletzen, wie manipulative Systeme oder Social Scoring);

  • Hochrisiko-KI-Systeme (beispielsweise KI-Systeme zur Kreditwürdigkeit, zur medizinischen Diagnostik oder in der Personalauswahl); hier gelten strenge Anforderungen an Transparenz, Dokumentation und Sicherheitsprüfungen;

  • KI-Systeme mit begrenztem Risiko (beispielsweise KI-Systeme, welche für die Interaktion mit natürlichen Personen bestimmt sind); auch hier gelten besondere Transparenzpflichten;

  • Minimales Risiko (KI-Systeme, welche nicht in den Anwendungsbereich der KI-Verordnung fallen). 

Zentrale Bestimmungen der Verordnung betreffen Hochrisiko-KI. Die Verordnung enthält unter anderem Vorschriften zu Transparenz, menschlicher Aufsicht sowie umfassende Dokumentations- und Berichtspflichten. 

Sind Sie vorbereitet?

Die KI-Verordnung ist nicht nur eine regulatorische Herausforderung, sondern auch eine Chance, KI innerhalb des Unternehmens unterstützend zu implementieren. Verstöße können allerdingt erhebliche Bußgelder zur Folge haben – bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes. Empfehlenswert ist eine frühzeitige Überprüfung von Systemen und Prozessen hinsichtlich der Umsetzung von erforderlichen Maßnahmen. 

 

 

 

Haftungsausschluss

Der Inhalt dieses Blogbeitrages ist nach bestem Wissen und Kenntnisstand erstellt worden. Vor dem Hintergrund der Komplexität und des ständigen Wandels der Rechtsmaterie schließen wir die Haftung und Gewähr für den Inhalt dieses Blogbeitrages aus. Dieser Blogbeitrag ersetzt nicht die individuelle persönliche Beratung durch einen Rechtsanwalt und/oder Steuerberater.

Kontaktformular für unverbindliche Mandatsanfragen

Ich habe die Datenschutzinformationen zur Kenntnis genommen. Ich stimme zu, dass meine Angaben ausschließlich für die Kontaktaufnahme und für Rückfragen gespeichert werden.

Schreiben Sie unsTermin vereinbaren040 / 37 68 04 0Zum Seitenanfang