Das erste Gesetz zur Regulierung Künstlicher Intelligenz. Eine Navigationshilfe durch den AI ACT der EU

Der rasante Vormarsch alltagstauglicher Künstlicher Intelligenz (KI) markiert einen entscheidenden Moment in der Geschichte der Menschheit. Viele unserer gewohnten Prozesse müssen neu gedacht und definiert werden. Die Bank of America bezeichnete KI gar als „die neue Elektrizität“. Als Menschen haben wir es geschafft, eine Technologie zu entwickeln, die in der Lage ist, unsere Sprache zu verstehen, unsere Art der Kommunikation zu erfassen, durch unsere Daten zu lernen und Funktionen zu generieren, die wir uns bisher nur in Science-Fiction vorstellen konnten.

Die aktuelle industrielle Revolution findet in einem Kontext statt, in dem die weltweite Vernetzung der Menschheit durch das Internet die Generierung neuer Ideen erleichtert und die Mechanismen der Zusammenarbeit verbessert. Dadurch entsteht ein beispielloses Umfeld für Innovationen mit einer Kraft, die ihresgleichen sucht. Eine aufregende Ära, die wir als Unternehmen mit Freude aktiv mitgestalten.

Aus diesem Grund ist es äußerst wichtig, die angestoßenen Veränderungsprozesse kritisch zu durchdenken und zu hinterfragen: Welche Welt werden wir aufbauen? Welchen Einfluss gestatten wir KI auf unsere Prozesse? Wie werden wir die Beziehung zwischen KI und den Menschen von morgen gestalten? Die Antworten auf diese und viele andere Fragen werden unser Leben in den kommenden Jahrzehnten prägen.

Gesetz über Künstliche Intelligenz

Kürzlich hat die Europäische Union einen innovativen Vorschlag namens EU AI Act (kurz AIA) vorgelegt, mit dem Ziel, die Grundlagen für die Entwicklung und den Einsatz zuverlässiger KI-Systeme in der EU zu schaffen. Diese neuen Regeln entsprechen der Vision, die auch wir bei Nortal für die Entwicklung und den Einsatz haben: Künstliche Intelligenz, die verantwortungsbewusst und ethisch entwickelt und implementiert wird.

Kernaussagen und ihre Auswirkungen für KI-Nutzende und -Entwickelnde

Harmonisierter Rechtsrahmen

Der Vorschlag zielt darauf ab, einen harmonisierten Rechtsrahmen für die Entwicklung, Vermarktung und Nutzung von KI-Produkten und -Dienstleistungen in der gesamten EU zu schaffen. Für Kunden*innen bedeutet dies einen standardisierten Ansatz für Vorschriften der KI-Nutzung, dessen Einhaltung Vertrauen und Verlässlichkeit in die eingesetzten KI-Lösungen fördert.

Sicherheit und Vorschriften

Der AIA konzentriert sich darauf, sicherzustellen, dass in der EU vermarktete KI-Systeme und -Lösungen sicher sind und den rechtlichen Rahmenbedingungen der EU entsprechen. Dies stärkt nicht nur die Sicherheit der KI-Anwendungen selbst, sondern schafft auch Rechtssicherheit für ihre Entwickler*innen und Anwender*innen. Inwieweit diese Vorschriften Innovationen und Investitionen in eine sichere KI begünstigen oder nicht, ist Gegenstand der aktuellen Debatten.

KI-Governance und Grundrechte

Die Verbesserung der Governance und die effektive Umsetzung des EU-Rechts zu Grundrechten und Sicherheitsanforderungen für KI-Systeme sind zentrale Aspekte. Kunden*innen, die KI nutzen, verpflichten sich somit zu ethischen und verantwortungsbewussten KI-Praktiken wie im AIA beschrieben.

Definition von KI-Systemen

In Artikel 3(1) des AIA wird ein System künstlicher Intelligenz als Software definiert, die mit (spezifischen) Techniken und Ansätzen entwickelt wird und für ausgewählte menschlich definierte Ziele Ausgaben wie z. B. Inhalt, Vorhersagen, Empfehlungen oder Entscheidungen generieren kann, welche die Umgebung beeinflusst, mit der sie interagiert.

Diese Definition umfasst eine Vielzahl von auf Software basierenden Technologien, einschließlich maschinellen Lernens, logik- und wissensbasierte Systeme sowie statistische Ansätze. Dies bietet KI-Nutzenden Klarheit über die Risikostufe der von ihnen favorisierten KI-Lösung und der mit diesem Anwendungsbereich einhergehenden Vorschriften und rechtlichen Verantwortlichkeit.

Der Vorschlag erkennt die Komplexität künstlicher Intelligenz an und formuliert daher eine rechtliche Definition von „KI-Systemen“ und ihrem Einfluss, welche in vier Risikostufen gegliedert wird.

Risikobasierter Ansatz

Im Verständnis der einzigartigen Risiken, die mit KI verbunden sind, folgt der AIA einem risikobasierten Ansatz und kategorisiert KI-Systeme nach Risikostufen. Für Kunden*innen, die KI nutzen, stellt dieser Ansatz sicher, dass regulatorische Eingriffe den spezifischen Risiken entsprechen, die durch ihre Anwendungen entstehen.

Inakzeptables Risiko: Verbietet schädliche KI-Praktiken, die klare Bedrohungen für Sicherheit und Rechte darstellen, wie subliminale manipulative Techniken oder die Ausbeutung von vulnerablen Gruppen.
Hohes Risiko: Reguliert KI-Systeme mit hohem Risiko, die nachteilige Auswirkungen auf Sicherheit oder grundlegende Rechte haben, einschließlich solcher, die als Sicherheitskomponenten in verschiedenen Produkten und in bestimmten kritischen Bereichen wie Strafverfolgung und Bildung verwendet werden.
Begrenztes Risiko: KI-Lösungen dieser Risikogruppe unterliegen einem flexibleren und einfacheren regulatorischen Ansatz. Lösungen, die mit Menschen interagieren, wie zum Beispiel ein Chatbot, automatische Zusammenfassung von Dokumenten oder Erstellung von Berichten oder auch Werkzeuge für die automatische Übersetzung in der internationalen Kommunikation fallen in diese Kategorie.
Geringes oder Minimales Risiko: KI-Systeme, die geringe oder minimale Risiken darstellen, unterliegen auch minimalen regulatorischen Anforderungen. Kunden in dieser müssen die geringste Anzahl an Vorschriften befolgen, was ihre Innovationskraft und Entwicklung fördert.

Logischerweise wirft dieses neue regulatorische Rahmenwerk viele Fragen auf. Insbesondere wie die Entwicklung neuer KI-Lösungen angegangen wird, sowohl für diejenigen, die sich mit der Entwicklung künstlicher Intelligenzen befassen als auch für diejenigen, die sie als (Teil)Lösungen für ihre Zielgruppen einsetzen wollen.

Beim genauen Lesen der Definitionen der Europäischen Union wird klar, dass KI-Innovationen maßgeblich von den Risikostufen beeinflusst werden, welcher sie und/oder ihre Anwendungsfälle zugeordnet werden. Es spielt u. a. eine wesentliche Rolle wie Ihre KI-Lösung mit Menschen kommunizieren wird, ob sie nur intern genutzt wird, für jedermann im Internet zugänglich ist oder welche Ausgaben sie mit ihr generieren werden.

Dabei sind Ethik, Transparenz, Vertrauen und Risikominimierung Konzepte, die wir in unserer Arbeit mit hochsensiblen Daten und der Entwicklung und Implementierung von Lösungen seit jeher anwenden. Denn bei der Durchführung dieser Art von Entwicklung kommt es nicht nur auf die technischen Fähigkeiten an, sondern auch auf die Art und Weise, wie diese Projekte gedacht und geplant werden und darauf, frühzeitig zu erkennen, welche Auswirkungen die Lösung haben wird.

Wird Ihr aktueller oder geplanter Einsatz von KI-Lösungen den Vorgaben des EU AI Act gerecht? Welche Vorschriften müssen Sie berücksichtigen? Wie lassen sich diese effizient in Ihre Geschäftsmodelle und -abläufe integrieren?

Kontaktieren Sie uns und erfahren Sie, wie auch Ihr Unternehmen den EU AI Act sicher umsetzen kann.

Kontakieren Sie uns