Die Mitgliedstaaten der Europäischen Union haben am 2.2.2024 im Ausschuss der Ständigen Vertreter (AStV) die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung, AI Act) einstimmig gebilligt (vgl. Gemeinsame PM BMWK und BMJ vom gleichen Tag). Mit der KI-Verordnung setze die EU den Rahmen für den Einsatz von Künstlicher Intelligenz (KI) in Europa. Sie ziele darauf ab, Innovationen zu fördern, gleichzeitig das Vertrauen in KI zu stärken und sicherzustellen, dass diese Technologie in einer Weise genutzt wird, die die Grundrechte und die Sicherheit der Bürger der EU respektiert. Die KI-Verordnung sei das weltweit erste umfassende Regelwerk für KI. Vizekanzler und Bundesminister für Wirtschaft und Klimaschutz Dr. Robert Habeck erklärt: “Mit der Zustimmung der EU-Mitgliedstaaten gehen lange und intensive Verhandlungen erfolgreich zu Ende. Die KI-Verordnung soll dafür sorgen, dass wir in Europa das enorme Potenzial von KI heben und gleichzeitig auch Risiken in den Blick nehmen. Mit der KI-Verordnung ist diese Balance gelungen. Dafür haben wir uns intensiv in die Verhandlungen eingebracht. Bei der Umsetzung der Regeln werden wir Innovationsfreundlichkeit, Rechtsklarheit für Unternehmen und schlanke und bürokratiearme Strukturen ins Zentrum stellen – für einen starken KI-Standort Europa.” U. a. werde klargestellt, dass es sich bei der KI-Verordnung um eine Produktregulierung handelt, die sich nicht auf Forschungs- und Entwicklungsaktivitäten bezieht. Gleichzeitig schaffe die Verordnung das Fundament für die Entwicklung anwendungsorientierter KI in Europa. Die KI-Verordnung verfolge einen risikobasierten Ansatz: Je höher das Risiko ist, desto strenger sind auch die Pflichten. Während KI-Systeme mit einem inakzeptablen Risiko (wie etwa Social Scoring) gänzlich verboten werden und für Hochrisiko-KI-Systeme strenge technische und organisatorische Anforderungen gelten, unterliegen Anwendungen mit geringem Risiko lediglich bestimmten Transparenz- und Informationspflichten. Besondere Vorschriften werde es zudem für generative KI geben, namentlich sog. KI-Modelle mit allgemeinem Verwendungszweck, darunter auch solche, die Inhalte wie Texte und Bilder generieren. Dabei unterliegen besonders wirkmächtige KI-Modelle mit systemischem Risiko strengeren Auflagen. Auch für kleine und mittlere Unternehmen werde Transparenz die Anwendung von KI erleichtern. Insgesamt werden die Interessen und Bedürfnisse von KMU und Start-ups verstärkt berücksichtigt – auch durch die von der Bundesregierung eingebrachten Regeln für Reallabore, die Freiräume zur Erprobung von Innovationen schaffen. Vgl. auch Rauer, Die Erste Seite, BB Heft 7/2024 (in diesem Heft).

Uta Wichering, Ressortleiterin Wirtschaftsrecht