Regulierung tötet Innovation? – Manoj Kahdan im Gespräch über den AI-Act und die Zukunft der KI in Europa

Der am 12. Juli 2024 verabschiedete AI-Act der Europäischen Union stellt einen bedeutenden Schritt in der Regulierung von Künstlicher Intelligenz (KI) auf internationaler Ebene dar. Mit dieser Gesetzgebung übernimmt die EU eine Vorreiterrolle bei der Festlegung verbindlicher Standards für den Einsatz von KI. Doch so begrüßenswert dieser Fortschritt ist, so stellt er Unternehmen – insbesondere kleine und mittlere Unternehmen (KMU) sowie Start-ups – auch vor große Herausforderungen.

Im Gespräch mit Manoj Kahdan werden die zentralen Aspekte und potenziellen Auswirkungen des AI-Acts auf die Wirtschaft beleuchtet. Dabei wird diskutiert, wie sich Unternehmen auf die neuen Vorschriften einstellen müssen, welche Risiken und Chancen sich daraus ergeben und wie diese Regulierung möglicherweise die Wettbewerbsfähigkeit Europas im globalen Vergleich beeinflusst.

Zur Person: Manoj Kahdan ist Wissenschaftlicher Mitarbeiter und Teil des Digital Responsibility & Innovation Lab an der RWTH Aachen University. Er forscht in den Bereichen „AI Governance & AI Certification“ und verantwortet seitens RWTH Aachen das Projekt „Zertifizierte KI“.

Der AI-Act ist in Kraft getreten und sorgt für kontroverse Diskussionen. Wo siehst du die größten Herausforderungen für Unternehmen, die von den neuen Regelungen betroffen sind?

Manoj Kahdan: Der AI-Act ist ein wichtiger Schritt in der Regulierung von KI, bringt aber auch erhebliche Herausforderungen mit sich, insbesondere für kleinere Unternehmen. Eine der größten Herausforderungen ist die Klassifizierung von KI-Anwendungen. Der AI-Act teilt KI in verschiedene Risikokategorien ein – von verbotenen über risikoreiche bis hin zu Anwendungen ohne wesentlichem Risiko. Für jede Kategorie gelten unterschiedliche Compliance-Anforderungen.

Das Problem ist, dass viele Unternehmen jetzt feststellen, dass ihre Software, die sie seit Jahren vermarkten, plötzlich als KI eingestuft wird. Diese Neuklassifizierung bedeutet, dass Unternehmen sich mit neuen, oft komplexen Vorschriften in bestehenden Prozessen und Produkten auseinandersetzen müssen. Gerade für KMU, die vielleicht nur ein oder zwei Personen für Compliance Themen haben, ist das eine enorme Mehrbelastung. Unternehmen müssen nicht nur die neuen Anforderungen verstehen und erfüllen, sondern benötigen hierzu auch Ressourcen für deren Umsetzung bereitstellen. In vielen Fällen könnte dies bedeuten, dass sie externe Beratung in Anspruch nehmen müssen, was wiederum zusätzliche Kosten führt. Für Beratungen ist dies natürlich ein neues und lukratives Geschäftsfeld.

Das klingt nach einer enormen Belastung für KMU. Glaubst Du, dass einige Unternehmen versuchen werden, den Begriff „KI“ zu vermeiden, um den neuen Vorschriften zu entgehen?

Manoj Kahdan: Ja, das ist durchaus möglich. In den letzten Jahren wurde der Begriff „KI“ oft sehr frei, fast inflationär verwendet. Viele Produkte wurden marketingtechnisch als KI bezeichnet, selbst wenn es sich um einfache algorithmische Prozesse handelte. Nun könnten Unternehmen natürlich versuchen, den umgekehrten Weg zu gehen und ihre Produkte nicht mehr als KI zu bezeichnen, um im Idealfall die strengen Compliance-Anforderungen zu umgehen.

Kann Regulierung Innovation töten?

Manoj Kahdan: Diese Aussage mag auf den ersten Blick provokant erscheinen, aber sie spiegelt eine reale Gefahr wider. Wenn Regulierungen zu streng sind oder zu hohe Hürden aufbauen, können sie tatsächlich Innovationen abwürgen. Kleine Unternehmen und Start-ups sind oft die treibenden Kräfte hinter technologischen Durchbrüchen, aber sie haben nicht die gleichen Ressourcen wie große Unternehmen, um komplexe Vorschriften zu erfüllen.

Ein simples Beispiel: Wenn ein Start-up eine innovative Idee entwickelt, die als Hochrisiko-Anwendung eingestuft werden könnte, muss es enorme Anstrengungen unternehmen, um alle pre-market und post-market Compliance-Anforderungen zu erfüllen. Diese Anforderungen können so abschreckend sein, dass das Unternehmen beschließt, die Idee nicht weiterzuverfolgen oder sie in eine Region mit weniger restriktiven Vorschriften zu verlagern. Dies kann langfristig zu einem Verlust der Wettbewerbsfähigkeit Europas führen.

Denkst du, dass der AI-Act die europäische Wirtschaft im globalen Vergleich benachteiligen könnte?

Manoj Kahdan: Kurzfristig besteht diese Gefahr. Europa ist zwar Vorreiter bei der Regulierung von KI, aber das bedeutet auch, dass wir uns selbst stark einschränken, während andere Regionen der Welt wie die USA oder China weniger strenge Regeln haben. Dies kann dazu führen, dass Unternehmen ihre innovativen Ideen lieber dort umsetzen, wo die Regulierung weniger restriktiv ist.

Auf der anderen Seite könnte Europa durch diese Regulierung langfristig auch eine Vorreiterrolle einnehmen. Auch die DSGVO, die Datenschutzgrundverordnung, wurde anfangs kritisch beäugt, hat sich aber als globaler „Gold“-Standard etabliert. Ähnlich könnte es dem AI-Act ergehen. Wenn es Europa gelingt, ein wertebasiertes, transparentes und faires System zur Regulierung von KI zu etablieren, könnte dies weltweit als Vorbild dienen. Das wird aber nur funktionieren, wenn die Regulierung praxisnah und flexibel genug ist, um Innovationen nicht zu ersticken.

Welche Schritte sollten Unternehmen jetzt unternehmen, um sich auf die Anforderungen des AI-Acts vorzubereiten?

Manoj Kahdan: Zunächst ist es wichtig, dass Unternehmen genau verstehen, wo ihre Anwendungen in die Risikokategorien des AI-Acts fallen. Das heißt, sie müssen ihre Produkte und Dienstleistungen genau analysieren, um festzustellen, ob und inwieweit sie von den neuen Regelungen betroffen sind.

Zweitens sollten sie in Erwägung ziehen, Expertenwissen einzuholen, sei es durch interne Schulungen oder durch die Zusammenarbeit mit externen Beratern. Die Anforderungen an Transparenz, Dokumentation und Berichterstattung sind nicht trivial und es ist wichtig, dass Unternehmen von Anfang an eine klare Strategie haben, wie sie diese Anforderungen erfüllen wollen.

Ein weiterer wichtiger Punkt ist die Zusammenarbeit innerhalb des Unternehmens. Die Einhaltung des Datenschutzgesetzes betrifft nicht nur die IT-Abteilung, sondern erfordert die Zusammenarbeit verschiedener Abteilungen, darunter Recht, Datenschutz, IT und Management. Entscheidend ist, dass alle Beteiligten verstehen, welche Anforderungen auf sie zukommen und wie sie diese gemeinsam bewältigen können.

Wie sieht die Zukunft des AI-Acts aus? Wird er sich weiterentwickeln und wenn ja, in welche Richtung?

Manoj Kahdan: Der AI-Act ist ein dynamisches Instrument und es ist durchaus möglich, dass er sich weiterentwickeln wird, basierend auf den Erfahrungen der Unternehmen und der Reaktion des Marktes. In den kommenden Jahren wird es besonders interessant sein zu beobachten, wie die Unternehmen die Anforderungen umsetzen und wie flexibel der Gesetzgeber auf Herausforderungen reagiert.

Ein Beispiel hierfür sind sogenannte Sandboxes, regulatorische Testumgebungen, in denen Unternehmen ihre KI-Anwendungen entwickeln und testen können, ohne sofort alle regulatorischen Anforderungen erfüllen zu müssen. Diese Sandboxes könnten eine Schlüsselrolle dabei spielen, Innovationen zu fördern, ohne zu viel regulatorischen Druck auszuüben. Es wird spannend sein zu sehen, ob diese Initiative tatsächlich zu einem Innovationsschub führt oder ob weitere Anpassungen notwendig sein werden.

Langfristig hoffe ich, dass der AI-Act nicht nur als Regelwerk, sondern auch als Mittel zur Förderung einer ethischen und verantwortungsvollen KI-Entwicklung wahrgenommen wird. Wenn es uns gelingt, einen globalen Standard zu setzen, könnte dies Europa eine einzigartige Position in der globalen KI-Landschaft verschaffen.

Abschließend noch eine Frage: Was rätst du kleinen Unternehmen und Start-ups, die durch den AI-Act vor großen Herausforderungen stehen?

Manoj Kahdan: Mein Rat wäre, sich von den Herausforderungen nicht abschrecken zu lassen, sondern sie als Chance zu sehen. Ja, die Anforderungen sind hoch, aber sie bieten auch die Möglichkeit, sich von Anfang an als verantwortungsbewusster und transparenter Akteur am Markt zu positionieren. Unternehmen sollten die Zeit nutzen, um sich gründlich vorzubereiten und eine klare Strategie zu entwickeln, wie sie die Anforderungen des AI-Acts erfüllen wollen.

Gleichzeitig ist es wichtig, den Dialog mit den Regulierungsbehörden zu suchen. Der AI-Act ist noch jung und es gibt sicherlich Raum für Anpassungen. Wenn Unternehmen ihre Erfahrungen und Herausforderungen aktiv einbringen, können sie dazu beitragen, dass die Regulierung praxistauglicher wird und den tatsächlichen Bedürfnissen des Marktes besser entspricht.

Vielen Dank für das aufschlussreiche Gespräch. Wir sind gespannt, wie sich die Regulierung und der Markt in den nächsten Jahren entwickeln werden.

Das Interview führte Franziska Peters, Marketing & Communications Managerin bei AI Grid.

AI Grid Botschafter:innen

AI Grid Botschafterin in Israel

AI Grid Botschafter in Großbritannien

AI Grid Botschafter in Schweden

AI Grid Botschafter in der Schweiz

AI Grid Botschafterin in den USA (Westküste)

AI Grid Botschafter in Japan (Tokio)

AI Grid Botschafter in Spanien

AI Grid Botschafter für die USA (Ostküste)

AI Grid Botschafterin für Frankreich

Professor an der Universität TU Dortmund