Gleich zu Beginn ein Hinweis: Es gibt im Netz schon eine große Anzahl von Hinweisen zur neuen KI Verordnung (KI-VO oder AI act). Da ich diese Blogs nun nicht aus wissenschaftlichem Interesse sondern aus der Perspektive der IT Unternehmen schreibe, gleich zu Beginn der Hinweis:
Die Regelungen der AI VO können aus zwei Perspektiven betrachtet werden, wenn man Hersteller des Systems ist.
1.) Da die AI VO dem Nutzer auch während des Betriebs einige Pflichten auferlegt, die er ohne den Provider nicht erfüllen kann, wird es keine Verträge geben, die als Kaufverträge ausgestaltet sind. Die Regelungen der AI Verordnung werden sich sinnvoll nur über SaaS, Softwarepflege und Serviceverträge einhalten lassen.
2.) Wie bei der DSGVO besteht die Minimalanforderung für die Provider (also Hersteller, Integratoren und Händler) darin, dass AI System eine KI-VO konforme Nutzung erlaubt. Deshalb muss man wissen, was die KI-VO beinhaltet. Ob der Kunde dann die AI Systeme auch so nutzt wie es die Verordnung verlangt, ist nicht in der Verantwortung des Providers. Aber es muss es können.
3.) Dann gibt es die zweite Gruppe der AI Provider: Das sind die Unternehmen, die ihren Kunden zusätzlich zu dem AI System auch noch branchen- oder anwendungsbezogenes Know How für den Betrieb und die Verbesserung der Ergebnisse und zugleich die Einhaltung der Regelungen der KI-VO überlassen werden.
Da bestimmte Pflichten der KI VO die Kompetenz des Users voraussetzen, selbst Entscheidungen über die Inhalte des Contents und die Auswahlprozesse der zugrundeliegenden Daten und des erwünschten Outputs vorzunehmen (diese müssen vorgenommen werden, wenn bestimmte Voraussetzungen vorliegen) werden sich wie in der Softwareindustrie bestimmte Produkte für bestimmte Zweige ausbilden, in denen Service und Überlassungsvertrag parallel angeboten werden.
4.) Noch ein Punkt: Die KI Verordnung kann aus der Sichtweise der Kunden nicht gedacht werden ohne das Haftungsregime zu kennen, das sich aus der Nutzung der AI Systeme ergeben soll. Die KI-Verordnung selbst begründet Pflichten gegenüber dem Staat. Hier besagen die Regelungen, dass Ordnungsgelder zu zahlen sind. Aber eine Verletzung der Rechte der betroffenen User (also derjenigen, die von dem Output der Systeme betroffen sind) begründet Schadensersatzansprüche. Diese Schadensersatzansprüche werden in Verordnungen geregelt werden, die erst noch erlassen werden müssen. Die Entwürfe beinhalten derzeit noch krude Vorstellungen über die Beweis- und Darlegungslast. Im Moment müsste ein Betroffener eine Rechtsverletzung mehr oder minder nur behaupten und das betroffene Unternehmen müsste zur Abwehr der Schadensersatzansprüche so viel offenbaren, dass jeder Prozess in einem unfreiwilligen Akt zur Offenbarung von Geschäftsgeheimnissen enden kann. Dieser Umstand wird mit als Hauptgrund dafür angesehen, dass die europäischen Regelungen zum Thema AI als Investitionsbremse angesehen werden. Deren Umsetzung wird nicht vor 2025 erfolgen und das Ringen über die Inhalte ist in vollem Gange.
5.) Aber: Wenn die die KI VO im Mai in Kraft getreten sein wird, werden innerhalb von 6, 12 und 24 die Regelung gelten und bestimmte Systeme dürfen nicht mehr oder nur noch unter Einhaltung von Pflichten zum Monitoring, Berichterstattung und Nachregulierung betrieben werden dürfen. Wer sich also jetzt damit auseinandersetzt, solche Systeme für den europäischen Markt zu erstellen, einzuführen oder zu vertreiben, muss sich zwanghaft mit den Regelungen der VO befassen.
