07 Mai AI Act
Eine Woche nach der abschließenden Abstimmung des Europäischen Parlaments über die KI-Verordnung („AI Act“) hat der Europarat einen ersten Entwurf für eine internationale Konvention für KI veröffentlicht (CM(2024)52-prov1).
Mein juristischer Mitarbeiter Alexander Seyfried hat sich die Hauptpunkte des Entwurfs angesehen:
Das zukünftige Übereinkommen betont die Bedeutung von Menschenrechten, Demokratie und Rechtsstaatlichkeit im Zeitalter der künstlichen Intelligenz. Es erkennt die vielfältigen Chancen und Herausforderungen an, die mit der Nutzung von KI verbunden sind, und fordert die Schaffung eines globalen Rechtsrahmens, der Innovation fördert. Ein bedeutender Schritt, um das Vertrauen in KI-Systeme zu stärken.
Besonderes Augenmerk liegt auf der Förderung digitaler Kompetenz und dem Schutz personenbezogener Daten. Transparenz, Verantwortlichkeit und der Schutz der Privatsphäre sind weitere Schlüsselelemente im Umgang mit KI-Systemen. Es wird betont, Risiken zu identifizieren und zu bewerten, sowie angemessene Rechtsbehelfe und Verfahrensgarantien sicherzustellen. Die Zusammenarbeit zwischen den Vertragsparteien und der Austausch von Informationen sollen dazu beitragen, schädliche Auswirkungen von KI zu mindern und zu verhindern. Dadurch können Nutzer und Betroffene besser verstehen, wie KI-Systeme funktionieren, welche Daten verwendet werden und wie Entscheidungen getroffen werden. Dies fördert Vertrauen und ermöglicht eine kritische Auseinandersetzung mit KI-Anwendungen.
Gleichzeitig äußert der Europarat jedoch Bedenken darüber, dass bestimmte KI-Aktivitäten die Menschenwürde und individuelle Autonomie gefährden könnten. Auch die potenzielle Verstärkung von Diskriminierung und Ungleichheiten durch den Einsatz von KI wird kritisch betrachtet. Die missbräuchliche Verwendung von KI-Systemen zu repressiven Zwecken, wie Überwachung und Zensur, wird entschieden abgelehnt. Es gibt auch sonstige Herausforderungen im Zusammenhang mit dem Übereinkommen: Zum Beispiel könnten einige Formulierungen möglicherweise zu vage sein, was die konkrete Umsetzung und Durchsetzung erschweren könnte. Zudem könnte die Wirksamkeit der Konvention beeinträchtigt werden, wenn sich nicht alle Staaten daran beteiligen oder wenn es an effektiven Mechanismen zur Überwachung und Durchsetzung mangelt.