Künstliche Intelligenz (KI) ist auch in der öffentlichen Verwaltung ein Thema. Sie kann und soll z.B. genutzt werden, um Geldwäsche und Steuerbetrug zu bekämpfen. Allerdings bestehen gegenüber dem Einsatz von KI auch starke Bedenken, denn wo die Entscheidung über die Zu(ver-)lässigkeit von Transaktionen in die Hände von Algorithmen gelegt wird, besteht die Gefahr von Fehleinschätzungen mit fatalen Folgen für die Betroffenen.

Deshalb haben Wissenschaftler des European Law Institute (ELI) ein Modellgesetz entwickelt, dass für Entscheidungssysteme, die auf KI basieren, eine risikoangepasste Folgenabschätzung vorsieht. Der Ansatz basiert auf EU-Recht und ist mit diesem vereinbar, soll aber auch auf andere Rechtssysteme übertragbar sein. Mittels eines Leitfadens wollen die Freiburger Wissenschaftler den Einsatz von KI in der öffentlichen Verwaltung so regulieren, dass Innovationen nicht behindert werden, aber diese gleichzeitig Garantien bieten, um das Vertrauen in die Nutzung der Technologie zu stärken. Dazu müssten u.a. die Transparenz, Korrektheit und Verlässlichkeit der im Modell verwendeten Daten sichergestellt werden. Zentral ist dabei ein risikobasierter Ansatz, der je nach der Höhe des Risikos von Entscheidungen stufenweise verschärfte Schutzmaßnahmen vorsieht – dies könne z.B. bei Hochrisikosystemen die Überprüfung der behördlichen Folgeabschätzung durch unabhängig Sachverständige und eine Beteiligung der Öffentlichkeit sein.

Praxistipp:

Das European Law Institute berichtet in einem öffentlichen und kostenlosen Webinar am 13. April über den Modellentwurf – unter diesem Link können Sie sich für eine Teilnahme registrieren.