AI LV-Assistent in der Verwaltung: Rechtskonforme Automatisierung.

Rechtsgrundlage des Einsatzes von KI in der Leistungsverwaltung

Die Einführung eines AI LV-Assistenten muss sich strikt an die geltenden Gesetze der Bundesrepublik Deutschland sowie an das Unionsrecht halten. Zentrale Vorschriften sind insbesondere §§ 9–10 VwVfG, die sich mit dem Einsatz automatisierter Verfahren in Verwaltungsprozessen befassen. Danach ist der Einsatz von Programmen zulässig, soweit die hoheitliche Entscheidung dem Menschen vorbehalten bleibt. Dies bedeutet, dass ein AI LV-Assistent etwa Entwürfe von Bescheiden generieren oder Standardprüfungen vornehmen darf, die Endentscheidung jedoch einer sachlich zuständigen Person obliegt. Hinzu kommt § 24 EGovG, der ausdrücklich die Nutzung digitaler Verwaltungsverfahren erlaubt und fördert, solange die Prinzipien der Verhältnismäßigkeit und Transparenz gewahrt bleiben. Auch das Bundesdatenschutzgesetz (BDSG) enthält in § 22a Abs. 1 Vorgaben zur automatisierten Verarbeitung personenbezogener Daten, die in der Regel auf KI-gestützte Verwaltungsassistenten Anwendung finden. Ein Verstoß gegen diese Regelungen kann zur Rechtswidrigkeit der Verwaltungsakte führen.

Datenschutz und Transparenz: Der AI LV-Assistent im Lichte der DSGVO

Im Rahmen der Nutzung eines AI LV-Assistenten zur Verwaltung von personenbezogenen Daten sind insbesondere Art. 5 und Art. 22 DSGVO zu beachten. Letzterer untersagt grundsätzlich vollautomatisierte Einzelentscheidungen, die rechtliche Wirkung gegenüber betroffenen Personen entfalten. Für die Praxis bedeutet das: Der AI LV-Assistent darf personenbezogene Daten verarbeiten und Entscheidungsgrundlagen vorbereiten, nicht jedoch selbständig bindende Verwaltungsakte erlassen. Dies würde gegen den Grundsatz der informationellen Selbstbestimmung sowie das Gebot der Transparenz verstoßen. Auch die Dokumentationspflichten gemäß Art. 30 DSGVO sind strikt einzuhalten, um eine lückenlose Nachvollziehbarkeit der Verarbeitungsschritte sicherzustellen. Darüber hinaus verpflichtet Art. 25 DSGVO zur Implementierung datenschutzfreundlicher Voreinstellungen und Technikgestaltung (Privacy by Design und by Default), was konkrete Anforderungen an die Konfiguration und Architektur des AI LV-Assistenten stellt. Der datenschutzkonforme Einsatz ist daher keine technische, sondern eine rechtlich fundierte Frage.

Der AI LV-Assistent als Verwaltungswerkzeug im Rahmen von § 35 VwVfG

Gemäß § 35 Satz 1 VwVfG ist ein Verwaltungsakt jede Verfügung, Entscheidung oder sonstige hoheitliche Maßnahme einer Behörde auf dem Gebiet des öffentlichen Rechts. Daraus folgt unmittelbar, dass die finale inhaltliche Ausgestaltung eines Verwaltungsakts nicht allein durch ein automatisiertes System erfolgen darf. Dennoch ist der AI LV-Assistent ein geeignetes Mittel zur Verfahrensvorbereitung im Sinne von § 10 VwVfG, insbesondere bei der standardisierten Antragsbearbeitung. Ein Beispiel ist die Bearbeitung von Anträgen auf Elterngeld, Wohngeld oder BAföG, bei denen gesetzlich definierte Anspruchsvoraussetzungen gegeben sind. Der AI LV-Assistent kann die Eingaben prüfen, mit den Rechtsnormen vergleichen und eine Entscheidungsvorlage generieren. Das finale Prüfen und Unterzeichnen obliegt jedoch einer sachkundigen Person. Damit wird dem Rechtsgrundsatz der Einzelfallgerechtigkeit Rechnung getragen, ohne die Möglichkeiten digitaler Effizienzsteigerung zu vernachlässigen. Das Ergebnis ist ein rechtssicheres Verfahren mit beschleunigten Durchlaufzeiten.

Fachliche Verantwortung und die Rolle menschlicher Kontrolle

Ein AI LV-Assistent darf im Rahmen der bestehenden Rechtsordnung keine eigenständige normative Bewertung vornehmen. Die Letztverantwortung verbleibt beim menschlichen Bearbeiter, auch wenn dieser auf eine automatisierte Entscheidungsunterstützung zurückgreift. Juristisch relevant ist dabei § 839 BGB in Verbindung mit Art. 34 GG, wonach die Amtshaftung greift, falls infolge eines fehlerhaft programmierten oder unangemessen verwendeten AI LV-Assistenten ein rechtswidriger Verwaltungsakt erfolgt. Deshalb bedarf es nicht nur technischer Qualitätssicherung, sondern auch organisatorischer Kontrollmechanismen. Diese beinhalten regelmäßige Validierungen der KI-Ausgaben durch Fachpersonal sowie dokumentierte Schulungen zur Bedienung des Systems. Aufsicht und Fachverantwortung dürfen nicht delegiert werden, da sie integraler Bestandteil der rechtlichen Struktur öffentlicher Verwaltung sind. Ein solcher rechtlich verankerter Kontrollrahmen verhindert systemische Fehlentscheidungen und sichert die Vereinbarkeit mit Art. 20 Abs. 3 GG, dem Grundsatz der Gesetzesbindung der Verwaltung.

Algorithmische Fairness und Diskriminierungsschutz im Einsatzbereich

Ein weiteres zentrales Element beim Einsatz eines AI LV-Assistenten betrifft das Gebot der Gleichbehandlung aus Art. 3 GG sowie die unionsrechtlichen Anforderungen aus der Richtlinie 2000/43/EG und 2000/78/EG. Diese verbieten eine mittelbare oder unmittelbare Diskriminierung aufgrund von Herkunft, Geschlecht, Alter oder Behinderung. Bei algorithmischen Assistenzsystemen besteht stets die Gefahr sogenannter Bias-Effekte, also einer unbewussten Verzerrung in der Entscheidungslogik. Deshalb ist es geboten, bereits im Training der Modelle auf diskriminierungsfreie Datensätze zurückzugreifen. Zudem müssen nach Art. 5 Abs. 1 DSGVO die Grundsätze der Datenminimierung und Zweckbindung eingehalten werden, was einer ausufernden Profilbildung entgegenwirkt. Die Pflicht zur fairen Datenverarbeitung verlangt ferner eine regelmäßige Prüfung auf mögliche Fehlallokationen oder Benachteiligungen. Die technische Umsetzung ist damit auch eine rechtliche Verpflichtung – ein Aspekt, der bei der öffentlichen Beschaffung solcher Systeme bereits im Rahmen der Leistungsbeschreibung berücksichtigt werden muss.

Der AI LV-Assistent im Spannungsfeld von Beschleunigung und Rechtssicherheit

Die Erwartungshaltung gegenüber digitalen Verwaltungsassistenten ist hoch: Schnelle Bearbeitung, geringe Fehlerquoten und transparente Nachvollziehbarkeit. Diese Ansprüche lassen sich jedoch nur realisieren, wenn die Implementierung des AI LV-Assistenten nicht als rein technisches Projekt, sondern als rechtsstrategisches Vorhaben verstanden wird. Gerade in Verfahren mit Eingriffscharakter, etwa im Bereich der Gefahrenabwehr oder Sozialverwaltung, ist eine rechtssichere Ausgestaltung unerlässlich. Ein AI LV-Assistent darf Vorschläge unterbreiten, Normen anwenden und Informationen auswerten – er darf jedoch nicht rechtlich urteilen. Deshalb bedarf es klarer Schnittstellen zwischen technischer Unterstützung und juristischer Entscheidungskompetenz. Die Kombination aus maschineller Datenverarbeitung und menschlichem Rechtsverständnis ergibt ein handlungsfähiges Verwaltungssystem, das sowohl den Anforderungen der Digitalisierung als auch der Rechtsstaatlichkeit genügt. Unklarheiten, etwa bei Ermessensentscheidungen, müssen zwingend menschlich überprüft werden.

Vergaberechtliche Anforderungen beim Einsatz von AI LV-Assistenten

Bei der Einführung eines AI LV-Assistenten sind die Vorgaben des Vergaberechts strikt einzuhalten. Nach § 97 GWB ist die Vergabe öffentlicher Aufträge diskriminierungsfrei, transparent und wettbewerblich auszugestalten. Dies gilt auch für die Beschaffung digitaler Verwaltungswerkzeuge. Bereits in der Leistungsbeschreibung ist festzulegen, dass der AI LV-Assistent mit datenschutzrechtlichen, verwaltungsrechtlichen und IT-sicherheitsrechtlichen Anforderungen im Einklang steht. Die Technische Spezifikation muss dabei neben funktionalen Anforderungen auch regulatorische Vorgaben wie die Umsetzung von Art. 32 DSGVO zur Systemsicherheit sowie die Konformität mit § 10 VwVfG beinhalten. Im Rahmen der Zuschlagskriterien darf der Preis nicht das alleinige Entscheidungskriterium sein – vielmehr ist auch die rechtliche Qualität der Software zu bewerten. Zudem ist bei einer europaweiten Ausschreibung die Einhaltung der Richtlinie 2014/24/EU zu prüfen, insbesondere im Hinblick auf die Gleichbehandlung aller Bieter.

Fazit: Der AI LV-Assistent als rechtssicheres Zukunftswerkzeug der Verwaltung

Der AI LV-Assistent ist mehr als ein technisches Werkzeug – er ist ein juristisch eingebettetes System zur digitalen Verwaltungsmodernisierung. Sein Einsatz ist rechtlich zulässig, sofern er sich innerhalb der bestehenden Gesetzgebung bewegt und menschliche Entscheidungskompetenz nicht ersetzt, sondern unterstützt. Die zentralen rechtlichen Rahmenbedingungen reichen vom VwVfG über die DSGVO bis hin zum nationalen und europäischen Vergaberecht. In allen Phasen – von der Einführung über die Nutzung bis zur Kontrolle – ist die Einhaltung dieser Vorschriften zwingend erforderlich. Nur so lässt sich verhindern, dass Effizienz auf Kosten von Rechtsstaatlichkeit geht. Für Verwaltung, Unternehmen und Rechtsanwender ergibt sich daraus eine klare Handlungsanweisung: Der AI LV-Assistent muss rechtskonform geplant, juristisch geprüft und kontrolliert betrieben werden.

Jetzt beraten lassen:
Sie planen den Einsatz eines AI LV-Assistenten oder möchten Ihr bestehendes Verfahren rechtssicher modernisieren? Kontaktieren Sie uns für eine juristisch fundierte Beratung mit technologischem Fokus – rechtskonform, praxisnah, zukunftsfähig.