KI in der Verwaltung: Einsatzfelder, Regeln und Einführung

KI in der Verwaltung ist der kontrollierte Einsatz künstlicher Intelligenz zur Unterstützung öffentlicher Aufgaben. Sinnvoll beginnt er nicht mit einem beliebigen Chatbot, sondern mit einem abgegrenzten Vorgang, zulässigen Daten, menschlicher Prüfung und messbarem Nutzen. Dieser Leitfaden behandelt Einführung und Governance; konkrete Sitzungsdienst-Aufgaben erklärt der separate Beitrag zum Sitzungsdienst.

Kurzantwort: Starten Sie mit risikoarmen Assistenzaufgaben, nicht mit automatisierten Entscheidungen. Prüfen Sie Rechtsgrundlage, Datenschutz, Informationssicherheit, Barrierefreiheit, Vergabe und AI-Act-Rolle. Jeder KI-Output braucht eine fachlich verantwortliche Person, dokumentierte Qualitätskontrollen und einen funktionierenden Prozess ohne KI.

Geeignete Einsatzfelder erkennen

Gute Einstiegsfälle haben drei Eigenschaften: Das Ergebnis lässt sich prüfen, ein Fehler verursacht keinen unmittelbaren Rechtsnachteil und die benötigten Daten dürfen verarbeitet werden. Beispiele sind Entwürfe für interne Texte, Zusammenfassungen freigegebener Unterlagen, Verschlagwortung, Wissenssuche, Übersetzung einfacher Informationen oder die Erstellung leicht verständlicher Erstfassungen. Auch Protokollentwürfe können helfen, wenn Aufnahme und Verarbeitung zulässig organisiert sind.

Ungeeignet für einen ersten Piloten sind Entscheidungen über Leistungen, Sanktionen, Personal oder Zugang zu öffentlichen Angeboten. Hier können Grundrechte, Diskriminierungsrisiken und besondere Regeln für Hochrisiko-Systeme berührt sein. Ein praktischer Filter lautet: Darf ein Beschäftigter den Output ohne eigene Prüfung übernehmen? Wenn die Antwort nein ist, muss die Prüfung als verbindlicher Arbeitsschritt gestaltet und zeitlich eingeplant werden.

Rechtlichen Rahmen und Verantwortlichkeit klären

Der EU AI Act gilt auch für öffentliche Stellen, wenn sie KI-Systeme einsetzen. Welche Pflichten greifen, hängt vom konkreten System, Zweck und der Rolle der Behörde ab. Daneben bleiben DSGVO, Fachrecht, Verwaltungsverfahrensrecht, Personalvertretungsrecht, Urheberrecht, Informationsfreiheit und landesspezifische Regeln relevant. Ein allgemeines „KI ist erlaubt“ oder „KI ist verboten“ wäre deshalb falsch.

Die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit beschreibt in ihrer Kurzposition zu KI in der Bundesverwaltung, dass bestehende Datenschutzvorgaben und die KI-Verordnung gemeinsam zu beachten sind. Stand dieser Einordnung ist der 18. Juli 2026. Dieser Beitrag bietet Orientierung, aber keine Rechts-, Datenschutz- oder Vergabeberatung.

Daten vor der Eingabe klassifizieren

Vor jedem Test steht die Frage, welche Informationen das System erhalten soll. Teilen Sie Daten mindestens in öffentlich, intern, vertraulich und besonders schutzbedürftig ein. Namen, Aktenzeichen, Sozialdaten, Gesundheitsdaten, Personalvorgänge, Sicherheitsinformationen oder Inhalte nichtöffentlicher Beratungen gehören nicht in ein nicht freigegebenes Werkzeug. Auch scheinbar anonymisierte Texte können durch Kombinationen wieder einer Person zugeordnet werden.

Dokumentieren Sie Zweck, Datenarten, Speicherorte, Löschfristen, Unterauftragnehmer, Modelltraining und Zugriffsrechte. Prüfen Sie, ob eine Datenschutz-Folgenabschätzung erforderlich ist. Eine Dienstvereinbarung kann Zuständigkeiten und Nutzung im Beschäftigtenkontext regeln, ersetzt aber keine Rechtsgrundlage für Bürgerdaten.

Vom Anwendungsfall zum belastbaren Piloten

Definieren Sie einen Vorgang, eine verantwortliche Fachstelle und eine kleine Testgruppe. Legen Sie vorab fest, woran Erfolg erkennbar ist: Bearbeitungszeit, Fehlerquote, Nacharbeitsaufwand, Verständlichkeit oder Zahl vollständig erledigter Fälle. Vergleichen Sie gegen den bisherigen Prozess. „Fühlt sich schneller an“ genügt weder für Beschaffung noch für Skalierung.

Erstellen Sie zudem einen Fehlertest mit typischen, schwierigen und absichtlich irreführenden Eingaben. Prüfen Sie erfundene Quellen, ausgelassene Einschränkungen, veraltete Rechtsstände und unterschiedliche Ergebnisse bei vergleichbaren Personen. Der Pilot endet mit einer dokumentierten Entscheidung: stoppen, nachbessern oder begrenzt ausweiten. Eine Verfahrensanweisung macht daraus einen wiederholbaren Betriebsprozess.

Beschaffung und Betrieb richtig planen

Eine Demo bewertet Funktionen, nicht den dauerhaften Betrieb. Fordern Sie Informationen zu Hosting, Auftragsverarbeitung, Löschung, Export, Protokollierung, Rollen, Barrierefreiheit, Verfügbarkeit, Modellwechseln und Sicherheitsvorfällen an. Klären Sie, welche Leistung vertraglich zugesichert ist und welche nur als Marketingaussage erscheint. Auch Kosten für Schulung, Prüfung, Integration und Exit gehören in die Wirtschaftlichkeitsbetrachtung.

Vermeiden Sie eine Abhängigkeit von einem proprietären Ausgabeformat. Die Behörde muss Eingaben, relevante Ausgaben, Freigaben und Entscheidungen nachvollziehbar in ihrer führenden Akte oder Fachanwendung dokumentieren können. Der KI-Dienst ist nicht automatisch die rechtssichere Ablage.

Qualität, Transparenz und menschliche Kontrolle sichern

Jeder Anwendungsfall braucht eine benannte fachliche Freigabe. Prüflisten sollten mindestens Fakten, Quellen, Vollständigkeit, Ton, personenbezogene Daten und mögliche Benachteiligung abdecken. Bei Bürgerkommunikation muss erkennbar bleiben, welche Stelle verantwortlich ist und wie eine menschliche Prüfung oder Korrektur erreicht wird. Fehler werden nicht nur korrigiert, sondern als Testfall in die Qualitätssicherung übernommen.

Mitarbeitende benötigen KI-Kompetenz: Sie müssen Grenzen, zulässige Daten, typische Halluzinationen und Eskalationswege kennen. Für Besprechungsentwürfe bietet ein KI-Meeting-Protokoll eine Arbeitshilfe, doch Beschlüsse, Rechtsfolgen und Fristen müssen aus der Primärquelle kontrolliert werden.

Spracheingaben und Besprechungen datensparsam nutzen

Nicht jede Verwaltungsarbeit findet am Schreibtisch statt. Kuno ist ein privatsphärenorientierter physischer KI-Sprachrekorder, made in Germany. Audio wird auf dem Gerät erfasst; Verarbeitung und Speicherung erfolgen laut Produktbeschreibung EU-gehostet. Die Hardware benötigt einen monatlichen oder jährlichen KI-Plan. Kuno ist weder Fachverfahren noch automatisches Entscheidungssystem und ersetzt keine formale Niederschrift.

Bei jeder Gesprächsaufnahme müssen alle Beteiligten vorher klar informiert werden, ausdrücklich zustimmen und eine gleichwertige Alternative ohne Aufnahme erhalten. Heimliche Aufnahmen nichtöffentlich gesprochener Worte können § 201 StGB verletzen; für Amtsträger enthält die Vorschrift eine besondere Strafandrohung. Zuständigkeit, Löschung und Zugriff sind vor Beginn festzulegen.

Freigegebene Verwaltungsbesprechungen strukturiert nachbereiten: Kuno mit KI-Plan ansehen.

Einführung mit klaren Stop-Regeln steuern

Ein verantwortlicher Betrieb umfasst Inventar, Risikoeinstufung, Versionen, Schulungen, Kontrollen und Vorfallmanagement. Stoppen Sie einen Anwendungsfall, wenn die Rechtsgrundlage unklar wird, der Anbieter Datenflüsse ändert, systematische Benachteiligung erkennbar ist, Prüfschritte umgangen werden oder der Nacharbeitsaufwand den Nutzen aufzehrt. Ein manueller Ersatzprozess muss jederzeit verfügbar bleiben.

Damit unterscheidet sich seriöse Verwaltungs-KI von einem Technikexperiment: Nicht die Zahl der aktivierten Funktionen zählt, sondern die nachweisbar bessere, rechtmäßige und verständliche Aufgabenerfüllung. Klein beginnen, real messen, Fehler sichtbar machen und erst danach skalieren ist der belastbare Weg.

Vom genehmigten Termin zu einem prüfbaren Entwurf: Kuno für datensensible Präsenzarbeit entdecken.