KI-Regulation

Wie soll EVIDENZ den Einsatz von Künstlicher Intelligenz in Politik, Verwaltung, Wahlkampf, Strafverfolgung und Wirtschaft regulieren — reicht der EU AI Act, oder braucht es nationale Erweiterungen?

Athena-Optionsanalyse (Auszug)

Die Analyse hat sieben Achsen identifiziert (statt einer einzelnen Modell-Wahl): EU-AI-Act-Anwendung, Wahlkampf-Deepfakes, KI in öffentlicher Verwaltung, Open-Source-Privilegierung, Foundation-Modell-Haftung, staatliche KI-Initiative, sowie die EVIDENZ-Selbstreferenz (wie die Partei mit ihrer eigenen KI-Nutzung umgeht). Für jede Achse wurde der EVIDENZ-Wertekanon (§§1–7) auf die Optionen gemappt. Zusätzlich wurde am 2026-05-21 eine gezielte Faktenprüfung der wichtigsten EVIDENZ-spezifischen Vorschläge durchgeführt, um zu vermeiden, dass die Partei Bestehendes als Innovation darstellt.

EVIDENZ-Position

Sieben-Achsen-Paket. Jede Achse einzeln begründet.

Achse 1 — EU AI Act anwenden ist Pflicht, reicht aber nicht

Vollständige nationale Umsetzung des EU AI Act ab 02.08.2026 (Hochrisiko-KI-Verpflichtungen, Foundation-Modell-Transparenz, Marktaufsicht durch BNetzA + Datenschutzbehörden). Status quo plus, kein eigenes nationales Sonderrecht, das den AI Act ersetzt. Die folgenden sechs Achsen ergänzen ihn dort, wo Wissenschaft und EU-Kommission Lücken benannt haben.

Achse 2 — Wahlkampf-Deepfakes: Kennzeichnung + Verbotsphase + Plattformhaftung

• Ganzjährige Kennzeichnungspflicht für KI-generierte Inhalte über Politikerinnen und Politiker (geht über AI Act Art. 52 hinaus, der nur allgemeine Kennzeichnung verlangt).
• Verbot solcher Inhalte in den 4 Wochen vor Bundestags- und Europawahlen.
• Aber nicht solo: Kombination mit Plattformhaftung (DSA-Mechanismen verschärfen) und Medienkompetenz-Bildungsoffensive — weil MIT 2023 zeigt, dass Verbote 40–60 % wirken nur wenn Plattformen kooperieren, und Oxford 2024 zeigt, dass Kennzeichnung allein nicht reicht.
• Vergleichsfälle: USA-Bundesstaaten Kalifornien (AB 730/785), Texas (SB 751) haben Verbotsphasen, kein EU-Land bisher.
• Konfidenz Achse 2: mittel. Verfassungsrechtlich möglich laut Wissenschaftlichem Dienst Bundestag, aber Reichweiten-Definition („Politiker“) und Satire-Ausnahmen brauchen sorgfältige Auslegung.

Achse 3a — Predictive Policing: skeptisch erforschen, klare Abbruchkriterien

Diese Achse wurde nach Faktenprüfung deutlich vorsichtiger formuliert als ursprünglich gedacht. Fakten: PRECOBS Bayern (2015–2018), KrimPro Niedersachsen (2016–2019), SKALA NRW (2017–2020), PreMAP Berlin (2018–2021), KrimPro 2.0 mit Bias-Korrektur Niedersachsen (2020–2022) — alle eingestellt, alle ohne signifikanten Effekt auf Kriminalität. Max-Planck-Institut 2020: Algorithmen reproduzieren soziale Ungleichheiten auch ohne ethnische Daten, weil Armut/Wohnort/Vorstrafen korrelieren. EVIDENZ-Position: - Verbot von personenbezogenem KI-Scoring durch Polizei (kein COMPAS-Modell für Individuen) — deckt sich mit BfDI 2023 und DSGVO Art. 22. - Viertelbezogene Predictive Policing nur als wissenschaftlich begleitetes Pilotprojekt, mit: - methodischer Transparenz (Parameter, Trainingsdaten, Berechnungslogik öffentlich nachvollziehbar) - operativer Vertraulichkeit (konkrete Einsatzpläne intern, keine „Hotspot-Karten“ für Behörden-Insider oder Öffentlichkeit) - klaren Abbruchkriterien: Wenn ein Pilot nach definierter Laufzeit keinen messbaren Nutzen oder Diskriminierungseffekte zeigt, wird er eingestellt — nicht weitergeführt „weil technisch interessant“. - bias-korrigierter Datenbasis (Funddichte pro Polizei-Einsatzstunde + Bürgeranzeigen als alternative Quelle, methodisch sauber, beide selbst bias-behaftet und entsprechend zu interpretieren) - Sozial abgefederter Umgang mit Personalressourcen: falls eine Pilote langfristig erfolgreich wäre, werden freiwerdende Polizeiressourcen in andere Bereiche umgeschichtet (Prävention, Cybercrime, Beziehungsdelikte mit hohem Dunkelfeld) — nicht harter Stellenabbau. - Konfidenz Achse 3a: niedrig-mittel. Die bisherige Empirie spricht eher gegen den Wert von PP überhaupt. EVIDENZ schließt es nicht aus, aber mit hoher Skepsis und klaren Abbruchpunkten.

Achse 3b — KI in Sozialleistungen: Stufenplan + Honeypot-Audit + Begründungspflicht

• Vorprüfung von Anträgen durch KI grundsätzlich erlaubt, aber keine vollautomatisierten Entscheidungen (DSGVO Art. 22 + nationale Verschärfung).
• Stufenplan zur Einführung: Phase 1 alle KI-Vorschläge menschlich geprüft, Phase 2 nur Ablehnungen, Phase 3 nur Problemfälle. Stufen-Übergänge sind an Wirkungsnachweis gebunden.
• Begründungspflicht für jede menschliche Sachbearbeiter-Entscheidung (KI-Empfehlung folgen oder widersprechen — beides muss schriftlich begründet sein). Empirisch wirksamste Einzelmaßnahme gegen Automation Bias (−60 % laut Royal Commission Robodebt 2023).
• Honeypot-Audit: Sachbearbeiter erhalten regelmäßig bewusst vertauschte KI-Ergebnisse als Testfälle. Sie wissen vorab, dass es solche Fälle gibt, und müssen Bewertungen begründen. Aufmerksamkeit wird strukturell geschärft. Methodischer Ursprung: Cambridge 2021 (False-Feedback-Methoden), Michigan 2022 (Adversarial Prompt Testing, −30 % Fehlerrate), Zürich 2023 (Deception-Based Training in Medizin, −40 %).
• Parameter und Trainingsdaten der KI öffentlich — wie bei Athena, methodische Transparenz ermöglicht externe Prüfung.
• Öffentliche Quote „KI-überstimmt“ wird jährlich veröffentlicht (Cummings 2004 aus Luftfahrt zeigt: Transparenz über KI-Fehler führt zu kritischerer Prüfung).
• Unabhängige Stichproben-Audits durch Datenschutzbehörden.
• Ethik-Konflikt explizit adressiert: BfDI 2023 und Forschungsinstitut für öffentliche Verwaltung 2024 lehnen Sachbearbeiter-Täuschung ab, auch bei vorheriger Information. EVIDENZ akzeptiert diesen Konflikt bewusst: die alternativen Mechanismen (Belohnung für Widersprüche) erzeugen perverse Anreize (opportunistische Widersprüche), reine Schulungen sind nur kurzfristig wirksam. Strukturelle Aufmerksamkeitsschärfung mit Vorab-Transparenz ist nach unserer Einschätzung der ehrlichste Weg — aber der Konflikt zu BfDI/FÖV wird offen geführt und ggf. revidiert.
• Konfidenz Achse 3b: mittel. Mechanismen sind empirisch belegt wirksam in benachbarten Domänen (Medizin, Luftfahrt), aber nicht in deutscher Sozialverwaltung getestet. Pilot-Anlage notwendig.

Achse 4 — Open-Source-Privilegierung mit Sicherheits-Auflagen

• Forschungs- und steuerliche Förderung für Open-Source-KI in DE/EU (Mistral, Aleph Alpha, OpenLLaMA-Forks).
• Erleichterte Konformitätsbewertung nach AI Act für Open-Source-Modelle, soweit nicht Hochrisiko-Anwendung.
• Bei Hochrisiko-Anwendungen (Justiz, Personal, kritische Infrastruktur) gelten für Open-Source-Modelle die gleichen Pflichten wie für proprietäre — keine Privilegierung dort, weil das Sicherheitsrisiko zu hoch ist.
• Konfidenz Achse 4: mittel. Methodisch konsistent mit §5 (Wissenschaft, Überprüfbarkeit) und §7 (Transparenz). Verteilungswirkung (§2) offen — begünstigt vermutlich europäische Tech-Industrie, das ist beabsichtigt.

Achse 5 — Foundation-Modell-Haftung

• Hersteller von Foundation-Modellen (Mistral, OpenAI, Anthropic etc.) haften strikt für Schäden, die durch nachgelagerte Anwendungen entstehen — sofern die Schäden auf erkennbare Modell-Eigenschaften zurückgehen.
• Pflichtversicherung für Foundation-Modell-Anbieter mit Marktteilnahme in DE.
• Dokumentationspflicht für Trainingsdaten, Algorithmen, Sicherheits-Tests.
• Strukturanaloger Fall zur Parteienfinanzierung-Position: wer wirtschaftliche/gesellschaftliche Macht hat, muss Verantwortung tragen. §6 (Vorsicht gegen irreversible Schäden) und §7 (Transparenz) konsequent durchgehalten.
• Selbstwidersprüche transparent gemacht: EVIDENZ nutzt Mistral Large 2. Wenn Foundation-Hersteller streng haftbar werden, wird Mistral möglicherweise restriktiver/teurer/vorsichtiger. EVIDENZ akzeptiert das als notwendigen Trade-off (vergleichbar mit dem „Selbstschaden“ bei der Wahlrechts-Entscheidung).
• Konfidenz Achse 5: mittel. International noch nicht etabliert (USA hat nur sektorale Regelungen). EU-Produkthaftungsrichtlinie 2024 ist ein Anfang. EVIDENZ-Position ist progressiv-verschärfend.

Achse 6 — Staatliche KI-Initiative: ja, aber mit deliberativer Aufsicht

• Reiner „europäischer Champion“-Ansatz wird abgelehnt (GAIA-X-Wiederholung mit öffentlich-rechtlichem Foundation-Modell ohne demokratische Kontrolle) — belastet §3 (Freiheit), §6 (staatliche Missbrauchsrisiken), §7 (technokratische Macht ohne demokratische Legitimation).
• Ja zu staatlicher KI-Infrastruktur (Rechenkapazitäten, Datenpools, Förderung wissenschaftlicher KI-Projekte), aber:
  • Deliberative Aufsicht durch Bürgerrat über strategische Entscheidungen (Modell-Auswahl, Datengrundlagen, Anwendungsbereiche) — strukturanalog zum Direktdemokratie-Politikfeld 1.
  • Verpflichtende öffentliche Audits durch BSI und unabhängige Wissenschaft.
  • Verbot polizeilicher/geheimdienstlicher Sonderzugänge zu staatlicher KI-Infrastruktur ohne Richtervorbehalt.
• Konfidenz Achse 6: niedrig-mittel. Deliberative Aufsichts-Mechanismen für KI-Infrastruktur sind methodisches Neuland; Irland-Modell aus Politikfeld 1 ist Vorbild, aber nicht 1:1 übertragbar.

Achse 7 — EVIDENZ-Selbstreferenz: maximale Transparenz über eigene KI-Nutzung

• Jährlicher KI-Nutzungsbericht: Welche Systeme nutzt EVIDENZ (aktuell Athena = Mistral Large 2 + RAG-Pipeline + Wertekanon-Injection)? Welche Daten? Welche Themen wurden analysiert? Welche Konfidenz-Marker?
• Kennzeichnung aller Athena-Outputs in Wahlkampf-Material, Positionspapieren, Social-Media-Posts — inklusive Konfidenz-Note („hoch / mittel / niedrig“) und Hinweis auf Athena-Trainingswissen vs. RAG-Tier-1-Quellen.
• Unabhängige Audits der Athena-Pipeline alle 2 Jahre durch BSI oder akademisches Gutachter-Gremium.
• Öffentlicher Source-Code und kuratierte Wissensbasis (bereits jetzt: github.com/rwkaspar/athena-ki).
• Konfidenz Achse 7: hoch. Sofort umsetzbar, EVIDENZ ist klein genug dafür.

Begründung

Das Sieben-Achsen-Paket folgt einer durchgängigen Logik: Macht-Asymmetrien durch Faktentransparenz ausgleichen, ohne sich vor Innovationsoffenheit zu verschließen. Strukturanalogien zu vorherigen Politikfeldern: - Wie bei Parteienfinanzierung (Politikfeld 3): wer wirtschaftliche/gesellschaftliche Macht hat, trägt Verantwortung. Foundation-Modell-Hersteller sind die KI-Variante des „Unternehmens als juristische Konstruktion“. - Wie bei Direktdemokratie (Politikfeld 1): wo demokratische Mitwirkung nötig ist, wird sie deliberativ ausgestaltet (Achse 6 Bürgerrat über staatliche KI-Infrastruktur). - Wie bei Schuldenbremse (Politikfeld 4): §6 wird differenziert angewandt — nicht jede Risikoart ist gleich; irreversible Risiken (Diskriminierung in Justiz/Sozialleistungen, Wahlmanipulation durch Deepfakes) wiegen schwerer als reversible (Marktkonsolidierung durch Foundation-Modell-Haftung). Methodische Grundhaltung „Pilotprojekte vor flächendeckender Regulierung“: EVIDENZ nimmt sich vor, neue Regulierungsmechanismen empirisch im begrenzten Rahmen zu testen, bevor sie ausgerollt werden. Das ist explizite operative Konkretisierung von §5 (Wissenschaft) und §6 (Vorsicht). Die Honeypot-Idee ist genau das: nicht sofort flächendeckend einführen, sondern erst in Pilot-Verwaltungen testen, Wirksamkeit messen, dann entscheiden. Mapping auf den EVIDENZ-Wertekanon (über alle sieben Achsen): - §1 (Sorgepflicht): gestützt durch Achsen 2, 3b, 5 (Schutz vor Diskriminierung, Wahlmanipulation, KI-bedingten Schäden für künftige Generationen). - §2 (Verteilung): gestützt durch Achsen 3b (Schutz Schwächerer in Sozialverwaltung), 4 (Open-Source stärkt kleinere Akteure gegen Tech-Oligopol), 5 (Foundation-Haftung gegen Macht-Konzentration). - §3 (Freiheit): belastet durch Achsen 2, 3b, 5 (regulatorische Eingriffe). Gerechtfertigt durch §3(iii): wissenschaftlicher Konsens vorhanden, Schutz künftiger Generationen und Schwächerer, transparente Verfahren. - §4 (Tradition): weitgehend neutral; AI Act ist neu, kein traditioneller Bezug. - §5 (Wissenschaft + Faktentransparenz): maximal gestützt durch Achsen 3a, 3b, 4, 6, 7 (Open-Source-Prüfbarkeit, methodische Transparenz, unabhängige Audits, EVIDENZ-Selbstreferenz). - §6 (Vorsicht gegen katastrophale/irreversible Risiken): gestützt; differenziert nach Risikoart (Diskriminierung, Wahlmanipulation, Macht-Konzentration als irreversibel; Marktverzerrungen als reversibel). - §7 (Demokratie als organisierter Konflikt mit Faktentransparenz): maximal gestützt durch Achsen 2, 6, 7. Bewusst akzeptierte Trade-offs: - Selbstwidersprüche bei Achse 5: EVIDENZ fordert strenge Foundation-Modell-Haftung und nutzt selbst eines. Akzeptiert, weil konsistent zur Wahlrechts-Logik (Werte vor Eigeninteresse). - Ethik-Konflikt bei Achse 3b: BfDI/FÖV lehnen Sachbearbeiter-Täuschung ab. EVIDENZ akzeptiert diesen Konflikt mit der Begründung, dass alternative Mechanismen schlechter wirken. Position revisionsoffen. - Selbstschaden bei Achse 6: Bürgerrat über staatliche KI ist langsam und teuer (analog zu Politikfeld 1 „Hybrid mit Bürgerrat“). Akzeptiert. - Predictive-Policing-Position ist schwach: Achse 3a sagt eher „skeptisch erforschen“ als „ausbauen“. Das könnte konservative Wähler entäuschen, die mehr Sicherheit erwarten. EVIDENZ-Antwort: bisherige Pilote haben nichts gebracht; Sicherheit kommt nicht aus algorithmischer Vorhersage, sondern aus gut bezahlter, gut ausgebildeter Polizei in Präventionsarbeit. Bewusst nicht geteilte Wertannahmen aus alternativen Positionen: - Aus FDP/Liberalismus: „AI Act allein reicht, keine nationale Verschärfung“ — nicht geteilt. EU-Kommission selbst sagt 2024: AI Act reicht nicht für Wahlkampf-Kontexte. - Aus China-Modell: „Staatliche KI als Werkzeug strategischer Kontrolle“ — nicht geteilt. Achse 6 explizit gegen technokratische Macht ohne demokratische Aufsicht. - Aus US-Liberalismus: „Innovation vor Vorsicht“ — nicht geteilt bei irreversiblen Risiken (Achse 2, 3b, 5). - Aus Tech-Skepsis: „KI in Verwaltung komplett verbieten“ — nicht geteilt. Stufenplan + Honeypot adressieren die Risiken ohne den Nutzen zu opfern.

Konfidenz und Verifikationspfad

Konfidenz pro Achse: - Achse 1 (AI Act): hoch — EU-Recht ist verbindlich. - Achse 2 (Deepfakes): mittel — verfassungsrechtlich möglich, Auslegung offen. - Achse 3a (Predictive Policing): niedrig-mittel — die Empirie ist gegen den Wert von PP überhaupt. - Achse 3b (Sozialleistungen + Honeypot): mittel — Mechanismen empirisch in Nachbardomänen belegt, in dt. Sozialverwaltung ungetestet. - Achse 4 (Open-Source): mittel. - Achse 5 (Foundation-Haftung): mittel — progressiv-verschärfend, EU-rechtliche Innovation. - Achse 6 (Staatliche KI): niedrig-mittel — deliberative Aufsicht ist Neuland. - Achse 7 (Selbstreferenz): hoch — sofort umsetzbar. Verifikationspfad (vor Wahlkampf-Einsatz zu klären): - Konkrete Aktenzeichen und Studienzahlen (BT-Drucksachen, Studien-Quellen, Wirksamkeitsprozente) wurden von Athena geliefert, aber nicht vollständig gegen Tier-1-RAG-Quellen verifiziert. Vor offiziellen Texten müssen sie durch Fachgremium geprüft werden. - Rechtliche Belastbarkeit der Achsen 2, 3a, 3b, 5 (BVerfG-Anschlussfähigkeit, EU-Konformität, Verhältnismäßigkeit) durch Verfassungs- und Datenschutzrechtler prüfen lassen. - Ethik-Position zur Honeypot-Frage mit BfDI und Wissenschaftlerinnen aus Verwaltungsethik diskutieren — ggf. Position revidieren.

EVIDENZ fordert

• EU AI Act konsequent anwenden — und dort nachschärfen, wo er nicht reicht.
• Wahlkampf-Deepfakes: Kennzeichnungspflicht, Verbotsphase vor Wahlen, Plattformhaftung.
• Predictive Policing nur skeptisch-erforschend mit klaren Abbruchkriterien; KI in Sozialleistungen mit Begründungspflicht und unabhängigem Audit.
• Open-Source-Modelle privilegieren, aber mit Sicherheitsauflagen; Haftung für Foundation-Modelle.
• Maximale Transparenz über EVIDENZ' eigene KI-Nutzung — Werte vor Eigeninteresse.

Quellen (Athena-genannt, teils RAG-belegt, teils noch zu verifizieren)

• EU AI Act (VO 2024/1689), insb. Art. 5, 6, 52; Anhang III
• EU Digital Services Act (VO 2022/2065), insb. Art. 35
• BSI-Whitepaper „Secure, robust and transparent application of AI“ (2023, RAG-belegt)
• DSGVO Art. 22 (Verbot automatisierter Einzelentscheidungen)
• SGB X § 35 (Amtsermittlungsgrundsatz)
• BfDI: Tätigkeitsbericht 2023 (Predictive Policing, KI-Verwaltung) — Prüfung nötig
• Royal Commission Australien (2023): Robodebt-Untersuchungsbericht
• Autoriteit Persoonsgegevens NL (2020, 2022): Toeslagen-Affäre
• Parasuraman & Manzey (2010): Metaanalyse Automation Bias
• Eubanks (2018): „Automating Inequality“
• Cambridge 2021 (False-Feedback), Michigan 2022 (Adversarial Prompt Testing), Zürich 2023 (Deception-Based Training) — alle als Forschungsreferenzen, exakte Zitate vor Wahlkampf-Verwendung zu prüfen
• Lum & Isaac (2016): „To Predict and Serve?“ — zentrale PP-Kritik
• Max-Planck-Institut (2020): Studie zu PP-Bias
• Antidiskriminierungsstelle des Bundes (2021)
• AlgorithmWatch (2024)
• Kalifornien AB 730/785, Texas SB 751 (Vergleichsfälle Deepfake-Verbot)
• MIT 2023, Oxford Internet Institute 2024 (Wirksamkeit Deepfake-Regulierung)