EVIDENZ / Methodik

Wie aus Quellen eine Position wird

KI erfindet Dinge — bei unkontrolliertem Einsatz. Athena ist als Gegenentwurf gebaut: Primärquelle oder Schweigen.

1Nur Primärquellen. Quellen offen.
2Gate schweigt statt rät. Bei dünner Beleglage: keine Aussage.
3Athena entscheidet nicht. Mensch + Parteitag wählen.
4Drei Modelle, drei Familien. Analyse → Critique → Adversarial — jedes prüft das vorige.

Das Evidenz-Gate

Athena sucht die ähnlichsten Quellen, filtert sie nach Relevanz. Drei Fälle:

Zu dünnzu wenige unterschiedliche Primärquellen → keine Position, ehrliche „Datenlücke". Genau hier wäre Halluzination möglich — also schweigt Athena.
Belegtgenug relevante Quellen → Athena arbeitet, jede Aussage mit Quelle.
Überbelegtsehr viele relevante Quellen → die besten nach Güte, der Rest als „+N weitere" sichtbar.

Mehrere Chunks aus einem Dokument zählen als ein Beleg — der Floor verlangt unabhängige Quellen.

Der Ablauf in 5 Schritten

So entsteht jede Position — erst der Überblick, dann unten ein echter Durchlauf:

  1. Retrieval. Athena holt die relevantesten Primärquellen aus der Wissensbasis (Evidenz-Gate: zu dünne Beleglage → keine Position).
  2. Optionsanalyse. Ein erstes Modell baut aus den Quellen eine geordnete Faktenlage, den Rechtsrahmen und Handlungsoptionen mit ehrlich benannten Trade-offs.
  3. Critique-Pass. Ein zweites Modell (andere Familie) reviewt die ganze Analyse methodisch — Faktentreue, Lücken, versteckte Empfehlungen, Quellendisziplin.
  4. Adversarial-Stresstest. Ein drittes Modell versucht, jede einzelne Aussage zu widerlegen — nur was der Beleglage standhält, zählt.
  5. Mensch entscheidet. Die Analyse ist die Vorlage; ein Mensch entscheidet gegen den Wertekanon, in letzter Instanz der Bundesparteitag.

Das Ganze an einem echten Beispiel

FrageWelche Pflichten haben Anbieter und Betreiber von Hochrisiko-KI-Systemen nach der EU-KI-Verordnung?

Ein echter, ungeschönter Pipeline-Durchlauf — jede Prüfstufe so dokumentiert, wie sie lief, samt der Hinweise, die der Review zur Korrektur findet.

1 · Retrieval — Primärquelle (3 der 11 einschlägigen Ausschnitte aus derselben Quelle, nach Relevanz)

Bei einer reinen Rechtsfrage ist die maßgebliche Primärquelle das Gesetz selbst — die Tiefe kommt hier nicht aus vielen Quellen, sondern aus den vielen einschlägigen Artikeln derselben Verordnung, jeder einzeln zitiert.

Quellen-Ausschnitte anzeigen
Tier 1Relevanz 0.6618
Verordnung (EU) 2024/1689 – KI-Verordnung (AI Act)
ABSCHNITT 3 Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter Artikel 16 Pflichten der Anbieter von Hochrisiko-KI-Systemen Anbieter von Hochrisiko-KI-Systemen müs…
Tier 1Relevanz 0.6516
Verordnung (EU) 2024/1689 – KI-Verordnung (AI Act)
e) die von ihren Hochrisiko-KI-Systemen automatisch erzeugten Protokolle gemäß Artikel 19 aufbewahren, wenn diese ihrer Kontrolle unterliegen; f) sicherstellen, dass das Hochrisiko-KI-System dem betre…
Tier 1Relevanz 0.6476
Verordnung (EU) 2024/1689 – KI-Verordnung (AI Act)
Um die Arbeit der Kommission und der Mitgliedstaaten im KI-Bereich zu erleichtern und die Transparenz gegenüber der Öffentlichkeit zu erhöhen, sollten Anbieter von Hochrisiko-KI-Systemen, die nicht im…

2 · Optionsanalyse

Faktenlage (aus den Quellen extrahiert)
  • Anbieter müssen sicherstellen, dass Hochrisiko-KI-Systeme die Anforderungen in Abschnitt 2 erfüllen.Beleg: „Anbieter von Hochrisiko-KI-Systemen müssen sicherstellen, dass ihre Hochrisiko-KI-Systeme die in Abschnitt 2 festgelegten Anforderungen erfüllen;…"
  • Anbieter unterliegen einer Kennzeichnungspflicht bezüglich Name, Handelsname und Kontaktanschrift auf dem System oder der Verpackung.Beleg: „auf dem Hochrisiko-KI-System oder, falls dies nicht möglich ist, auf seiner Verpackung oder in der beigefügten Dokumentation ihren Namen, ihren eingetragenen Handelsnamen bzw. ihre eingetragene Handel…"
  • Anbieter müssen über ein Qualitätsmanagementsystem gemäß Artikel 17 verfügen.Beleg: „über ein Qualitätsmanagementsystem verfügen, das Artikel 17 entspricht;…"
  • Anbieter sind zur Aufbewahrung der Dokumentation nach Artikel 18 verpflichtet.Beleg: „die in Artikel 18 genannte Dokumentation aufbewahren;…"

Jede Aussage wird in Stufe 3 (Critique) und Stufe 4 (Adversarial-Stresstest) gegen die Quellen geprüft — siehe unten.

Handlungsoptionen + Trade-offs

Anbieter: Vollständige Konformität mit Artikel 16

Umsetzung aller regulatorischen Anforderungen an Dokumentation, Management und Registrierung.

Trade-offs ehrlich benannt:
  • + Rechtssicherheit, Marktzugang, Vermeidung von Sanktionen
  • – Hoher Aufwand für Dokumentation, Qualitätsmanagement, Konformitätsbewertung und Registrierung
Wirkung auf den Wertekanon (−100 belastet … +100 stützt)
§1 Sorgepflicht: +50 — Die Option fördert die langfristige Funktionsfähigkeit von Ökosystemen durch standardisierte Umwelt- und Sicherheitsdokumentation, belastet aber kurzfristig Ressourcen, was den Wohlstandszuwachs über+50§1Sorgepflicht§2 Verteilung: +10 — Rechtssicherheit schützt Eigentum (Art. 14 GG), doch der hohe Dokumentationsaufwand belastet insbesondere kleine Akteure und könnte die Sockelschwerte für Existenzsicherung indirekt durch administrati+10§2Verteilung§3 Freiheit: -20 — Die 'Vollständige Konformität' schränkt die Individualfreiheit und unternehmerische Handlungsfreiheit stark ein, ohne dass zwingend ein direkter Schaden für andere oder wissenschaftlicher Konsens im S-20§3Freiheit§4 Gemeinschaft: -10 — Der Fokus auf technische Konformität untergräbt gewachsene Gemeinschaftsstrukturen und lokale Traditionen zugunsten einer standardisierten, bürokratischen Ordnung.-10§4Gemeinschaft§5 Wissenschaft: +80 — Die Option zwingt zur lückenlosen Dokumentation und Transparenz, was die Faktenbasis für politische Entscheidungen massiv verbessert und dem Prinzip der Wissenschaftsbasierten Entscheidungsfindung die+80§5Wissenschaft§6 Risiko: +60 — Durch die Vermeidung von Sanktionen und die Sicherung des Marktzugangs wird das Vorsichtsprinzip bei regulatorischen Risiken angewendet, was Innovationsoffenheit im rechtlichen Rahmen stabilisiert.+60§6Risiko§7 Demokratie: +30 — Die strukturierte Dokumentation fördert die Faktentransparenz für den demokratischen Konflikt, aber der Zwang zur 'Vollständigen Konformität' kann den organisierten Streit um neue Lebensbedingungen ei+30§7Demokratie

Betreiber: Einhaltung der Betriebsanleitungen und menschliche Aufsicht

Sicherstellung des korrekten Betriebs durch Schulung und Benennung von Aufsichtspersonen.

Trade-offs ehrlich benannt:
  • + Risikominimierung, Compliance
  • – Personeller und organisatorischer Aufwand (Schulungen, Benennung verantwortlicher Personen)
Wirkung auf den Wertekanon (−100 belastet … +100 stützt)
§1 Sorgepflicht: +80 — Die menschliche Aufsicht minimiert das Risiko von Systemausfällen, die das Existenzminimum oder Ökosysteme gefährden könnten, und priorisiert damit den Schutz der in §1 genannten Güter.+80§1Sorgepflicht§2 Verteilung: +40 — Durch die Sicherstellung eines sicheren Betriebs wird indirekt zur Wahrung des Existenzminimums beigetragen; der hohe personelle Aufwand kann jedoch Ressourcen binden, die für direkte Umverteilung gen+40§2Verteilung§3 Freiheit: +90 — Die Option bewahrt die individuelle Freiheit durch menschliche Kontrolle und erfüllt die kumulative Bedingung des §3(iii), indem sie wissenschaftlich fundierte Sicherheitsstandards gegen reinen Effizi+90§3Freiheit§4 Gemeinschaft: +60 — Sie anerkennt das Kollektivgut der Sicherheit und Gemeinschaft, ohne jedoch traditionelle Strukturen blind zu folgen, sondern setzt auf moderne, verantwortungsvolle Organisationsformen.+60§4Gemeinschaft§5 Wissenschaft: +85 — Die explizite Forderung nach Einhaltung von Betriebsanleitungen und Schulungen stellt die Faktenbasis und den wissenschaftlichen Konsens über sichere Systemnutzung in den Mittelpunkt der Entscheidungs+85§5Wissenschaft§6 Risiko: +90 — Das Vorsichtsprinzip wird durch menschliche Aufsicht als Puffer gegen irreversible Schäden aktiv umgesetzt, was bei potenziell katastrophalen Risiken im Sinne von §6 geboten ist.+90§6Risiko§7 Demokratie: +50 — Die Option strukturiert den Konflikt um Ressourceneinsatz (Aufwand vs. Sicherheit) durch transparente Regeln, lässt aber den demokratischen Aushandlungsprozess über die konkrete Ausgestaltung offen.+50§7Demokratie

Dritte: Übernahme von Anbieterpflichten bei wesentlicher Veränderung

Anpassung bestehender Systeme durch Dritte unter Übernahme der Anbieterrolle.

Trade-offs ehrlich benannt:
  • + Möglichkeit, bestehende Systeme anzupassen
  • – Volle Haftung und Verantwortung für Konformität, auch wenn das ursprüngliche System bereits zertifiziert war
Wirkung auf den Wertekanon (−100 belastet … +100 stützt)
§1 Sorgepflicht: -20 — Die Übernahme von Anbieterpflichten durch Dritte erhöht das Risiko für die Existenzsicherung und Ökosysteme, da Haftungs- und Qualitätskontrollmechanismen bei externen Anpassungen oft schwächer sind a-20§1Sorgepflicht§2 Verteilung: -10 — Die volle Haftung durch Dritte kann zu höheren Kosten oder geringerer Servicequalität für die Schlechtestgestellten führen, wenn diese die Anpassungskosten nicht tragen können.-10§2Verteilung§3 Freiheit: +10 — Die Möglichkeit zur Anpassung durch Dritte kann die Individualfreiheit erhöhen, indem sie mehr Wahlmöglichkeiten und Flexibilität bietet, solange die Konformität gewährleistet bleibt.+10§3Freiheit§4 Gemeinschaft: -5 — Die Veränderung bestehender Systeme durch Dritte könnte etablierte Gemeinschaften oder Traditionen stören, wenn die Anpassungen nicht mit den lokalen Gegebenheiten übereinstimmen.-5§4Gemeinschaft§5 Wissenschaft: +30 — Die Übernahme von Anbieterpflichten durch Dritte erfordert eine klare Faktenbasis und transparente Dokumentation der Konformität, was die wissenschaftliche Fundierung der Entscheidung stärkt.+30§5Wissenschaft§6 Risiko: -40 — Die volle Haftung für Konformität bei externen Anpassungen birgt das Risiko irreversibler Schäden, wenn die neuen Systeme nicht ausreichend getestet oder zertifiziert sind.-40§6Risiko§7 Demokratie: +15 — Die strukturierte Übernahme von Pflichten durch Dritte kann den demokratischen Prozess stärken, indem sie klare Verantwortlichkeiten und Transparenz in der Konfliktlösung bietet.+15§7Demokratie

Offene Fragen / Datenlücken

  • Definition „wesentlicher Veränderung“: Wann gilt eine Modifikation eines Hochrisiko-KI-Systems als so gravierend, dass der Dritte zum Anbieter wird? (Art. 25 Abs. 1)
  • Umfang der Dokumentationspflichten: Welche konkreten Inhalte müssen in der Dokumentation nach Artikel 18 enthalten sein? (Art. 16 lit. d)
  • Ausnahmen von der Registrierungspflicht: Unter welchen Bedingungen kann ein Anbieter geltend machen, dass ein System trotz Hochrisiko-Einstufung nicht registriert werden muss? (Art. 16 lit. k)
  • Praktische Umsetzung der menschlichen Aufsicht: Wie wird die „erforderliche Kompetenz“ der Aufsichtspersonen definiert und überprüft? (Art. 26 Abs. 2)
  • Zugang zur EU-Datenbank: Welche konkreten Sicherheitsvorkehrungen gelten für den nicht-öffentlichen Teil der Datenbank (z. B. für Strafverfolgung)? (Art. 16 lit. k, Art. 26 Abs. 8)
  • Abgrenzung zu Harmonisierungsrechtsvorschriften: Welche Systeme fallen unter die Ausnahme für Produkte, die bereits unter andere EU-Rechtsvorschriften fallen?
  • Umgang mit Open-Source-Komponenten: Wie werden Dritte behandelt, die nicht-hochriskante Open-Source-Komponenten bereitstellen?

Konfidenz: hoch

3 · Critique-Pass (methodischer Gegen-Check)

Ein zweites Modell (andere Familie als das Analyse-Modell) durchsucht die ganze Analyse aktiv nach Schwächen: faktische Stimmigkeit gegen die Quellen, methodische Lücken, versteckte Empfehlungen, Quellendisziplin. Dass es Hinweise findet, ist gewollt — nichts wird geschönt; die Befunde gehen vor einer Positionsübernahme in die Überarbeitung.

✅ Verdikt: Keine erfundenen Fakten — die Beanstandungen betreffen die Genauigkeit von Verweisen und Rollen-Zuordnungen (der Inhalt steht in den Quellen), nicht erfundene Inhalte.
Vollständige Kritik dieses Modells anzeigen

Hier ist die strukturierte Kritik an der vorliegenden Analyse basierend auf den bereitgestellten Quellen und dem Prüfraster.

1. Faktische Stimmigkeit gegen Quellen

Die Analyse enthält mehrere faktische Ungenauigkeiten und Zitationsfehler im Vergleich zu den bereitgestellten Textbausteinen:

  • Falsche Zuordnung der Registrierungspflicht für öffentliche Betreiber:
    • Analyse: "Betreiber, die Organe, Einrichtungen oder sonstige Stellen der Union sind, müssen sich in der EU-Datenbank registrieren." (unter Pflichten der Betreiber)
    • Korrektur/Quelle: Der Quellenchunk zu Artikel 26 Abs. 8 lautet: "Stellen diese Betreiber fest, dass das Hochrisiko-KI-System ... nicht in der in Artikel 71 genannten EU-Datenbank registriert wurde, sehen sie von der Verwendung dieses Systems ab und informieren den Anbieter oder den Händler." Es wird hier nicht explizit die Registrierungspflicht des Betreibers als solche formuliert, sondern eine Prüf- und Abbruchpflicht bei Nichtregistrierung durch den Anbieter. Die Registrierungspflicht liegt primär beim Anbieter (Art. 16 lit. i/k Kontext). Zudem verweist Art. 26 Abs. 8 auf Artikel 71, während die Analyse dies nicht differenziert.
  • Fehlerhafte Zitation der Händler-Pflicht als "Anbieterpflicht" bei wesentlicher Veränderung:
    • Analyse: Unter "Zusätzliche Pflichten... (Artikel 25)" wird behauptet: "Händler, Einführer, Betreiber oder Dritte ... gelten als Anbieter ... wenn sie ... Eine wesentliche Veränderung an einem Hochrisiko-KI-System vornehmen..."
    • Korrektur/Quelle: Der Quellenchunk zu Artikel 25 Abs. 1 (im Textfragment am Ende des Dokuments) listet auf: "...wenn diese Partei ein bereits in Verkehr gebrachtes ... System mit ihrem Namen ... versieht, unbeschadet ... oder wenn sie eine wesentliche Veränderung ... so vornimmt, dass es ein Hochrisiko-KI-System im Sinne dieser Verordnung bleibt...". Die Analyse ist hier faktisch korrekt, aber die Einordnung unter "Zusätzliche Pflichten entlang der Wertschöpfungskette" als separate Kategorie für Händler/Betreiber ist irreführend, da Artikel 25 explizit definiert, dass sie in diesen Fällen als Anbieter gelten. Die Analyse trennt dies künstlich ab, obwohl es rechtlich eine Umdeutung der Rolle ist.
  • Verwechslung von Rechtsgrundlagen bei der "Ausnahme":
    • Analyse: Unter Handlungsoption 5: "Anbieter: Nutzung von Ausnahmen für nicht-hochriskante Systeme ... wenn ein System trotz Hochrisiko-Einstufung als nicht-hochriskant eingestuft wird."
    • Korrektur/Quelle: Der Quellenchunk (Art. 16 Kontext, Fußnote/kommentierter Teil) sagt: "Anbieter, die der Auffassung sind, dass ein KI-System ... auf der Grundlage einer Ausnahme nicht hochriskant ist, dazu verpflichtet werden, sich ... zu registrieren." Die Analyse impliziert eine Option zur Nicht-Registrierung bei Nicht-Hochrisiko-Einstufung. Der Text sagt aber explizit: Wenn man glaubt, es sei keine Hochrisiko-KI (obwohl im Anhang gelistet), muss man sich trotzdem registrieren (Transparenzpflicht). Die Analyse suggeriert fälschlicherweise, dass die Nicht-Einstufung als hochriskant eine Option zur Umgehung der Registrierung ist, während der Text sagt: Selbst bei dieser Annahme besteht Registrierungsdruck.
  • Fehlerhafte Zuordnung des Artikels 26 Abs. 4:
    • Analyse: "Betreiber müssen mit Anbietern und Dritten schriftliche Vereinbarungen ... treffen..."
    • Korrektur/Quelle: Artikel 26 Abs. 4 im Quelltext lautet: "Der Anbieter eines Hochrisiko-KI-Systems und der Dritte ... legen in einer schriftlichen Vereinbarung die Informationen ... fest". Die Analyse schiebt diese Pflicht fälschlicherweise dem Betreiber zu. Der Betreiber hat nach Art. 26 Abs. 1 nur die Pflicht, das System gemäß Anleitung zu verwenden. Die Vertragsgestaltung zur Erfüllung der Anbieterpflichten liegt beim Anbieter.

2. Methodische Lücken

  • Fehlende Differenzierung der "Hochrisiko"-Definition: Die Analyse geht davon aus, dass alle behandelten Systeme per se hochriskant sind. Sie ignoriert die im Quellenchunk enthaltene Information (Art. 16 Kontext), dass die Einstufung als hochriskant an spezifische Anwendungsfälle in einem Anhang gebunden ist ("...die in den in einem Anhang dieser Verordnung aufgeführten Anwendungsfällen mit hohem Risiko aufgeführt ist"). Eine Optionsanalyse ohne diese Prämisse ist unvollständig, da sie nicht zwischen Systemen unterscheidet, die potenziell hochriskant sind und solche, die es aufgrund der Zweckbestimmung nicht sind.
  • Fehlende Einbeziehung der "Harmonisierungsrechtsvorschriften"-Abwägung: Der Quellenchunk erwähnt mehrfach (Art. 16 Kontext, Art. 25 Abs. 3), dass Anbieter von Produkten, die unter andere EU-Harmonisierungsrechtsvorschriften fallen (z.B. Medizinprodukteverordnung), flexible operative Entscheidungen treffen können, um doppelte Belastungen zu vermeiden. Die Analyse listet dies nicht als relevante Option oder Abwägungspunkt auf, obwohl es ein zentraler Trade-off für Anbieter ist (Vermeidung von Verwaltungsaufwand).
  • Wertannahmen der "Menschlichen Aufsicht" nicht expliziert: Unter den Pflichten der Betreiber wird die menschliche Aufsicht genannt. Es fehlt die Analyse der impliziten Wertannahme: Die Verordnung setzt voraus, dass KI-Entscheidungen korrigierbar sein müssen. Dies ist eine normative Vorgabe (Menschenwürde/Autonomie), die in der reinen Auflistung der Pflichten untergeht. Welche Kompetenzen sind "erforderlich"? Die Analyse zitiert nur den Begriff, ohne die damit verbundene Anforderung an die Qualifikation als potenziellen Engpass oder Kostenfaktor zu benennen.

3. Sprachliche Schmuggelware

  • Implizite Bewertung von Aufwänden:
    • Stelle: "Trade-offs ... – Hoher Aufwand für Dokumentation, Qualitätsmanagement..."
    • Kritik: Der Begriff "Hoher Aufwand" ist eine subjektive Wertung. Die Quelle spricht nur von der Pflicht zur Aufbewahrung und zum Vorliegen eines QM-Systems. Ob dies "hoch" ist, hängt vom Kontext ab. Besser wäre: "Verpflichtung zur Implementierung und Dokumentation".
  • Implizite Empfehlung durch Framing:
    • Stelle: "Rechtssicherheit, Marktzugang..." als Vorteil der Konformität.
    • Kritik: Dies ist faktisch korrekt, aber die Gegenüberstellung mit "Bürokratischer Aufwand" bei öffentlichen Stellen suggeriert eine negative Bewertung von Regulierung durch öffentliche Akteure. Die Quelle spricht nur von der Pflicht zur Registrierung. Die Charakterisierung als "Bürokratie" ist eine interpretative Zuspitzung, die nicht in der neutralen Quellenbeschreibung enthalten ist.

4. Quellenverwendung und Tier-Disziplin

  • Verlust der Hierarchie bei Artikel-Zitaten: Die Analyse zitiert oft nur "Art. 16 lit. i/k". Im Quelltext ist die Zuordnung von Buchstaben zu konkreten Pflichten teilweise durcheinandergeraten (z.B. doppelt aufgeführte e/f in Art. 16). Die Analyse übernimmt diese Durcheinanderwurfung nicht, was gut ist, aber sie verweist auf "Art. 16 lit. k" für die Registrierung, während im Quelltext die Registrierungspflicht explizit im Fließtext unter Artikel 16 (Abschnitt über Anbieter) und in Fußnoten/Kontext erwähnt wird, nicht immer eindeutig als Buchstabe k gekennzeichnet ist (im bereitgestellten Text ist k bei Art. 16 nicht explizit als Buchstabe gelistet, sondern der Text springt von j zu "Um die Arbeit..."). Die Analyse interpretiert hier den Kontext korrekt, gibt aber vor, es stünde wörtlich so da.
  • Fehlende Kennzeichnung von Interpretationen: Die Aussage "Betreiber müssen ... schriftliche Vereinbarungen ... treffen" (unter Pflichten der Betreiber) ist eine falsche Ableitung aus Art. 26 Abs. 4. Hier wurde Trainingswissen oder Logik angewendet, die im Widerspruch zum wörtlichen Text steht (der die Pflicht dem Anbieter zuweist). Dies sollte als "Interpretation der Analyse" gekennzeichnet sein, nicht als Fakt aus der Quelle.
  • Ignorieren von Tier-1-Kontext: Der Quellenchunk enthält Hinweise auf "Richtlinien 2014/31/EU" und "Richtlinie 2006/42/EG". Die Analyse erwähnt diese nicht, obwohl sie relevant für die Abgrenzung der Genauigkeitsanforderungen sind. Dies ist kein Fehler per se (Fokus auf KI-VO), aber eine Lücke in der vollständigen Abbildung des Rechtsrahmens aus den Quellen.

Zusammenfassendes Urteil: Die Analyse ist strukturell gut, enthält aber kritische faktische Fehler bei der Zuordnung der Pflichten (insb. Art. 26 Abs. 4 und die Registrierungspflicht öffentlicher Stellen). Die Trennung von "Pflichten" und "Rollenumdehnung" (Art. 25) ist methodisch schwach, da sie die rechtliche Konsequenz (Geltung als Anbieter) verwässert. Die impliziten Bewertungen ("Hoher Aufwand", "Bürokratie") verletzen die Neutralität.

4 · Adversarial-Stresstest (Aussage für Aussage)

Ein drittes Modell — wieder eine andere Familie — versucht, jede einzelne Aussage zu widerlegen — nur anhand der Quellen. „Hält dem Test stand" = die Quellen widersprechen nicht; „von Quellen widersprochen" = die Beleglage spricht dagegen. So fallen genau die Aussagen auf, die ein Modell evtl. aus Vorwissen ergänzt hat und die der Beleglage nicht standhalten.

✅ 16 von 17 Aussagen halten dem Widerlegungsversuch stand — die übrige wird vor der Übernahme korrigiert.

  • 🛡️Anbieter müssen sicherstellen, dass Hochrisiko-KI-Systeme die Anforderungen in Abschnitt 2 erfüllen.hält dem Test standArtikel 16 Buchstabe a stellt explizit fest, dass Anbieter von Hochrisiko-KI-Systemen sicherstellen müssen, dass ihre Systeme die Anforderungen in Abschnitt 2 erfüllen.
  • 🛡️Anbieter unterliegen einer Kennzeichnungspflicht bezüglich Name, Handelsname und Kontaktanschrift auf dem System oder der Verpackung.hält dem Test standArtikel 16 Buchstabe b legt explizit fest, dass Anbieter ihren Namen, Handelsnamen sowie die Kontaktanschrift auf dem Hochrisiko-KI-System oder der Verpackung angeben müssen.
  • 🛡️Anbieter müssen über ein Qualitätsmanagementsystem gemäß Artikel 17 verfügen.hält dem Test standArtikel 16 Buchstabe c stellt explizit die Pflicht für Anbieter von Hochrisiko-KI-Systemen fest, über ein Qualitätsmanagementsystem zu verfügen, das Artikel 17 entspricht.
  • 🛡️Anbieter sind zur Aufbewahrung der Dokumentation nach Artikel 18 verpflichtet.hält dem Test standArtikel 16 Buchstabe d legt explizit fest, dass Anbieter von Hochrisiko-KI-Systemen die in Artikel 18 genannte Dokumentation aufbewahren müssen.
  • 🛡️Anbieter müssen automatisch erzeugte Protokolle gemäß Artikel 19 aufbewahren.hält dem Test standArtikel 16 Buchstabe e der Quelle verpflichtet Anbieter explizit dazu, die von ihren Hochrisiko-KI-Systemen automatisch erzeugten Protokolle gemäß Artikel 19 aufzubewahren.
  • 🛡️Hochrisiko-KI-Systeme müssen vor Inverkehrbringen einer Konformitätsbewertung nach Artikel 43 unterzogen werden.hält dem Test standArtikel 16 Buchstabe f stellt explizit sicher, dass Hochrisiko-KI-Systeme vor dem Inverkehrbringen oder der Inbetriebnahme einem Konformitätsbewertungsverfahren gemäß Artikel 43 unterzogen werden müssen.
  • 🛡️Anbieter müssen eine EU-Konformitätserklärung gemäß Artikel 47 ausstellen.hält dem Test standDie Aussage wird durch Artikel 16 Buchstabe g der Quellen direkt gestützt.
  • 🛡️Die CE-Kennzeichnung muss am System, der Verpackung oder in der Dokumentation angebracht werden.hält dem Test standArtikel 16 Buchstabe h legt explizit fest, dass die CE-Kennzeichnung am Hochrisiko-KI-System oder, falls nicht möglich, auf der Verpackung oder in der beigefügten Dokumentation anzubringen ist.
  • 🛡️Anbieter müssen sich und ihr KI-System in der EU-Datenbank registrieren (mit Ausnahmen).hält dem Test standDie Quellen belegen die Registrierungspflicht für Anbieter von Hochrisiko-KI-Systemen in einer EU-Datenbank und nennen spezifische Ausnahmen bzw. Sonderregeln (z. B. für Strafverfolgung oder kritische Infrastruktur).
  • 🛡️Anbieter müssen bei Nichtkonformität Korrekturmaßnahmen ergreifen und Informationen gemäß Artikel 20 bereitstellen.hält dem Test standDie Aussage entspricht wortwörtlich der Pflicht, die in Artikel 16 Buchstabe j der Quelle festgelegt ist.
  • 🛡️Rechte des geistigen Eigentums und Geschäftsgeheimnisse müssen gewahrt werden.hält dem Test standDie Quellen bestätigen explizit, dass die Notwendigkeit, Rechte des geistigen Eigentums und Geschäftsgeheimnisse zu achten und zu schützen, nicht berührt wird.
  • 🛡️Betreiber müssen Hochrisiko-KI-Systeme gemäß Betriebsanleitungen und Verordnungsvorgaben verwenden.hält dem Test standArtikel 26 (1) legt explizit fest, dass Betreiber technische Maßnahmen ergreifen müssen, um die Verwendung entsprechend der Betriebsanleitungen sicherzustellen.
  • 🛡️Betreiber müssen natürliche Personen für die menschliche Aufsicht mit entsprechender Kompetenz benennen.hält dem Test standDie Quellen besagen, dass Betreiber die menschliche Aufsicht auf natürliche Personen mit der erforderlichen Kompetenz übertragen und ihnen Unterstützung zukommen lassen müssen.
  • 🔴Betreiber müssen schriftliche Vereinbarungen mit Anbietern/Dritten über Informationen und Zugang treffen.von Quellen widersprochenDie Pflicht zur Schriftlichkeit der Vereinbarung über Informationen und technischen Zugang gemäß Artikel 26 (4) liegt beim Anbieter und dem Dritten, nicht bei den Betreibern.
  • 🛡️Arbeitgeber (Betreiber) müssen Arbeitnehmervertreter und betroffene Arbeitnehmer vor Inbetriebnahme informieren.hält dem Test standArtikel 26 Absatz 7 bestätigt explizit, dass Betreiber, die Arbeitgeber sind, Arbeitnehmervertreter und betroffene Arbeitnehmer über die Verwendung von Hochrisiko-KI-Systemen informieren müssen.
  • 🛡️Öffentliche Betreiber müssen sich in der EU-Datenbank registrieren; bei fehlender Registrierung ist die Verwendung zu unterlassen.hält dem Test standDie Quellen bestätigen, dass Betreiber von Hochrisiko-KI-Systemen, die Behörden oder Einrichtungen der Union sind, sich in der EU-Datenbank registrieren müssen und bei fehlender Registrierung von der Verwendung absehen müssen.
  • 🛡️Händler, Einführer oder Dritte werden zum Anbieter, wenn sie das System mit ihrem Namen versehen, wesentlich verändern oder die Zweckbestimmung ändern.hält dem Test standDie Quellen bestätigen unter Artikel 25 Absatz 1, dass Händler, Einführer oder Dritte als Anbieter gelten, wenn sie das System mit ihrem Namen versehen, wesentlich verändern oder die Zweckbestimmung ändern.

5 · Mensch entscheidet

Diese Analyse ist die Vorlage, nicht die Position. Final entscheidet ein Mensch gegen den Wertekanon, in letzter Instanz der Bundesparteitag. Der Chat ist nur Bürger-Einstieg, er bildet keine Positionen.

Unterm Strich: Eine EVIDENZ-Position entsteht nur, wenn sie auf zitierten Primärquellen ruht, von zwei unabhängigen Modellen anderer Bauart gegengeprüft wurde — und ein Mensch die letzte Verantwortung trägt. Keine erfundenen Zahlen, keine KI mit Letztentscheid. → So entstandene Positionen ansehen