KI-Transparenz (Art. 50 AI Act)

Einsatz von KI bei KindChat — Transparenz nach Art. 50 KI-Verordnung (AI Act).

Stand: Juni 2026 | Geltung von Art. 50 AI Act ab 2. August 2026.

KindChat setzt KI ausschließlich zur Moderation und zum Schutz der Nutzer ein. Die KI klassifiziert Inhalte — sie erzeugt keine neuen Inhalte (keine Texte, Bilder, Videos oder Stimmen). Daher gelten die schlichteren Transparenzpflichten des Art. 50 Abs. 1 AI Act (Interaktions-Transparenz), nicht die Markierungs-/Watermarking-Pflichten für generative KI (Art. 50 Abs. 2).

1. Was die KI bei KindChat tut

• Automatisierte Inhaltsprüfung auf schädliche/unerwünschte Inhalte (Beleidigungen, Hass, Bedrohungen, Betrug, Phishing, unerwünschte Nacktbilder, Mobbing etc.).
• Prüfung primär direkt auf Ihrem Gerät (on-device), bevor eine Nachricht verschlüsselt und versendet wird.
• In seltenen Zweifelsfällen (hohe Unsicherheit der lokalen KI oder berechtigte Nutzermeldung) zusätzliche, streng zweckgebundene Prüfung auf EU-Servern.
• E2EE bleibt unberührt; Nachrichteninhalte werden nicht zu Werbe-, Profilierungs- oder Trainingszwecken ausgewertet.

Ergebnis für Sie: Schutz vor schädlichen Inhalten, ohne dass der Anbieter Ihre privaten Nachrichten liest.

2. Wo und wie Sie die KI-Transparenz finden

2.1 In der App (Art. 50 Abs. 1)

Beim Onboarding ein klarer Hinweis:

KindChat nutzt automatisierte Verfahren einschließlich künstlicher Intelligenz, um schädliche Inhalte zu erkennen und Sie zu schützen. Die Prüfung findet primär auf Ihrem Gerät statt.

Am Wirkort (Blur/Warnung/Block): kurzer Hinweis „Automatisierte Moderationsentscheidung“ + direkter Button/Link zur Meldung/Beschwerde (DSA-konform). In den Einstellungen: detaillierte Erklärung mit Verweis auf diese Seite und die Nutzungsbedingungen.

2.2 Auf der Website (kindchat.app)

• dieser Abschnitt (verlinkt aus Footer, AGB, Datenschutzerklärung);
• diese Unterseite „KI-Transparenz & Art. 50 AI Act“;
• Verweis in den Nutzungsbedingungen (Ziffer 3) und der Datenschutzerklärung.

3. Grenzen der KI-Schutzfunktionen

Kein automatisiertes System ist perfekt. KindChat reduziert das Risiko schädlicher Inhalte erheblich, kann es aber nicht vollständig ausschließen: schädliche Inhalte können nicht erkannt werden (falsch-negativ), unbedenkliche Inhalte fälschlich markiert werden (falsch-positiv). Die Schutzfunktionen ersetzen nicht Ihre eigene Vorsicht. Sie behalten die volle Kontrolle: anzeigen, melden, Absender blockieren. Keine bezifferten Erkennungsquoten (No-Quota-Regel).

4. Menschliche Kontrolle und Beschwerderecht (DSA + Art. 14 AI Act)

• Recht auf Meldung schädlicher/fälschlich markierter Inhalte in der App;
• Beschwerde gegen Moderationsentscheidungen über die integrierte DSA-Beschwerdefunktion;
• in geeigneten Fällen Überprüfung durch eine natürliche Person.

Sicherheitskritische Fälle werden nicht allein automatisiert abschließend entschieden.

5. Schutzkreis-Funktion — einwilligungsbasiert und transparent

Der optionale „Schutzkreis“ (z. B. für Familien) unterstützt bei der Verwaltung von Kontakten und Schutzmaßnahmen. Nur mit ausdrücklicher, jederzeit widerrufbarer Einwilligung. Niemand (weder Anbieter noch andere Personen im Schutzkreis) erhält Einblick in die tatsächlichen Nachrichteninhalte. Alle Handlungen im Namen einer geschützten Person sind für diese einsehbar. KindChat ist kein Überwachungswerkzeug.

6. Was KindChat-KI nicht tut (und nie tun wird)

• Keine Generierung von Inhalten (Texte, Bilder, Deepfakes, Stimmen) — keine Art. 50 Abs. 2-Pflichten.
• Kein Mitlesen/Speichern von Nachrichteninhalten zu Werbe-/Profilierungszwecken.
• Keine Emotionserkennung oder biometrische Kategorisierung (Art. 50 Abs. 3 nicht betroffen).
• Keine „garantierte“ Sicherheit — immer nur „Risikoreduzierung“.

7. Sprachabhängige Erkennungsqualität

Qualität kann je nach Sprache variieren (Trainingsdaten, linguistische Besonderheiten). Kontinuierliche Verbesserung für alle unterstützten Sprachen, aber keine Garantie gleichwertiger Qualität in jeder Sprache.

8. Technische Dokumentation / Model Card

Eine öffentliche, datenschutz- und sicherheitsgerechte Fassung der technischen Dokumentation der Moderations-KI (Model Card) kann auf Anfrage oder über einen geschützten Link bereitgestellt werden. Erfüllt die Transparenzanforderungen des Art. 13 AI Act (soweit anwendbar), ohne Details zur Umgehung der Moderation preiszugeben.

9. Kontakt & Feedback zur KI

Bei Fragen zur KI-Nutzung, zu einer konkreten Moderationsentscheidung oder zur Beschwerde: Melde-/Beschwerdefunktion in der App oder E-Mail an hi@kindchat.app.

Rechtlicher Kontext: Diese Transparenzinformationen erfüllen Art. 50 Abs. 1 der Verordnung (EU) 2024/1689 (KI-Verordnung / AI Act) für KI-Systeme mit begrenztem Risiko (Content-Moderation in einem Consumer-Messenger). KindChat fällt nicht unter die Hochrisiko-Kategorien des Annex III AI Act, solange die Moderation nicht in den dort genannten sensiblen Kontexten (Bildung, Beschäftigung, Strafverfolgung etc.) eingesetzt wird.

sonrisa ventures GmbH | https://kindchat.app | Juni 2026