AI-transparantie (art. 50 AI-verordening)

Dit is een vertaling ter informatie; de Duitse versie is bindend.

Het gebruik van AI bij KindChat: transparantie volgens art. 50 van de AI-verordening (AI Act).

Laatst bijgewerkt: oktober 2026 | Art. 50 van de AI-verordening geldt vanaf 2 augustus 2026.

KindChat zet AI uitsluitend in voor moderatie en ter bescherming van gebruikers. De AI classificeert inhoud; ze maakt geen nieuwe inhoud (geen teksten, beelden, video's of stemmen). Daarom gelden de lichtere transparantieplichten van art. 50 lid 1 van de AI-verordening (interactietransparantie), niet de markerings- en watermerkplichten voor generatieve AI (art. 50 lid 2).

1. Wat de AI bij KindChat doet

• Geautomatiseerde inhoudscontrole op schadelijke of ongewenste inhoud (beledigingen, haat, bedreigingen, oplichting, phishing, ongewenste naaktbeelden, pesten enz.).
• Controle primair direct op je apparaat (on-device), voordat een bericht wordt versleuteld en verzonden, en opnieuw op het apparaat dat het ontvangt.
• Twijfelt de controle op het apparaat, en in sommige talen (zoals Frans en Turks) bij de meeste berichten, dan een aanvullende, strikt doelgebonden controle van de tekst op onze eigen server in de EU, zonder je identiteit. Dat geldt ook voor tekst die je apparaat herkent in afbeeldingen, videobeelden of (vanaf versie 1.1.14) documenten; de afbeelding zelf gaat niet naar de server.
• E2EE blijft onaangetast; berichtinhoud wordt niet geanalyseerd voor advertentie- of profileringsdoeleinden. Teksten gebruiken we voor het trainen van ons eigen moderatiemodel alleen met je toestemming voor “Help moderatie te verbeteren”, gepseudonimiseerd (privacybeleid 2.2).

Resultaat voor jou: bescherming tegen schadelijke inhoud, zonder dat mensen bij KindChat stiekem je privéberichten lezen.

2. Waar en hoe je de AI-transparantie vindt

2.1 In de app (art. 50 lid 1)

Bij de onboarding een duidelijke melding:

KindChat gebruikt geautomatiseerde procedures, waaronder kunstmatige intelligentie, om schadelijke inhoud te herkennen en je te beschermen. De controle vindt primair op je apparaat plaats.

Op de plek waar het gebeurt (vervaging/waarschuwing/blokkering): een korte melding “Geautomatiseerde moderatiebeslissing” + een directe knop of link om te melden of een klacht in te dienen (DSA-klachtfunctie). In de instellingen: een uitgebreide uitleg met verwijzing naar deze pagina en de Gebruiksvoorwaarden.

2.2 Op de website (kindchat.app)

• dit onderdeel (gelinkt vanuit de voettekst, de Gebruiksvoorwaarden en het privacybeleid);
• deze subpagina “AI-transparantie & art. 50 AI-verordening”;
• een verwijzing in de Gebruiksvoorwaarden (artikel 3) en het privacybeleid.

3. Grenzen van de AI-beschermingsfuncties

Geen enkel geautomatiseerd systeem is perfect. KindChat vermindert het risico op schadelijke inhoud aanzienlijk, maar kan het niet volledig uitsluiten: schadelijke inhoud kan onopgemerkt blijven (fout-negatief) en onschuldige inhoud kan ten onrechte worden gemarkeerd (fout-positief). De beschermingsfuncties vervangen je eigen voorzichtigheid niet. Jij houdt de volledige controle: bekijken, melden, afzender blokkeren. Geen becijferde detectiepercentages (no-quota-regel).

4. Menselijk toezicht en klachtrecht (DSA + art. 14 AI-verordening)

• het recht om schadelijke of ten onrechte gemarkeerde inhoud in de app te melden;
• een klacht tegen moderatiebeslissingen via de ingebouwde DSA-klachtfunctie;
• in geschikte gevallen beoordeling door een natuurlijke persoon.

Veiligheidskritische gevallen worden niet uitsluitend geautomatiseerd definitief beslist.

5. Beschermkring-functie: op basis van toestemming en transparant

De optionele “Beschermkring” (bijv. voor gezinnen) helpt bij het beheer van contacten en beschermingsmaatregelen. Alleen met uitdrukkelijke, te allen tijde herroepbare toestemming. Personen in de Beschermkring krijgen geen inzage in de berichtinhoud. Bij KindChat lezen alleen het supportteam (wat je aan Support schrijft), de beoordelaars van gemelde berichten en van een tegengehouden tekst die je zelf met “Dit was in orde” stuurt inhoud; de gepseudonimiseerde teksten uit “Help moderatie te verbeteren” zijn aan geen enkele persoon gekoppeld. Alle handelingen namens een beschermde persoon zijn voor die persoon zichtbaar. KindChat is geen toezichtsinstrument.

6. Wat de AI van KindChat niet doet (en nooit zal doen)

• Geen generatie van inhoud (teksten, beelden, deepfakes, stemmen); geen verplichtingen uit art. 50 lid 2.
• Geen meelezen of opslaan van berichtinhoud voor advertentie- of profileringsdoeleinden.
• Geen emotieherkenning of biometrische categorisering (art. 50 lid 3 niet van toepassing).
• Geen “gegarandeerde” veiligheid; altijd alleen “risicovermindering”.

7. Detectiekwaliteit per taal

De kwaliteit kan per taal verschillen (trainingsgegevens, taalkundige bijzonderheden). Voortdurende verbetering voor alle ondersteunde talen, maar geen garantie op gelijkwaardige kwaliteit in elke taal.

8. Technische documentatie / model card

Een openbare, privacy- en veiligheidsbewuste versie van de technische documentatie van de moderatie-AI (model card) kan op verzoek of via een beveiligde link beschikbaar worden gesteld. Die bevat geen details waarmee de moderatie kan worden omzeild.

Gebruikt model voor de aanvullende controle. De aanvullende controle op onze servers in de EU gebruikt Llama Guard 3 van Meta, dat we zelf draaien. Built with Llama. ‘Llama 3.1 is licensed under the Llama 3.1 Community License, Copyright © Meta Platforms, Inc. All Rights Reserved.’ Licentietekst: llama.com/llama3_1/license.

9. Contact & feedback over de AI

Bij vragen over het gebruik van AI, over een concrete moderatiebeslissing of over een klacht: gebruik de meld-/klachtfunctie in de app of mail naar hi@kindchat.app.

Juridische context: deze transparantie-informatie verwijst naar art. 50 lid 1 van Verordening (EU) 2024/1689 (AI-verordening / AI Act) voor AI-systemen met beperkt risico (inhoudsmoderatie in een consumentenmessenger). KindChat valt niet onder de hoogrisicocategorieën van bijlage III van de AI-verordening, zolang de moderatie niet wordt ingezet in de daar genoemde gevoelige contexten (onderwijs, werk, rechtshandhaving enz.).

sonrisa ventures GmbH | https://kindchat.app | juni 2026