Transparencia de la IA (art. 50 del Reglamento de IA)

Esta es una traducción de cortesía; la versión alemana es la vinculante.

El uso de la IA en KindChat: transparencia conforme al art. 50 del Reglamento de IA.

Última actualización: octubre de 2026 | El art. 50 del Reglamento de IA se aplica desde el 2 de agosto de 2026.

KindChat usa la IA exclusivamente para moderar y proteger a las personas usuarias. La IA clasifica contenido; no genera contenido nuevo (ni texto, ni imágenes, ni vídeos, ni voces). Por eso se aplican las obligaciones de transparencia más ligeras del art. 50.1 del Reglamento de IA (transparencia en la interacción), no las obligaciones de marcado y marca de agua para la IA generativa (art. 50.2).

1. Qué hace la IA en KindChat

• Comprobaciones automatizadas de contenido dañino o no deseado (insultos, odio, amenazas, estafas, phishing, desnudos no solicitados, acoso, etc.).
• Comprobaciones realizadas principalmente en tu propio dispositivo (on-device), antes de que un mensaje se cifre y se envíe, y otra vez en el dispositivo que lo recibe.
• Si la comprobación en el dispositivo no está segura, y en algunos idiomas (por ejemplo, el francés y el turco) con la mayoría de los mensajes, una comprobación adicional del texto, estrictamente limitada a esa finalidad, en nuestro propio servidor en la UE, sin tu identidad. Esto incluye el texto que tu dispositivo reconoce en imágenes, fotogramas de vídeo o (a partir de la versión 1.1.14) documentos; la imagen en sí no se envía al servidor.
• El E2EE no se ve afectado; el contenido de los mensajes no se analiza con fines de publicidad ni de perfiles. Solo usamos textos para entrenar nuestro propio modelo de moderación con tu consentimiento a «Ayudar a mejorar la moderación», de forma seudonimizada (política de privacidad 2.2).

Resultado para ti: protección frente a contenido dañino sin que las personas de KindChat lean tus mensajes privados a escondidas.

2. Dónde y cómo encontrar la información de transparencia sobre la IA

2.1 En la app (art. 50.1)

Durante el registro, un aviso claro:

KindChat usa procedimientos automatizados que incluyen inteligencia artificial para detectar contenido dañino y protegerte. La comprobación se realiza principalmente en tu dispositivo.

En el momento en que actúa (difuminado/aviso/bloqueo): una nota breve «Decisión de moderación automatizada» + un botón/enlace directo para denunciar o reclamar (función de reclamación DSA). En los ajustes: una explicación detallada con referencia a esta página y a las Condiciones del servicio.

2.2 En el sitio web (kindchat.app)

• esta sección (enlazada desde el pie de página, las Condiciones del servicio y la Política de privacidad);
• esta subpágina «Transparencia de la IA y art. 50 del Reglamento de IA»;
• una referencia en las Condiciones del servicio (cláusula 3) y la Política de privacidad.

3. Límites de las funciones de protección con IA

Ningún sistema automatizado es perfecto. KindChat reduce sustancialmente el riesgo de contenido dañino, pero no puede eliminarlo por completo: contenido dañino puede pasar sin detectarse (falso negativo) y contenido inocuo puede marcarse por error (falso positivo). Las funciones de protección no sustituyen tu propia precaución. Tú mantienes el control total: ver, denunciar, bloquear al remitente. Sin tasas de detección cuantificadas (regla de no dar cifras).

4. Supervisión humana y derecho a reclamar (DSA + art. 14 del Reglamento de IA)

• el derecho a denunciar en la app contenido dañino o marcado por error;
• una reclamación contra las decisiones de moderación mediante la función de reclamación DSA integrada;
• en los casos adecuados, revisión por una persona física.

Los casos críticos para la seguridad no se deciden de forma definitiva solo mediante automatización.

5. Función Círculo Protector: basada en consentimiento y transparente

El «Círculo Protector» opcional (p. ej. para familias) ayuda a gestionar contactos y medidas de protección. Solo con consentimiento explícito, revocable en cualquier momento. Las personas del Círculo Protector no obtienen acceso al contenido de los mensajes. En KindChat, el contenido solo lo leen el equipo de soporte (lo que escribes al soporte), quienes revisan los mensajes denunciados y un texto retenido que envías tú con «Esto estaba bien»; los textos seudonimizados de «Ayudar a mejorar la moderación» no están asociados a ninguna persona. Todas las acciones realizadas en nombre de una persona protegida son visibles para esa persona. KindChat no es una herramienta de vigilancia.

6. Lo que la IA de KindChat no hace (ni hará nunca)

• No genera contenido (texto, imágenes, deepfakes, voces); sin obligaciones del art. 50.2.
• No lee ni almacena contenido de mensajes con fines publicitarios o de perfiles.
• Sin reconocimiento de emociones ni categorización biométrica (el art. 50.3 no resulta afectado).
• Sin seguridad «garantizada»; siempre y únicamente «reducción del riesgo».

7. Calidad de detección según el idioma

La calidad puede variar según el idioma (datos de entrenamiento, particularidades lingüísticas). Mejora continua para todos los idiomas admitidos, pero sin garantía de una calidad equivalente en cada idioma.

8. Documentación técnica / Model Card

Una versión pública, respetuosa con la privacidad y la seguridad, de la documentación técnica de la IA de moderación (Model Card) puede facilitarse previa solicitud o mediante un enlace protegido. No contiene detalles que permitan eludir la moderación.

Modelo utilizado en la comprobación adicional. La comprobación adicional en nuestros servidores de la UE utiliza Llama Guard 3 de Meta, que gestionamos nosotros mismos. Built with Llama. «Llama 3.1 is licensed under the Llama 3.1 Community License, Copyright © Meta Platforms, Inc. All Rights Reserved.» Texto de la licencia: llama.com/llama3_1/license.

9. Contacto y comentarios sobre la IA

Para preguntas sobre el uso de la IA, una decisión de moderación concreta o una reclamación: usa la función de denuncia/reclamación de la app o escribe a hi@kindchat.app.

Contexto legal: esta información de transparencia se refiere al art. 50.1 del Reglamento (UE) 2024/1689 (Reglamento de IA) para sistemas de IA de riesgo limitado (moderación de contenido en un mensajero de consumo). KindChat no entra en las categorías de alto riesgo del anexo III del Reglamento de IA, mientras la moderación no se use en los contextos sensibles allí mencionados (educación, empleo, aplicación de la ley, etc.).

sonrisa ventures GmbH | https://kindchat.app | junio de 2026