Transparencia de la IA (art. 50 del Reglamento de IA)

Esta es una traducción de cortesía; la versión alemana es la vinculante.

El uso de la IA en KindChat: transparencia conforme al art. 50 del Reglamento de IA.

Última actualización: junio de 2026 | El art. 50 del Reglamento de IA se aplica desde el 2 de agosto de 2026.

KindChat usa la IA exclusivamente para moderar y proteger a las personas usuarias. La IA clasifica contenido; no genera contenido nuevo (ni texto, ni imágenes, ni vídeos, ni voces). Por eso se aplican las obligaciones de transparencia más ligeras del art. 50.1 del Reglamento de IA (transparencia en la interacción), no las obligaciones de marcado y marca de agua para la IA generativa (art. 50.2).

1. Qué hace la IA en KindChat

• Comprobaciones automatizadas de contenido dañino o no deseado (insultos, odio, amenazas, estafas, phishing, desnudos no solicitados, acoso, etc.).
• Comprobaciones realizadas principalmente en tu propio dispositivo (on-device), antes de que un mensaje se cifre y se envíe.
• En casos raros de duda (alta incertidumbre de la IA local o una denuncia legítima de una persona usuaria), una comprobación adicional, estrictamente limitada a esa finalidad, en servidores de la UE.
• El E2EE no se ve afectado; el contenido de los mensajes no se analiza con fines de publicidad, perfiles o entrenamiento.

Resultado para ti: protección frente a contenido dañino sin que el proveedor lea tus mensajes privados.

2. Dónde y cómo encontrar la información de transparencia sobre la IA

2.1 En la app (art. 50.1)

Durante el registro, un aviso claro:

KindChat usa procedimientos automatizados que incluyen inteligencia artificial para detectar contenido dañino y protegerte. La comprobación se realiza principalmente en tu dispositivo.

En el momento en que actúa (difuminado/aviso/bloqueo): una nota breve «Decisión de moderación automatizada» + un botón/enlace directo para denunciar o reclamar (conforme a la DSA). En los ajustes: una explicación detallada con referencia a esta página y a las Condiciones del servicio.

2.2 En el sitio web (kindchat.app)

• esta sección (enlazada desde el pie de página, las Condiciones del servicio y la Política de privacidad);
• esta subpágina «Transparencia de la IA y art. 50 del Reglamento de IA»;
• una referencia en las Condiciones del servicio (cláusula 3) y la Política de privacidad.

3. Límites de las funciones de protección con IA

Ningún sistema automatizado es perfecto. KindChat reduce sustancialmente el riesgo de contenido dañino, pero no puede eliminarlo por completo: contenido dañino puede pasar sin detectarse (falso negativo) y contenido inocuo puede marcarse por error (falso positivo). Las funciones de protección no sustituyen tu propia precaución. Tú mantienes el control total: ver, denunciar, bloquear al remitente. Sin tasas de detección cuantificadas (regla de no dar cifras).

4. Supervisión humana y derecho a reclamar (DSA + art. 14 del Reglamento de IA)

• el derecho a denunciar en la app contenido dañino o marcado por error;
• una reclamación contra las decisiones de moderación mediante la función de reclamación DSA integrada;
• en los casos adecuados, revisión por una persona física.

Los casos críticos para la seguridad no se deciden de forma definitiva solo mediante automatización.

5. Función Círculo de protección: basada en consentimiento y transparente

El «Círculo de protección» opcional (p. ej. para familias) ayuda a gestionar contactos y medidas de protección. Solo con consentimiento explícito, revocable en cualquier momento. Nadie (ni el proveedor ni otras personas del Círculo de protección) obtiene acceso al contenido real de los mensajes. Todas las acciones realizadas en nombre de una persona protegida son visibles para esa persona. KindChat no es una herramienta de vigilancia.

6. Lo que la IA de KindChat no hace (ni hará nunca)

• No genera contenido (texto, imágenes, deepfakes, voces); sin obligaciones del art. 50.2.
• No lee ni almacena contenido de mensajes con fines publicitarios o de perfiles.
• Sin reconocimiento de emociones ni categorización biométrica (el art. 50.3 no resulta afectado).
• Sin seguridad «garantizada»; siempre y únicamente «reducción del riesgo».

7. Calidad de detección según el idioma

La calidad puede variar según el idioma (datos de entrenamiento, particularidades lingüísticas). Mejora continua para todos los idiomas admitidos, pero sin garantía de una calidad equivalente en cada idioma.

8. Documentación técnica / Model Card

Una versión pública, respetuosa con la privacidad y la seguridad, de la documentación técnica de la IA de moderación (Model Card) puede facilitarse previa solicitud o mediante un enlace protegido. Cumple los requisitos de transparencia del art. 13 del Reglamento de IA (cuando sea aplicable) sin revelar detalles sobre cómo eludir la moderación.

9. Contacto y comentarios sobre la IA

Para preguntas sobre el uso de la IA, una decisión de moderación concreta o una reclamación: usa la función de denuncia/reclamación de la app o escribe a hi@kindchat.app.

Contexto legal: esta información de transparencia cumple el art. 50.1 del Reglamento (UE) 2024/1689 (Reglamento de IA) para sistemas de IA de riesgo limitado (moderación de contenido en un mensajero de consumo). KindChat no entra en las categorías de alto riesgo del anexo III del Reglamento de IA, mientras la moderación no se use en los contextos sensibles allí mencionados (educación, empleo, aplicación de la ley, etc.).

sonrisa ventures GmbH | https://kindchat.app | junio de 2026