Política de Inteligencia Artificial

VertexHub do Brasil Ltda ("ChatSense", "nosotros", "nuestro" o "Plataforma"), comprometida con la transparencia y el uso responsable de tecnologías de Inteligencia Artificial (IA), pública esta Política para describir los sistemas de IA utilizados, sus finalidades, limitaciones, salvaguardas de seguridad y las responsabilidades compartidas entre la Plataforma y sus clientes.

1. Descripción de los Sistemas de Inteligencia Artificial

1.1 Proveedores de Modelos de Lenguaje (LLM)

ChatSense utiliza los siguientes proveedores de modelos de lenguaje de gran escala:

• Google Gemini 2.5 Flash / Pro — Modelo principal para generación de respuestas, análisis de sentimiento, clasificación de intención, resumen de conversaciones, extracción de temas y análisis de imágenes (Vision)
• OpenAI — Utilizado exclusivamente para generación de embeddings vectoriales (text-embedding) para el sistema de búsqueda semantica (RAG)

1.2 Funcionalidades de IA

La plataforma ofrece las siguientes funcionalidades basadas en Inteligencia Artificial:

• Respuestas automatizadas (pipeline de bot) — Respuestas generadas por IA para atención automatizada al cliente
• Sugerencias de respuesta — Sugerencias contextuales para agentes humanos durante la atención
• Resumen de conversaciones — Resumenes automáticos del contenido y puntos principales de cada conversación
• Análisis de sentimiento — Clasificación automática del sentimiento del cliente (positivo, neutro, negativo)
• Auto-tagging — Categorización automática de conversaciones por temas relevantes
• Extracción de temas — Identificación de los asuntos principales abordados en cada interacción
• Transcripción de audio (STT) — Conversión de mensajes de audio en texto para procesamiento y visualización
• Análisis de imágenes (Vision) — Interpretación del contenido de imágenes enviadas por los clientes
• Texto a voz (TTS) — Generación de audio a partir de respuestas textuales

1.3 RAG (Retrieval-Augmented Generation)

ChatSense utiliza un sistema de Generación Aumentada por Recuperación (RAG) para mejorar la precisión de las respuestas de IA. La base de conocimiento del cliente se indexa con embeddings vectoriales de 1536 dimensiones utilizando la extensión pgvector de PostgreSQL. Durante la atención, el sistema realiza búsqueda semantica para localizar fragmentos relevantes de la base de conocimiento e inyectarlos como contexto en los prompts enviados al modelo de lenguaje.

1.4 Pipeline del Bot

El flujo de procesamiento de cada interacción con IA sigue la siguiente secuencia:

• Clasificación de intención — Identificación de la intención del cliente en el mensaje recibido
• Recuperación RAG — Búsqueda semantica en la base de conocimiento por contenido relevante
• Historial de conversación — Inclusión del contexto de los mensajes anteriores
• Inyección de guardrails — Aplicación de las salvaguardas de seguridad configuradas
• Llamada al LLM — Envío del prompt completo al modelo de lenguaje
• Entrega de la respuesta — Envío de la respuesta generada al cliente por el canal correspondiente

1.5 Sistema de Escalamiento

La IA posee la capacidad de detectar cuando una interacción necesita intervención humana. El sistema identifica palabras clave de escalamiento, complejidad excesiva o insatisfacción del cliente y transfiere automáticamente la conversación a un agente humano, acompanada de un mensaje de transición configurable.

2. Clasificación conforme el EU AI Act (Reglamento 2024/1689)

2.1 Clasificación del Sistema

ChatSense se clasifica como un sistema de IA de propósito general (GPAI — General-Purpose AI System) conforme el Artículo 51 del Reglamento (UE) 2024/1689 (EU AI Act). La plataforma proporciona capacidades de IA que pueden ser utilizadas en diversos contextos de atención al cliente.

2.2 Evaluación de Riesgo

La plataforma ChatSense no es inherentemente de alto riesgo. Sin embargo, reconocemos que los clientes (implantadores/deployers) pueden crear casos de uso que se encuadren en la categoría de alto riesgo, dependiendo del sector y de la finalidad de la implantación (por ejemplo, atención en salud, servicios financieros, servicios jurídicos).

2.3 Responsabilidades del Implantador (Deployer)

Conforme el Artículo 26 del EU AI Act, el cliente (implantador) es responsable de:

• Informar a los usuarios finales sobre la interacción con sistemas de IA
• Mantener supervisión humana adecuada sobre los sistemas de IA implantados
• Garantizar la calidad de los datos utilizados en el entrenamiento y configuración de los agentes
• Evaluar si el uso específico constituye alto riesgo en su contexto regulatorio

2.4 Obligaciones de Transparencia

En conformidad con el Artículo 50, el contenido generado por IA debe ser debidamente identificado. ChatSense implementa marcadores de identificación en mensajes generados por IA y pone a disposición información sobre el modelo, versión y rastreo de ejecución para administradores.

2.5 Obligaciones como Proveedor de GPAI

ChatSense cumple con las obligaciones del Artículo 53 para proveedores de sistemas GPAI, incluyendo: mantenimiento de documentación técnica, política de derechos de autor y transparencia sobre el funcionamiento de los sistemas de IA.

3. Transparencia e Identificación de Contenido IA

• Marcadores de identificación — Los mensajes generados por IA llevan marcadores de identificación del sistema, distinguiendolos de los mensajes enviados por agentes humanos
• Visibilidad para administradores — Los administradores tienen acceso a los prompts del sistema (system prompts), versiones de los modelos utilizados y rastreo completo de ejecución (execution traces)
• Pista de auditoría — Cada interacción con IA se registra en la tabla agent_execution_traces, incluyendo: tokens de entrada y salida, latencia, modelo utilizado y proveedor
• Versionamiento de modelos — Las versiones de los modelos se registran para garantizar reproducibilidad y trazabilidad
• Obligación del cliente — El cliente debe informar a sus usuarios finales cuando estos están interactuando con un sistema de IA y no con un ser humano

4. Procesamiento de Datos para IA

4.1 Datos Enviados a los Modelos de Lenguaje

Los siguientes datos se incluyen en los prompts enviados a los proveedores de LLM:

• Mensajes de la conversación (últimos 20 mensajes para contexto)
• Prompt del sistema (system prompt) configurado por el administrador
• Contexto RAG (fragmentos de la base de conocimiento recuperados por búsqueda semantica)
• Nombre del contacto
• Tipo de plataforma/canal (WhatsApp, Instagram, Messenger, Telegram, Email, Live Chat)

4.2 Datos que NO se Envian

Los siguientes datos nunca se incluyen en los prompts de IA:

• Contraseñas y credenciales de acceso
• Información de pago y datos financieros
• Notas internas del equipo
• Registros de auditoría del sistema

4.3 Prohibición de Entrenamiento con Datos del Cliente

Los datos de los clientes se utilizan exclusivamente para inferencia (generación de respuestas). Los proveedores de LLM utilizados por ChatSense (Google y OpenAI) no utilizan los datos enviados vía API para entrenar o mejorar sus modelos. Esta garantía está respaldada por los términos de uso empresarial de cada proveedor.

4.4 Embeddings y Almacenamiento Local

Los embeddings vectoriales se generan a través de la API de OpenAI y se almacenan localmente en la base de datos PostgreSQL (extensión pgvector). Los vectores no se comparten con terceros y permanecen bajo control exclusivo de la plataforma.

4.5 Minimización de Datos

Solo el contexto de conversación estrictamente necesario se incluye en los prompts de IA, en conformidad con el principio de minimización de datos de la LGPD (art. 6, III).

4.6 Retención de Datos de IA

Los registros de ejecución de IA (execution traces) se retienen por 90 días para fines de depuración, auditoría y mejora de calidad, siendo automáticamente eliminados después de dicho periodo.

5. Sistema de Guardrails (Salvaguardas de Seguridad)

5.1 Flags de Seguridad

ChatSense implementa 10 flags de seguridad que se activan por defecto en todos los agentes de IA. El control de estas flags está restringido a superadministradores:

• no_profanity — Bloquea lenguaje vulgar, obsceno u ofensivo
• no_threats — Bloquea intimidación, coerción o amenazas
• no_discrimination — Bloquea discriminación racial, de género, religiosa, por orientación sexual o por discapacidad
• no_sexual_content — Bloquea contenido sexual o para adultos (el administrador puede deshabilitar mediante aceptación de término de responsabilidad)
• no_violence — Bloquea glorificación o incitación a la violencia
• no_illegal_activity — Bloquea orientación o instrucción sobre actividades ilegales
• no_personal_data — Bloquea el compartir datos personales de terceros por parte de la IA
• no_impersonation — Bloquea la suplantación de personas reales, autoridades o instituciones
• no_medical_diagnosis — Impone la derivación a un profesional de salud calificado, impidiendo diagnósticos médicos
• no_financial_advice — Impide asesoramiento financiero, tributario o de inversiones no licenciado

5.2 Configuraciones de Tono por Agente

Cada agente de IA posee 8 configuraciones de tono controlables por el administrador:

• allow_slang — Permite el uso de jerga y lenguaje informal
• allow_humor — Permite respuestas con tono humoristico
• allow_emojis — Permite el uso de emojis en las respuestas
• allow_price_negotiation — Permite negociación de precios (requiere aceptación de término de responsabilidad)
• allow_competitor_mentions — Permite menciones a competidores
• allow_external_links — Permite la inclusión de enlaces externos en las respuestas
• allow_political_topics — Permite el abordaje de temas politicos
• allow_religious_references — Permite referencias religiosas (requiere aceptación de término de responsabilidad)

5.3 Términos de Responsabilidad

Determinadas configuraciones (no_sexual_content deshabilitado, allow_price_negotiation, allow_religious_references) exigen aceptación explicita de un término de responsabilidad por parte del administrador. La aceptación se registra con dirección IP, user-agent y marca de fecha/hora (timestamp) para fines de auditoría y cumplimiento legal.

6. Precisión, Limitaciones y Alucinaciones

6.1 Naturaleza Probabilistica

Los sistemas de Inteligencia Artificial utilizados por ChatSense son de naturaleza probabilistica. Esto significa que las respuestas generadas pueden ser imprecisas, incompletas o fabricadas (fenómeno conocido como "alucinación").

6.2 Ausencia de Garantía

ChatSense NO garantiza la precisión, completitud, actualidad o adecuación de las respuestas generadas por IA para cualquier finalidad específica. Las respuestas de IA se proporcionan "tal como están" (as is), sin garantías expresas o implícitas.

6.3 No Constituye Asesoramiento Profesional

Las respuestas generadas por IA no constituyen asesoramiento profesional de ninguna naturaleza, incluyendo, pero sin limitarse a: asesoramiento médico, jurídico, financiero, tributario, contable o psicologico. Los clientes que operan en sectores regulados deben garantizar supervisión humana calificada.

6.4 Riesgos Conocidos

A pesar de los guardrails implementados, la IA puede ocasionalmente generar respuestas que sean:

• Factualmente incorrectas o desactualizadas
• Inconsistentes con la base de conocimiento configurada
• Inapropiadas aun con las salvaguardas activas
• Sesgadas o injustas (sesgo algoritmico)

ChatSense implementa guardrails y sistemas de seguridad para reducir (y no eliminar) estos riesgos. El cliente debe mantener supervisión humana activa y continua.

7. Supervisión Humana y Derecho a la Intervención

7.1 Mecanismos de Supervisión

• Sistema de escalamiento — La IA detecta palabras clave de escalamiento y transfiere automáticamente la conversación a agentes humanos
• Desactivación por agente — El administrador puede desactivar la IA para agentes individuales en cualquier momento
• Desactivación organizacional — El administrador puede desactivar toda la IA para la organización completa
• Toggle por conversación — Los agentes humanos pueden activar o desactivar la IA en cada conversación individualmente

7.2 Derechos del Titular bajo la LGPD

En conformidad con el art. 20 de la LGPD (Ley N.o 13.709/2018), el titular de datos personales tiene el derecho de solicitar la revisión humana de decisiones tomadas únicamente con base en tratamiento automatizado de datos personales que afecten sus intereses, incluyendo decisiones destinadas a definir su perfil personal, profesional, de consumo o de crédito.

7.3 Derechos bajo el GDPR

En conformidad con el art. 22 del GDPR (Reglamento UE 2016/679), los titulares de datos tienen el derecho de no ser sometidos a decisiones tomadas exclusivamente con base en procesamiento automatizado, incluyendo la definición de perfil, que produzca efectos jurídicos o que los afecte significativamente.

7.4 Auditabilidad

Cada interacción con IA se registra con contexto completo (entrada, salida, modelo, proveedor, latencia, tokens utilizados) en la pista de auditoría, permitiendo revisión e investigación posterior por administradores y, cuando sea aplicable, por autoridades reguladoras.

8. Sesgo, Equidad y No Discriminación

• El guardrail no_discrimination se activa por defecto y no puede ser deshabilitado, garantizando que las respuestas discriminatorias sean bloqueadas en todos los escenarios
• Reconocemos que los modelos de IA pueden reflejar sesgos presentes en los datos de entrenamiento de los proveedores de LLM
• ChatSense monitorea patrones discriminatorios e implementa medidas correctivas cuando se identifican
• Los clientes que identifiquen respuestas potencialmente discriminatorias o sesgadas deben reportarlo inmediatamente a contato@chatsense.app
• Como no entrenamos modelos con datos de clientes, los sesgos identificados provienen de los modelos de los proveedores upstream (Google, OpenAI), y ChatSense aplica guardrails para mitigarlos

9. Responsabilidades del Cliente (Implantador/Deployer)

Al utilizar los recursos de Inteligencia Artificial de ChatSense, el cliente asume las siguientes responsabilidades:

• Configurar los agentes de IA con prompts de sistema (system prompts) adecuados a su contexto de negocio
• Revisar y mantener las configuraciones de guardrails de acuerdo con su sector de actividad
• Mantener el sistema de escalamiento activado para garantizar intervención humana cuando sea necesario
• Monitorear las conversaciones de los agentes de IA regularmente
• Capacitar a los agentes humanos sobre supervisión y control de calidad de los sistemas de IA
• Informar a los usuarios finales de que están interactuando con un sistema de IA y no con un ser humano
• No deshabilitar guardrails de seguridad en sectores regulados (salud, financiero, jurídico)
• Cumplir con las regulaciones sectoriales de IA aplicables a su industria
• Reportar incidentes de seguridad de IA de manera oportuna, conforme lo descrito en la Sección 11

10. Limitación de Responsabilidad y Exenciones

10.1 ChatSense NO es responsable de:

• Precisión, completitud o actualidad del contenido generado por IA
• Decisiones tomadas por clientes o usuarios finales con base en respuestas de IA
• Perdidas, daños o perjuicios derivados de alucinaciones o respuestas incorrectas de la IA
• Multas, penalidades o sanciones regulatorias derivadas de las decisiones de implantación de IA del cliente
• Reclamaciones de usuarios finales sobre interacciones con IA
• Fallas del cliente en configurar los guardrails de forma adecuada
• Fallas del cliente en mantener supervisión humana sobre los agentes de IA

10.2 Asunción de Riesgo por el Cliente

El cliente asume íntegramente los riesgos relacionados con:

• Implantación de agentes de IA en el contexto de su negocio
• Contenido generado por agentes de IA configurados por el propio cliente
• Cumplimiento de regulaciones sectoriales de IA específicas de su industria
• Interacciones de los usuarios finales con los sistemas de IA

10.3 Límite Máximo de Responsabilidad

En cualquier caso, la responsabilidad total de ChatSense estará limitada al valor de los honorarios efectivamente pagados por el cliente en los últimos 3 (tres) meses anteriores al evento que dio origen a la reclamación.

10.4 Base Legal

Esta limitación de responsabilidad se fundamenta en el art. 14, párrafo 3 del Código de Defensa del Consumidor (exclusión de responsabilidad) y en los arts. 18 y 19 del Marco Civil da Internet (Ley N.o 12.965/2014), que establecen que el proveedor de aplicación no es responsable del contenido generado por terceros.

11. Incidentes de Seguridad de IA y Canal de Reporte

11.1 Canal de Reporte

Para reportar incidentes de seguridad relacionados con Inteligencia Artificial, comuniquese con:

Correo de Seguridad IA: seguranca-ia@chatsense.app

11.2 Que Constituye un Incidente de Seguridad de IA

• Generación de contenido perjudicial, ofensivo o peligroso por parte de la IA
• Filtración de datos personales o sensibles a través de respuestas de IA
• Respuestas discriminatorias, prejuiciosas o sesgadas
• Acciones no autorizadas ejecutadas por agentes de IA
• Falla sistemática en los guardrails de seguridad

11.3 Plazos de Respuesta

• Confirmación de recepción: hasta 24 horas después del reporte
• Investigación inicial: hasta 72 horas después del reporte

11.4 Remediación

Las acciones de remediación pueden incluir:

• Actualización de guardrails y salvaguardas de seguridad
• Cambio de modelos o proveedores de IA
• Endurecimiento de prompts (prompt hardening)
• Ajustes en las configuraciones de tono y seguridad

11.5 Transparencia

Los incidentes de seguridad de IA considerados materiales podrán ser divulgados en avisos de seguridad (security advisories), en conformidad con los principios de transparencia y responsabilidad.

Contacto

Para consultas sobre esta Política de Inteligencia Artificial:

ChatSense — VertexHub do Brasil Ltda
Correo general: contato@chatsense.app
Encargado de datos (DPO): privacidade@chatsense.app
Seguridad de IA: seguranca-ia@chatsense.app