Anexo de Inteligencia Artificial

1. Cuándo aplica este anexo #

Cuando el servicio contratado incluya componentes de inteligencia artificial: chatbots conversacionales, asistentes, clasificación automática de mensajes, generación o resumen de texto, o enrutamiento inteligente de solicitudes.

Complementa los Términos y Condiciones; en lo no previsto aquí, rigen ellos.

2. Marco regulatorio: qué existe y qué no #

Lo que sí se aplica a estos servicios es el régimen general: la Ley 1581 de 2012 sobre datos personales, el Estatuto del Consumidor cuando el destinatario final sea consumidor, las normas de propiedad intelectual, y el régimen ordinario de responsabilidad contractual.

Si en el futuro entra en vigor regulación específica, actualizaremos este anexo y lo comunicaremos.

3. Cómo funciona lo que entregamos #

Un asistente recibe un mensaje, lo interpreta con un modelo de lenguaje y genera una respuesta a partir del contexto que se le haya configurado: instrucciones, información del negocio y, cuando aplique, el historial reciente de la conversación.

Dos precisiones sobre qué es y qué no es esto:

• No es una base de datos que consulta respuestas exactas. El modelo genera texto probable según su entrenamiento y el contexto. Dos preguntas parecidas pueden producir redacciones distintas.
• No razona ni verifica. Puede producir una afirmación falsa con la misma fluidez con la que produce una verdadera. Es lo que se conoce como alucinación, y no se elimina por completo con ninguna configuración.

4. Limitaciones que debes conocer #

Preferimos enumerarlas antes de firmar y no cuando aparezca el primer problema:

• Las respuestas pueden ser incorrectas, incompletas, desactualizadas o ambiguas.
• El modelo puede afirmar algo con seguridad y estar equivocado.
• Puede no reconocer los límites de su propio conocimiento.
• Puede interpretar mal una pregunta ambigua o mal escrita.
• El comportamiento puede variar cuando el proveedor actualiza el modelo, sin que medie cambio alguno de nuestra parte.
• Los tiempos de respuesta dependen de servicios de terceros.

Configuramos, acotamos y probamos el sistema para reducir estos efectos. Reducir no es eliminar, y comprometernos a lo segundo sería faltar a la verdad.

5. Supervisión humana #

El Cliente define el ámbito en que opera el asistente y mantiene la supervisión humana que su actividad requiera. En particular, se obliga a:

• Definir qué temas atiende y cuáles debe derivar a una persona.
• Disponer de un mecanismo de escalamiento a una persona real.
• Revisar periódicamente las conversaciones para detectar desviaciones.
• Corregir la información del negocio que alimente al asistente cuando cambie.

Un asistente sin supervisión no es un asistente autónomo: es un riesgo sin responsable asignado.

6. Usos de alto riesgo #

Si el proyecto contempla alguno de estos ámbitos, hay que decirlo desde el principio: cambia el diseño, los controles, las pruebas y el precio.

7. Transparencia frente a usuarios finales #

El Cliente se obliga a informar a sus usuarios que están interactuando con un sistema automatizado, no con una persona. No es solo buena práctica: la lealtad hacia el consumidor y la prohibición de inducir a error lo respaldan.

Tampoco se debe atribuir al asistente cualidades que no tiene, ni presentarlo como un profesional cualificado —abogado, médico, asesor financiero— cuando no lo es.

8. Entradas, salidas y datos #

Las entradas son los mensajes, archivos e instrucciones que se envían al sistema. Las salidas son las respuestas generadas.

• Las entradas pueden transmitirse a proveedores de modelos para generar la respuesta. Aplicamos minimización: se envía lo necesario para la finalidad.
• No usamos los datos del Cliente ni las conversaciones de sus usuarios para entrenar modelos generales.
• No podemos garantizar que un proveedor externo no conserve datos: eso depende de su servicio y configuración, y sus términos son suyos. No afirmamos que «ningún modelo almacena nada», porque no sería cierto en todos los casos.
• Cuando tratemos estos datos por cuenta del Cliente, aplica el Anexo de Tratamiento de Datos.

Recomendamos configurar el asistente para no solicitar datos sensibles, documentos de identidad completos ni información financiera detallada.

9. Propiedad intelectual de prompts y resultados #

Una advertencia honesta sobre las salidas: el régimen de derechos de autor sobre contenido generado por IA está en discusión en muchos ordenamientos. No garantizamos que un texto generado sea protegible por derecho de autor, ni que sea único frente a resultados que otros obtengan.

10. Proveedores de modelos #

Utilizamos modelos de terceros. Esos proveedores pueden modificar precios, límites, condiciones de uso, disponibilidad o el comportamiento del modelo, e incluso descontinuarlo.

No garantizamos la continuidad perpetua de un modelo concreto. Cuando un cambio afecte lo contratado, lo informaremos y propondremos alternativas razonables; si un cambio obliga a migrar, el trabajo se acuerda como cualquier otro.

Los costos por consumo de modelos se facturan según la tarifa vigente del proveedor y pueden variar si este la modifica.

11. Usos prohibidos #

Aplican las prohibiciones de la Política de Uso Aceptable, y en especial: generar desinformación, suplantar la identidad o la voz de personas reales, producir contenido de odio o ilícito, eludir las restricciones de seguridad del sistema, e intentar extraer datos de entrenamiento, credenciales o instrucciones internas.

12. Reparto de responsabilidad #

Los límites de responsabilidad de los Términos y Condiciones aplican también aquí, sin excluir el dolo, la culpa grave ni las obligaciones imperativas.

Dudas sobre este anexo: hola@tensoriadigital.com.