Alfabetización en IA

La alfabetización en inteligencia artificial es la capacidad de entender cómo funcionan los sistemas de IA, cuáles son sus límites y cómo utilizarlos de forma consciente y responsable. De conformidad con el Reglamento (UE) 2024/1689 (Reglamento de IA), Qlara se compromete a facilitar a todos los usuarios la información necesaria para comprender y usar de forma informada las funciones de IA de la plataforma.

La plataforma integra sistemas de inteligencia artificial en las siguientes áreas:

Las funciones de IA de Qlara son herramientas de asistencia a la creación de contenidos y a la comunicación comercial.

Qlara se compromete a la máxima transparencia sobre el uso de la IA:

• Los contenidos generados por IA son identificables en la interfaz
• El usuario mantiene el control final: la plataforma está concebida para permitirte aprobar los contenidos antes de la publicación o del envío
• La plataforma permite identificar las respuestas del chatbot como generadas por un sistema automático; corresponde al usuario configurar y mantener esa información (por ejemplo en el mensaje de bienvenida o en la descripción del canal) para que sus propios clientes estén informados

Qlara adopta medidas contractuales y organizativas dirigidas a que los datos de los usuarios no se utilicen para entrenar modelos de IA de terceros. Las modalidades concretas de tratamiento pueden variar en función de los proveedores tecnológicos utilizados y de las configuraciones específicas de los servicios. Para las funciones de generación de texto y chatbot, Qlara utiliza principalmente modelos de inteligencia artificial de código abierto. Para la generación de imágenes y vídeos, Qlara recurre a proveedores terceros seleccionados, con los que el tratamiento de los datos se rige por acuerdos contractuales específicos que prevén, cuando procede, la prohibición de utilizar los datos con fines de entrenamiento de los modelos.

Es importante que los usuarios sean conscientes de los límites de los sistemas de IA:

• La IA puede generar contenidos imprecisos o no adecuados al contexto concreto
• Las sugerencias estratégicas se basan en patrones generales y no sustituyen al asesoramiento profesional
• Las imágenes generadas pueden contener artefactos visuales o imprecisiones
• El chatbot puede no entender correctamente peticiones complejas o ambiguas
• La IA puede reflejar los sesgos presentes en los datos de entrenamiento y producir contenidos distorsionados, estereotipados o poco inclusivos: conviene verificar los resultados antes de utilizarlos o publicarlos

Qlara está diseñada según el principio «human-in-the-loop»: la IA asiste y propone, el ser humano mantiene el control. Para los contenidos destinados a la publicación o al envío (textos, imágenes, publicaciones, emails), la plataforma está concebida para permitirte revisar y aprobar el resultado de la IA antes de la publicación: te invitamos a verificarlo siempre antes de hacerlo público. Para el chatbot, que funciona en tiempo real, el usuario configura previamente contexto, instrucciones y tono y puede prever mecanismos de escalado hacia un operador humano. El usuario puede desactivar las funciones de IA en cualquier momento desde los ajustes de su cuenta.

El Reglamento de IA distingue principalmente dos papeles. Por regla general Qlara actúa como proveedor y tú como responsable del despliegue, sin perjuicio de tu propia valoración del caso concreto. Saber qué papel te corresponde te ayuda a usar la plataforma de forma conforme.

Lo que te recomendamos, en pocos puntos:

• Verifica antes de publicar: relee textos e imágenes y comprueba hechos, cifras, precios y fechas
• Sé transparente: cuando un asistente automático responde a tus clientes, deja claro que se trata de un sistema automático
• No quites las etiquetas: mantén las indicaciones de contenido generado por inteligencia artificial donde estén presentes. La eliminación o alteración de etiquetas, marcas de agua o metadatos de procedencia de IA puede comprometer el cumplimiento de las obligaciones de transparencia previstas por el Reglamento de IA
• Protege los datos de tus contactos: trata los datos personales con una base válida y no introduzcas datos personales innecesarios
• Forma a quien colabora contigo: si varias personas usan la plataforma, asegúrate de que conocen estas reglas básicas. En particular, te recomendamos instruir a tus colaboradores sobre:
  • qué hacen y qué límites tienen las funciones de IA;
  • la necesidad de verificar siempre los contenidos generados antes de la publicación o del envío;
  • la necesidad de garantizar transparencia frente a sus propios clientes y la prohibición de quitar las etiquetas de los contenidos generados por IA;
  • cómo tratar correctamente los datos personales.
  Los materiales y las guías que Qlara pone a disposición pueden ayudarte en esta tarea, pero no sustituyen las medidas de formación y organización que siguen siendo de tu competencia. En todo caso, queda entendido que el cumplimiento de la obligación de alfabetización en IA y la responsabilidad por el uso de las funciones de IA por tu parte y por parte de tus colaboradores siguen correspondiéndote a ti como responsable del despliegue.

Ponemos a disposición guías prácticas y materiales para entender y aprovechar al máximo las funciones de IA de la plataforma Qlara. Para saber más puedes consultar el artículo Modelos de IA utilizados por Qlara (qué modelos usamos y con qué licencias) y la guía Uso consciente de la IA en Qlara en el Centro de Ayuda, o contactar con soporte.

¿La IA de Qlara puede inventar información falsa?

Sí, es posible. Los modelos de lenguaje pueden generar contenidos verosímiles pero inexactos (fenómeno conocido como «alucinación»). Por eso todo contenido generado debe ser verificado por el usuario antes de la publicación. Qlara no garantiza la exactitud factual de los textos generados por IA.

¿Puedo usar las conversaciones o las reseñas de los clientes para mejorar el chatbot?

Las funciones de aprendizaje a partir de las conversaciones, cuando estén disponibles, están sujetas a una elección consciente y activa por tu parte: te invitamos a comprobar y gestionar los ajustes correspondientes en tu cuenta. No se recomienda utilizar contenidos procedentes de fuentes externas (por ejemplo reseñas o comentarios en plataformas de terceros) como material de entrenamiento; si decides cargar esos materiales, sigues siendo responsable de la licitud de su reutilización y de su eventual anonimización. En todo caso, evita introducir datos personales innecesarios.

¿Debo avisar a mis clientes de que están hablando con un chatbot?

Sí. El Reglamento de IA exige que las personas sean informadas cuando interactúan con un sistema de IA. Qlara identifica automáticamente las respuestas del chatbot como generadas por IA, pero te recomendamos dejarlo claro también en el mensaje de bienvenida o en la descripción del canal.

¿Las imágenes generadas por IA están libres de derechos?

No de forma automática. Qlara no garantiza que las imágenes generadas estén libres de derechos de terceros; su uso está sujeto a los términos de servicio de la plataforma y, cuando proceda, a los términos de los proveedores de IA subyacentes. La IA puede además producir resultados que evoquen obras, estilos, marcas, logotipos o sujetos protegidos. Antes de cualquier uso o publicación, es responsabilidad del usuario (responsable del despliegue) verificar que los contenidos no vulneren derechos de terceros (por ejemplo derechos de autor, marcas, derechos de imagen o de retrato) y, si es necesario, obtener las autorizaciones requeridas. Ten en cuenta además que el resultado no es necesariamente único ni exclusivo: ante entradas idénticas o similares, el sistema puede generar resultados iguales o análogos, incluso para usuarios distintos. Qlara no garantiza la exclusividad ni la originalidad de los contenidos generados.

¿Qué pasa si el chatbot da una respuesta equivocada a un cliente mío?

Como responsable del despliegue, eres responsable del uso del chatbot frente a tus clientes. Te recomendamos supervisar periódicamente las conversaciones, configurar con cuidado el contexto y las instrucciones del chatbot, y prever siempre un canal de escalado hacia un operador humano para las peticiones más complejas.

¿De quién es la responsabilidad de los contenidos que publico?

La responsabilidad de los contenidos publicados a través de minisitios, landing pages, publicaciones, emails o canales sociales conectados sigue siendo tuya: debes utilizar la plataforma cumpliendo la normativa aplicable y verificar los contenidos antes de la publicación o del envío. Qlara pone a disposición las herramientas, pero no responde de los contenidos que decides publicar.

¿Qué modelos de IA utiliza Qlara?

Para la lista completa de los modelos utilizados, sus licencias y los proveedores, consulta el artículo dedicado Modelos de IA utilizados por Qlara en el Centro de Ayuda.

Quiero configurar el chatbot o las demás funciones de IA de Qlara: ¿a quién puedo dirigirme?

Para obtener ayuda sobre la configuración de las funciones de IA (por ejemplo el ajuste del contexto, las instrucciones y el tono del chatbot, la activación o desactivación de las funciones, la gestión de los contenidos generados), puedes consultar la guía dedicada Crea con Agent Studio en el Centro de Ayuda. Para las configuraciones más complejas, nuestro equipo técnico podrá darte indicaciones específicas.