Culture de l’IA

La culture de l’intelligence artificielle, c’est la capacité de comprendre comment fonctionnent les systèmes d’IA, quelles sont leurs limites et comment les utiliser de manière éclairée et responsable. Conformément au règlement (UE) 2024/1689 (règlement sur l’IA), Qlara s’engage à fournir à tous les utilisateurs les informations nécessaires pour comprendre et utiliser en connaissance de cause les fonctionnalités d’IA de la plateforme.

La plateforme intègre des systèmes d’intelligence artificielle dans les domaines suivants :

Les fonctionnalités d’IA de Qlara sont des outils d’aide à la création de contenus et à la communication commerciale.

Qlara s’engage à la plus grande transparence sur son utilisation de l’IA :

• Les contenus générés par l’IA sont identifiables dans l’interface
• L’utilisateur garde le contrôle final : la plateforme est conçue pour vous permettre de valider les contenus avant leur publication ou leur envoi
• La plateforme permet d’identifier les réponses du chatbot comme générées par un système automatique ; il revient à l’utilisateur de configurer et de maintenir cette information (par exemple dans le message d’accueil ou la description du canal) afin que ses propres clients en soient informés

Qlara met en place des mesures contractuelles et organisationnelles visant à ce que les données des utilisateurs ne soient pas utilisées pour entraîner des modèles d’IA de tiers. Les modalités concrètes de traitement peuvent varier selon les fournisseurs technologiques utilisés et les configurations spécifiques des services. Pour la génération de texte et le chatbot, Qlara utilise principalement des modèles d’intelligence artificielle open source. Pour la génération d’images et de vidéos, Qlara fait appel à des fournisseurs tiers sélectionnés, avec lesquels le traitement des données est encadré par des accords contractuels spécifiques prévoyant, le cas échéant, l’interdiction d’utiliser les données à des fins d’entraînement des modèles.

Il est important que les utilisateurs soient conscients des limites des systèmes d’IA :

• L’IA peut générer des contenus imprécis ou inadaptés au contexte particulier
• Les suggestions stratégiques reposent sur des schémas généraux et ne remplacent pas un conseil professionnel
• Les images générées peuvent contenir des artefacts visuels ou des imprécisions
• Le chatbot peut ne pas comprendre correctement des demandes complexes ou ambiguës
• L’IA peut refléter les biais présents dans les données d’entraînement et produire des contenus déformés, stéréotypés ou peu inclusifs : il convient de vérifier les résultats avant de les utiliser ou de les publier

Qlara est conçue selon le principe « human-in-the-loop » : l’IA assiste et propose, l’humain garde le contrôle. Pour les contenus destinés à la publication ou à l’envoi (textes, images, publications, emails), la plateforme est conçue pour vous permettre de relire et de valider le résultat de l’IA avant la publication : nous vous invitons à toujours le vérifier avant de le rendre public. Pour le chatbot, qui fonctionne en temps réel, l’utilisateur configure au préalable le contexte, les instructions et le ton et peut prévoir des mécanismes de transfert vers un opérateur humain. L’utilisateur peut désactiver les fonctionnalités d’IA à tout moment depuis les paramètres de son compte.

Le règlement sur l’IA distingue principalement deux rôles. En règle générale, Qlara agit comme fournisseur et vous comme déployeur, sous réserve de votre propre appréciation du cas concret. Savoir quel rôle vous revient vous aide à utiliser la plateforme de manière conforme.

Ce que nous vous recommandons, en quelques points :

• Vérifiez avant de publier : relisez les textes et les images et contrôlez les faits, les chiffres, les prix et les dates
• Soyez transparent : lorsqu’un assistant automatique répond à vos clients, faites comprendre qu’il s’agit d’un système automatique
• Ne retirez pas les mentions : conservez les indications de contenu généré par intelligence artificielle là où elles figurent. Le retrait ou l’altération des mentions, filigranes ou métadonnées de provenance IA peut compromettre le respect des obligations de transparence prévues par le règlement sur l’IA
• Protégez les données de vos contacts : traitez les données personnelles sur une base valable et n’introduisez pas de données personnelles inutiles
• Formez ceux qui travaillent avec vous : si plusieurs personnes utilisent la plateforme, assurez-vous qu’elles connaissent ces règles de base. En particulier, nous vous recommandons d’informer vos collaborateurs sur :
  • ce que font les fonctionnalités d’IA et quelles sont leurs limites ;
  • la nécessité de toujours vérifier les contenus générés avant la publication ou l’envoi ;
  • la nécessité d’assurer la transparence vis-à-vis de leurs propres clients et l’interdiction de retirer les mentions des contenus générés par l’IA ;
  • comment traiter correctement les données personnelles.
  Les supports et les guides mis à disposition par Qlara peuvent vous aider dans cette démarche, mais ils ne remplacent pas les mesures de formation et d’organisation qui restent de votre ressort. Il demeure en tout état de cause entendu que le respect de l’obligation de culture de l’IA et la responsabilité de l’usage des fonctionnalités d’IA par vous et vos collaborateurs vous incombent en qualité de déployeur.

Nous mettons à disposition des guides pratiques et des supports pour comprendre et tirer le meilleur parti des fonctionnalités d’IA de la plateforme Qlara. Pour aller plus loin, vous pouvez consulter l’article Modèles d’IA utilisés par Qlara (quels modèles nous utilisons et sous quelles licences) et le guide Un usage éclairé de l’IA dans Qlara dans le Centre d’aide, ou contacter le support.

L’IA de Qlara peut-elle inventer des informations fausses ?

Oui, c’est possible. Les modèles de langage peuvent générer des contenus plausibles mais inexacts (phénomène connu sous le nom d’« hallucination »). C’est pourquoi tout contenu généré doit être vérifié par l’utilisateur avant la publication. Qlara ne garantit pas l’exactitude factuelle des textes générés par l’IA.

Puis-je utiliser les conversations ou les avis des clients pour améliorer le chatbot ?

Les éventuelles fonctions d’apprentissage à partir des conversations, lorsqu’elles sont disponibles, sont soumises à un choix conscient et actif de votre part : nous vous invitons à vérifier et à gérer les paramètres correspondants dans votre compte. L’utilisation de contenus provenant de sources externes (par exemple des avis ou des commentaires sur des plateformes tierces) comme matériel d’entraînement est déconseillée ; si vous décidez de charger de tels supports, vous restez responsable de la licéité de leur réutilisation et de leur éventuelle anonymisation. Dans tous les cas, évitez d’introduire des données personnelles inutiles.

Dois-je prévenir mes clients qu’ils parlent à un chatbot ?

Oui. Le règlement sur l’IA exige que les personnes soient informées lorsqu’elles interagissent avec un système d’IA. Qlara identifie automatiquement les réponses du chatbot comme générées par l’IA, mais nous vous conseillons de le préciser aussi dans le message d’accueil ou dans la description du canal.

Les images générées par l’IA sont-elles libres de droits ?

Pas automatiquement. Qlara ne garantit pas que les images générées soient libres de droits de tiers ; leur utilisation est soumise aux conditions de service de la plateforme et, le cas échéant, aux conditions des fournisseurs d’IA sous-jacents. L’IA peut en outre produire des résultats évoquant des œuvres, des styles, des marques, des logos ou des personnes protégés. Avant toute utilisation ou publication, il appartient à l’utilisateur (déployeur) de vérifier que les contenus ne portent pas atteinte aux droits de tiers (par exemple droit d’auteur, marques, droit à l’image) et, si nécessaire, d’obtenir les autorisations requises. Gardez également à l’esprit que le résultat n’est pas nécessairement unique ni exclusif : à partir d’entrées identiques ou similaires, le système peut générer des résultats identiques ou analogues, y compris pour des utilisateurs différents. Qlara ne garantit ni l’exclusivité ni l’originalité des contenus générés.

Que se passe-t-il si le chatbot donne une mauvaise réponse à un de mes clients ?

En qualité de déployeur, vous êtes responsable de l’usage du chatbot auprès de vos clients. Nous vous conseillons de surveiller périodiquement les conversations, de configurer avec soin le contexte et les instructions du chatbot, et de toujours prévoir un canal de transfert vers un opérateur humain pour les demandes les plus complexes.

À qui revient la responsabilité des contenus que je publie ?

La responsabilité des contenus publiés via des mini-sites, des landing pages, des publications, des emails ou des canaux sociaux connectés reste la vôtre : vous devez utiliser la plateforme dans le respect de la réglementation applicable et vérifier les contenus avant leur publication ou leur envoi. Qlara met les outils à disposition, mais ne répond pas des contenus que vous choisissez de publier.

Quels modèles d’IA Qlara utilise-t-elle ?

Pour la liste complète des modèles utilisés, leurs licences et les fournisseurs, consultez l’article dédié Modèles d’IA utilisés par Qlara dans le Centre d’aide.

Je veux configurer le chatbot ou les autres fonctionnalités d’IA de Qlara : à qui m’adresser ?

Pour de l’aide sur la configuration des fonctionnalités d’IA (par exemple le réglage du contexte, des instructions et du ton du chatbot, l’activation ou la désactivation des fonctions, la gestion des contenus générés), vous pouvez consulter le guide dédié Créer avec Agent Studio dans le Centre d’aide. Pour les configurations plus complexes, notre équipe technique pourra vous donner des indications dédiées.