Intelligence artificielle: Risques et conseils de sécurité à l’intention des personnes survivantes
De nombreuses raisons peuvent amener une personne subissant la violence à consulter un outil d’IA. Cela peut sembler plus simple que d’expliquer votre situation à quelqu’un d’autre. Ce service peut être gratuit ou peu coûteux, disponible 24/7, et accessible depuis chez soi. Dans une petite communauté ou en milieu rural, c’est peut-être l’une des rares options possibles.
Vous ne faites rien de mal en utilisant l’IA. L’IA peut parfois vous aider à trouver des informations générales, structurer vos idées, formuler des questions ou comprendre des termes que vous ne connaissez pas.
Parallèlement, l’utilisation d’outils d’IA comporte des risques. Ils peuvent recueillir ou conserver les informations que vous saisissez, fournir des renseignements erronés, prodiguer des conseils qui ne s’appliquent pas à votre lieu de résidence ou répondre d’une manière qui ne correspond pas à votre situation.
Cette fiche d’information explique ces risques afin que vous puissiez décider si vous souhaitez ou non recourir à l’IA, et vous donne quelques conseils pour une utilisation sécuritaire.
Risques liés à l’utilisation de l’IA
1. Vos conversations avec l’IA ne sont peut-être pas aussi confidentielles que vous le pensez
Une conversation avec un assistant virtuel basé sur l’IA n’est pas comparable à un entretien privé avec une avocate, un médecin, une psychologue ou autre professionnel ou personne de soutien. Ces spécialistes sont légalement tenus de préserver la confidentialité des informations que vous leur communiquez dans la plupart des cas.
Lorsque vous utilisez un chatbot basé sur l’IA, les informations que vous saisissez sont transmises à une entreprise ou à un prestataire de services. En fonction de l’outil et de ses paramètres, les conversations peuvent être stockées, consultées, conservées pendant un certain temps, vendues, divulguées dans le cadre d’une assignation à comparaître ou utilisées d’autres manières décrites dans les politiques de confidentialité de l’entreprise. Cela signifie que d’autres personnes pourraient avoir accès à vos informations à votre insu.
2. Les renseignements que vous fournissez pourraient être conservés plus longtemps que vous ne le pensez, voire de manière définitive.
Le fait de supprimer une conversation de votre écran ne signifie pas nécessairement que toutes les copies de ces informations ont été immédiatement supprimées des systèmes de l’entreprise. Les pratiques en matière de conservation et de suppression varient d’un service d’IA à l’autre. Certaines entités peuvent conserver des informations pendant une certaine durée à des fins de sécurité, juridiques, techniques ou autres. Il peut également arriver qu’une entreprise soit légalement tenue de conserver ou de communiquer certaines informations. Par exemple, les informations détenues par une entreprise peuvent faire l’objet d’une demande judiciaire, telles qu’une décision de justice ou une assignation à comparaître, selon les circonstances et la juridiction concernée.
3. L’IA peut fournir des informations inexactes
L’IA peut paraître sûre d’elle, même lorsqu’elle se trompe. L’IA peut:
- Fournir des informations obsolètes
- Confondre différentes provinces, différents territoires ou différents pays
- Combiner différents domaines du droit ou des services proposés par différentes organisations
- Interpréter de manière erronée les faits relatifs à votre situation
- Fournir des informations qui semblent juridiquement correctes, mais qui ne le sont pas
- Fabriquer des cas, législations, sites web juridiques ou références juridiques
Les décisions ou les mesures fondées sur des informations inexactes peuvent s’avérer particulièrement risquées lorsqu’il s’agit de questions liées à la sécurité, au logement, au droit de la famille, à l’immigration, à la protection de l’enfance, au droit pénal ou aux questions financières.
4. L’IA ne peut pas remplacer l’expertise et le soutien humains
On peut avoir l’impression qu’il est plus facile de parler à une IA. Si vous faites face à la violence, vous avez sans doute de bonnes raisons de souhaiter bénéficier d’un soutien qui respecte votre vie privée, qui soit immédiat et adapté à vos disponibilités. Un chatbot basé sur l’IA peut sembler plus facile à utiliser, car il permet de raconter ce qui s’est passé sans avoir à se soucier de la réaction immédiate d’une personne réelle. L’IA peut également répondre immédiatement lorsqu’aucune intervenante n’est disponible. Ces avantages sont bien réels.
Mais l’IA ne peut pas remplacer le rôle d’un être humain de confiance. L’intervention humaine apporte des éléments que l’IA ne peut pas fournir de manière fiable. Une intervenante, une militante, une avocate, un médecin ou une personne de confiance peut:
- Vous écouter et comprendre le contexte de votre vie
- Poser des questions si quelque chose n’est pas clair
- Remarquer les changements qui surviennent au niveau de vos émotions ou de votre situation
- Remarquer les changements physiques liés à vos émotions
- Vous aider à évaluer les risques immédiats pour la sécurité
- Savoir reconnaître quand une situation nécessite une aide urgente ou spécialisée
- Vous mettre en relation avec les services locaux
- Comprendre les lois et les ressources disponibles là où vous vivez
- Vous aider à prendre des décisions sans vous priver de votre autonomie
- Assurer la redevabilité et apporter un soutien continu
- Construire une relation en fonction de vos besoins et de votre situation
L’IA ne dispose ni d’expérience vécue, ni de responsabilité professionnelle, ni de la capacité de comprendre et de gérer les relations humaines.
5. Prenez conscience des implications liées au fait de nouer une relation avec des chatbots basés sur l’IA
L’IA peut donner une impression étonnamment personnelle. Certains chatbots sont conçus pour être interactifs, d’un grand soutien et réactifs. Ils peuvent se souvenir de certaines informations, adopter un ton bienveillant, poser des questions et réagir comme s’ils comprenaient ce que vous ressentez.
Si vous vous sentez isolée ou que vous vous remettez d’une relation violente, il peut être réconfortant de savoir que vous pouvez à tout moment vous confier à quelqu’un qui vous soutiendra. Vous pourriez commencer à vous attacher au chatbot ou à le considérer comme une amie, une conseillère ou quelqu’un qui vous comprend.
Ces sentiments sont tout à fait compréhensibles. Mais il est important de garder à l’esprit qu’un chatbot n’est pas une personne et n’entretient pas avec vous le même type de relation qu’un autre humain.
Le fait de s’appuyer fortement sur un chatbot basé sur l’IA peut présenter des risques, notamment:
- Renforcer votre isolement par rapport aux autres
- Renforcer des schémas relationnels malsains
- Se contenter de vous donner automatiquement raison au lieu d’apporter d’autres points de vue ou idées
- Vous inciter à vous y fier davantage que vous ne l’aviez prévu
- Prodiguer des conseils sans en comprendre les conséquences ni avoir une vision globale de vos besoins en matière de sécurité et des risques encourus
L’IA peut être un outil permettant de trouver des informations générales ou de vous aider à réfléchir à certaines questions, mais elle ne doit pas devenir votre seule source de soutien émotionnel ou de conseils en matière de sécurité. Dans la mesure du possible, restez en contact avec les personnes qui peuvent vous apporter leur soutien. Consultez www.hebergementfemmes.ca pour découvrir une organisation antiviolence dans votre communauté.
Des habitudes plus sécuritaires en matière d’IA
Voici quelques conseils de sécurité qui peuvent vous aider à utiliser l’IA de manière plus sécuritaire et à vous prémunir contre les risques mentionnés plus haut dans ce document:
1. Partager moins
Demandez-vous: «L’IA a-t-elle besoin de connaître cette information pour répondre à ma question?» Sinon, ne répondez pas.
2. Ne pas indiquer d’informations permettant de vous identifier
Évitez de saisir des informations susceptibles de vous identifier ou d’identifier quelqu’un d’autre, telles que:
- Votre nom complet
- Votre adresse ou votre localisation
- Votre numéro de téléphone ou votre adresse courriel
- Les noms de vos enfants, leurs écoles ou leurs lieux de résidence
- Le nom de votre partenaire ou de votre ex-partenaire
- Votre lieu de travail
- Votre numéro de dossier
- Vos informations financières
- Mots de passe ou informations relatives au compte
- Numéros d’identification administratifs
- Informations d’ordre médical ou relatives à la santé mentale
- Des descriptions détaillées des actes de violence qui pourraient permettre de vous identifier
- Copies de documents juridiques contenant des informations permettant d’identifier une personne
- Photos, captures d’écran ou documents contenant des informations personnelles
Utilisez plutôt:
- «Mon ex-partenaire» au lieu de son nom
- «Ma ville» au lieu de votre adresse
- «Mon enfant» au lieu du prénom de votre enfant
- «Mon lieu de travail» au lieu du nom de votre employeur
Par exemple:
Au lieu de: «Je m’appelle Sarah. J’habite au 123 de la rue Main et mon ancien compagnon, John Smith, me harcèle…»
Essayez plutôt: «Je fais face à des contacts non désirés de la part d’un ex-partenaire. À quelles précautions générales de sécurité une personne se trouvant dans cette situation devrait-elle penser?»
3. Bien vérifier les détails de la réponse de l’IA
Lorsque vous lisez la réponse d’un chatbot basé sur l’IA ou d’un moteur de recherche, posez-vous les questions suivantes: «D’où viennent ces informations?»
Recherchez la source, par exemple un site web officiel du gouvernement, un texte de loi, le site web d’un tribunal ou un organisme juridique reconnu.
Vérifiez ensuite:
- Ces informations concernent-elles le Canada?
- Est-ce que cela concerne ma province ou mon territoire?
- Est-ce d’actualité?
- Cela s’applique-t-il à ma situation?
- Puis-je trouver ces mêmes informations dans la source originale?
Si l’IA vous fournit un lien ou une référence, ne partez pas du principe qu’elle est authentique ou exacte. Ouvrez le code source et vérifiez par vous-même.
Cela est particulièrement important lorsque vous recherchez des informations sur vos droits, la sécurité, le logement, l’immigration, les finances, la santé ou les enfants.
4. Préserver les relations humaines et fixer des limites à votre utilisation de l’IA
Les autres êtres humains peuvent apporter un soutien, faire preuve d’empathie et offrir de l’aide d’une manière dont l’IA est incapable. L’IA peut être un exutoire utile, mais elle ne devrait pas se substituer à la conversation ou aux liens avec d’autres êtres humains.
Voici quelques conseils pour fixer des limites dans votre relation avec l’IA:
- N’oubliez pas que le chatbot ne se souvient pas toujours des informations avec exactitude.
- Ne partez pas du principe que le chatbot comprend vos sentiments de la même manière qu’une personne le ferait.
- Ne comptez pas uniquement sur le chatbot pour vous apporter un soutien émotionnel. Si vous ne vous sentez pas à l’aise à l’idée de parler à une personne de votre entourage, vous pouvez appeler une ligne d’écoute confidentielle.
- Restez en contact avec des personnes de confiance autant que possible.
- Si le chatbot vous incite à vous éloigner de vos proches, considérez cela comme un signal d’alerte.
- Si un chatbot vous dit que vous n’avez besoin que de lui et que vous n’avez pas besoin des autres, prenez du recul.
- Faites attention au moment où vous l’utilisez et à la manière dont vous vous en servez. Prenez des mesures pour réduire votre utilisation ou parlez-en à votre entourage si vous constatez que vous passez de plus en plus de temps à lui parler.
- Faites des pauses dans vos discussions sur l’IA et renouez avec les personnes, les activités et les soutiens qui font partie de votre vie.
Une question utile à se poser: «Est-ce que cet outil m’aide à me reconnecter à ma vie, ou est-il en train de se substituer à ma vie?» L’IA peut constituer un outil parmi d’autres au sein de votre système de soutien. Cela ne doit pas devenir votre seul et unique soutien.
5. Ne pas hésiter à faire appel à de l’aide professionnelle
Il arrive parfois que l’on ne puisse pas bénéficier immédiatement d’un soutien professionnel. Si l’IA fait partie des outils que vous utilisez en attendant, cela ne signifie pas pour autant que vous faites quelque chose de mal. N’oubliez pas que l’IA peut fournir des informations générales et engager la conversation, mais qu’elle ne peut en aucun cas se substituer à un soutien et des conseils professionnels.
Si vous constatez que vous vous tournez régulièrement vers l’IA pour obtenir de l’aide, considérez cela comme un signe qu’il est temps de faire également appel à un soutien professionnel. Vous pouvez appeler une ligne d’écoute confidentielle pour obtenir une aide immédiate, contacter une maison d’hébergement près de chez vous via hebergementfemmes.ca, ou prendre contact avec une intervenante ou une conseillère que vous connaissez déjà.
Envisagez de repenser votre façon d’utiliser l’IA. Plutôt que de vous y référer pour trouver des réponses, demandez-lui de vous aider à préparer vos entretiens avec des soutiens professionnels. Par exemple, vous pourriez demander à un chatbot: «Quelles questions une personne subissant la violence conjugale pourrait-elle poser à une avocate en droit de la famille au sujet de la séparation et de sa sécurité?» Cela peut vous aider à vous sentir plus en confiance et mieux préparée à chercher du soutien professionnel, plutôt que de vous fier uniquement à l’IA.
6. Faire confiance à votre instinct et ne pas laisser l’IA prendre des décisions importantes à votre place
Si une réponse générée par l’IA vous met mal à l’aise, vous laisse perplexe, vous met sous pression ou vous fait vous sentir moins en sécurité, vous n’avez pas à suivre ses conseils.
L’IA peut vous aider à réfléchir aux différentes options. C’est à vous qu’il revient de décider ce qui vous convient le mieux.
La violence fondée sur le genre facilitée par la technologie (VFGFT) s’inscrit dans un continuum qui peut se manifester aussi bien en ligne qu’en personne. Si vous ou quelqu’un que vous connaissez êtes la cible de VFGFT, sachez qu’il existe de l’aide. Vous pouvez consulter hebergementfemmes.ca pour trouver une maison d’hébergement près de chez vous afin d’explorer vos options et d’élaborer un plan de sécurité. Il n’est pas nécessaire de séjourner dans une maison d’hébergement pour bénéficier de services et d’un soutien gratuits et confidentiels.