Une IA qui répond à vos appels doit-elle dire qu'elle est une IA?

Les gens demandent. Pas souvent, mais ils demandent. « Est-ce que je parle à une vraie personne? » La réponse tentante pour un produit vocal est d'esquiver. La nôtre est de dire oui à la question et non à l'esquive : Eva dit à l'appelant qu'elle est une assistante virtuelle. Cet article explique pourquoi, et ce que la loi exige jusqu'ici.

La loi californienne sur les robots

Le Bolstering Online Transparency Act de la Californie, SB 1001, est en vigueur depuis le 1er juillet 2019. Il rend illégal d'utiliser un robot pour communiquer avec une personne en Californie avec l'intention de la tromper sur son identité artificielle afin d'encourager un achat ou d'influencer un vote. L'issue est une divulgation claire, visible et raisonnablement conçue pour informer la personne qu'elle a affaire à un robot. La loi est écrite pour la communication en ligne et appliquée par le procureur général; il n'y a pas de droit privé de poursuite.

La FCC et les voix IA

Le 8 février 2024, la Federal Communications Commission a rendu une décision déclaratoire selon laquelle les voix générées par IA comptent comme « artificielles » sous le Telephone Consumer Protection Act. En clair, un appel sortant qui utilise une voix synthétique est traité comme un appel automatisé préenregistré : il faut le consentement exprès préalable du destinataire, l'appelant doit s'identifier, et il doit y avoir un moyen de se désabonner. La décision est venue un mois après qu'une voix clonée du président a servi à des appels automatisés avant la primaire du New Hampshire.

Cette décision porte sur les appels sortants vers des personnes aux États-Unis. Elle ne dit pas à une assistante entrante quoi dire quand quelqu'un appelle un plombier. Mais c'est le signal le plus clair à ce jour de la direction des régulateurs : les gens ont le droit de savoir quand ils entendent une machine.

Le Canada

Le Canada n'a pas de loi propre sur la divulgation des robots au moment d'écrire ces lignes. Les entreprises restent liées par la loi sur la protection des renseignements personnels, la LPRPDE, et par les règles du CRTC sur les télécommunications non sollicitées, qui exigent que les appelants s'identifient et limitent les appels aux personnes qui n'ont pas fait affaire avec vous. Rien de tout ça ne mentionne les voix synthétiques. Ça n'a pas non plus besoin de le faire, pour la même raison que la loi californienne existe : se faire passer pour une personne pour conclure une vente était déjà une mauvaise idée.

Ce qu'on fait

• Eva répond en tant qu'Eva. Si on lui demande directement si elle est une personne ou une IA, elle dit qu'elle est une assistante virtuelle pour l'entreprise.
• Max rappelle des gens qui ont demandé une soumission à l'entreprise. Il dit pour qui il appelle et pourquoi dès la première phrase, et il arrête si on le lui demande.
• Chaque appel est enregistré, et l'appelant en est informé. Le consentement reste avec l'enregistrement.

L'honnêteté ici n'est pas un coût de conformité. Un appelant qui découvre plus tard que la sympathique réceptionniste était une machine s'est fait mentir par votre entreprise. Personne ne réserve la réfection de toiture avec une entreprise qui lui a menti au premier appel.