4 leyes que debes conocer si usas inteligencia artificial en atención al cliente

Nivel: Intermedio

Las herramientas que empleamos cotidianamente en el contact center están comenzando a integrar Inteligencia Artificial (IA) de manera progresiva. A pesar de que esta tecnología aún se encuentra en desarrollo, ya es evidente que va a transformar la forma en que opera el sector.

Los casos de uso que se han implementado hasta ahora demuestran el enorme potencial de la IA. Incluso en sus etapas iniciales, ya es posible realizar tareas significativas, como solicitar a un bot la elaboración de un informe sobre la evaluación del desempeño de un agente en una llamada específica, o permitir que un agente lleve a cabo una conversación en un idioma que desconoce mediante la traducción simultánea.

Y esto es solo el comienzo. Esta tecnología permite ejecutar en segundos tareas que a un ser humano le llevarían toda una vida. Por ejemplo, analizar todo el historial de conversaciones y todos los KPIs del contact center para detectar patrones de consultas o clasificar automáticamente todos los chats según el grado de satisfacción del cliente.

Quienes valoren estos resultados no tardarán en comprender que el camino hacia una experiencia de cliente insuperable y una mejor (y necesaria) experiencia de agente pasa inevitablemente por la adopción de la Inteligencia Artificial.

De hecho, el momento para innovar y adoptar esta tecnología es ahora. Como indica el informe de Gartner, el 60% de los responsables del contact center quiere adoptar soluciones de IA para su equipo. Sin embargo, este estudio también destaca la preocupación de los consumidores respecto a la posible pérdida de una atención al cliente personalizada y humana.

Por ello, es crucial utilizar la IA de manera responsable y en cumplimiento con la normativa legal vigente. Aunque es una tecnología emergente, ya existen cuatro leyes clave que regulan su uso y en este post te las resumimos:

1. REGLAMENTO GENERAL DE LA PROTECCIÓN DE DATOS (RGPD)

Todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado […] que produzca efectos jurídicos en él o le afecte significativamente de modo similar.

Decisiones individuales automatizadas | art. 22

Es esencial proteger a los consumidores de decisiones automáticas que puedan tener repercusiones importantes en sus vidas, como es el caso de la aprobación de créditos, la gestión de reclamaciones de seguros o la distribución de ayudas sociales.

En lugar de automatizar estos procesos donde la moral y la ética son primordiales, es mejor aprovechar la inteligencia artificial para brindar apoyo en otras áreas. Por ejemplo, puede utilizarse para automatizar la respuesta a preguntas sobre plazos de una solicitud, documentación requerida, etc.

O también configurarse para detectar consultas sensibles y dirigir la conversación al mejor agente disponible. Lo bueno de la IA es que es capaz de llevar un chat a una llamada con mucha fluidez.

Es importante recordar que no cumplir con esta normativa puede conllevar multas significativas, que alcanzan hasta los 20 millones de euros o el 4% de la facturación anual.

2. LEY DE INTELIGENCIA ARTIFICIAL

Los proveedores garantizarán que los sistemas de IA destinados a interactuar directamente con personas físicas se diseñen y desarrollen de forma que las personas físicas afectadas sean informadas de que están interactuando con un sistema de IA, salvo que ello resulte obvio […] teniendo en cuenta las circunstancias y el contexto de uso.

Obligaciones de transparencia de ciertos sistemas de IA | art. 50

Es responsabilidad de las empresas informar a los usuarios cuando están interactuando con un asistente virtual, cuando sus emociones están siendo evaluadas a través de análisis de sentimientos, o cuando el contenido ha sido creado o alterado mediante inteligencia artificial.

Ser transparente no solo nos evitará multas que ascienden a 10 millones de euros o el 2% de la facturación global, sino que es el camino hacia una relación donde predomina la confianza y la ética.

3. REGLAMENTO DE SERVICIOS DIGITALES

Los prestadores de servicios intermediarios incluirán en sus condiciones generales información sobre cualquier restricción que impongan en relación con el uso de su servicio respecto de la información proporcionada por los destinatarios del servicio. Esta información deberá incluir datos sobre cualesquiera políticas, […] incluidas la toma de decisiones mediante algoritmos y la revisión humana, así como sobre las normas de procedimiento de su sistema interno de gestión de reclamaciones.

Condiciones generales | art. 14

Los prestadores de plataformas en línea de muy gran tamaño y los motores de búsqueda en línea de muy gran tamaño detectarán, analizarán y evaluarán con diligencia cualquier riesgo sistémico en la Unión que se derive del diseño o del funcionamiento de su servicio y los sistemas relacionados con este, incluidos los sistemas algorítmicos, o del uso que se haga de sus servicios.

Evaluación de riegos | art. 34

Los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño se someterán, a su propia costa y al menos una vez al año, a auditorias independientes para evaluar el cumplimiento de […] las obligaciones del capítulo III.

Auditoría independiente | art. 37

Esta normativa a nivel europeo requiere distintas cosas según el tamaño de empresa. Por un lado, todos los e-commerce que usen algoritmos de IA tienen que especificarlo en sus condiciones generales.

Por el otro, empresas online de gran tamaño deberán poder analizar el funcionamiento de sus algoritmos a través de un panel de control y llevar a cabo auditorias anuales.

Realizar estas modificaciones y asegurarnos de que podemos hacer reportes sobre la performance de nuestro bot nos evitará multas del 6% de la facturación anual global.

4. PROYECTO DE LEY DE SERVICIOS DE ATENCIÓN A LA CLIENTELA

Se prohíbe el empleo de contestadores automáticos u otros medios análogos como medio exclusivo de atención a la clientela.

[…] la utilización de contestadores automáticos, bots conversacionales, u otros medios análogos deberá prever la posibilidad de solicitar, por parte de la clientela, una atención personalizada en cualquier momento de la interacción.

Atención personalizada | art. 8

Esta ley garantiza el derecho de los usuarios a recibir atención humana cuando lo soliciten. Sin embargo, los agentes también necesitan priorizar las consultas más urgentes y delicadas, especialmente en momentos de alta demanda.

Por eso, la combinación de talento humano e inteligencia artificial es clave para ofrecer una atención eficiente y equilibrada. Si definimos muy bien qué consultas gestionan unos y otros, podremos cuidar de la CX y la AX al mismo tiempo.

¡Ojo! Aunque un proceso lo tengamos automatizado con IA, si el cliente pide ser atendido por un agente, deberemos transferir la llamada inmediatamente para evitar sanciones de entre 150 y 100.000 euros.

EL MARCO LEGAL NOS PROTEGE A TODOS

Podríamos decir que, para aplicar Inteligencia Artificial en el contact center, lo mejor es usar el sentido común, pero como dice el filósofo Voltaire: «el sentido común es el menos común de los sentidos”. Por eso existen las leyes, y por eso debemos conocerlas para no incumplirlas.

La tecnología avanza a una velocidad vertiginosa, y como señaló Daniel Vidal, uno de los ponentes del CX Brunch que coorganizamos junto a Webpilots España y Adam: “Está saliendo un tren y es posible que quien no lo coja ahora ya no pueda montarse en la siguiente estación.”

Actualmente, existen numerosas soluciones de Inteligencia Artificial para atención al cliente. Por ello, recomendamos, ante todo, seleccionar un partner que tenga un profundo conocimiento del sector, cuente con un equipo de expertos en Inteligencia Artificial y esté comprometido con la mejora continua de sus clientes.

¿QUIERES CONOCER CÓMO APLICAR IA DE FORMA SEGURA?