Resumen de la sesión
La inteligencia artificial tiene cada vez más aplicaciones, que implican una responsabilidad creciente y requieren, por tanto, un mayor control sobre los algoritmos. La UE está desarrollando todo un marco normativo al respecto, como la propuesta de la Comisión publicada el pasado mes de septiembre para homogenizar las leyes nacionales de responsabilidad de la IA y ofrecer una mayor protección a los consumidores.
A nivel nacional, esto se traslada a través de una serie de iniciativas por parte del Gobierno de España, que en 2022 admitió, por primera vez, una partida de presupuesto específica para crear una Agencia Española de supervisión de la IA, con el fin de conocer y controlar el impacto social de los algoritmos.
Dicho control requiere trabajar desde el origen de los algoritmos. En Fundación SERES defendemos una IA que, desde el diseño, sitúe a las personas en el centro. Desde hace años trabajamos junto a NTT DATA, que ha elaborado una metodología para diseñar servicios tecnológicos con foco en las personas.
A lo largo del año, hemos trabajado sobre esta metodología, poniendo un foco especial en los sectores de banca y seguros. Debido a la cantidad de datos que manejan y a las expectativas cambiantes de los clientes, estos dos sectores cuentan con un gran potencial de transformación gracias a la IA, que genera oportunidades para ofrecer un mejor servicio al cliente y un mayor retorno a la compañía.
Diseño de servicios IA para las personas
Existe un amplio consenso sobre la importancia de desarrollar servicios de IA con una visión ética. Pero, ¿qué entendemos por esto? En 2018, la Comisión Europea se propuso alinear todo el conjunto de iniciativas y esfuerzos existentes para plantear una guía sobre IA ética materializada en el Libro Blanco de la IA y la propuesta para la AI Act, una propuesta de regulación para hacer un uso de la IA responsable, de confianza y respetuoso con los DDHH.
En línea con estos principios, NTT data ha desarrollado una metodología de diseño de servicios de inteligencia artificial para las personas, que presentamos en la sesión celebrada el mes de abril. La metodología recoge una visión integral del desarrollo de servicios de IA, orientada a conocer su posible impacto social y las necesidades a cubrir, poniendo siempre al usuario en el centro.
La metodología destaca la importancia de la calidad de los datos usados y el entrenamiento del modelo para evitar sesgos y discriminaciones. Por último, apuesta por una innovación práctica, mediante el desarrollo de prototipos que puedan ser aplicados por los usuarios para probar su funcionalidad, garantizando la inclusión de todas las personas en los ciclos de desarrollo.
A través de la metodología, se han identificado cuatro características con las que han de contar todas las soluciones de IA para aportar valor a las personas:
1. Ser de confianza: Principio básico para tener una guía responsable que permita un nuevo modelo de colaboración entre las empresas y los clientes;
2. Adaptable: La tecnología debe evolucionar con el usuario, adaptándose de acuerdo con la interacción con la persona;
3. Relevante: Es necesario que aporte valor al usuario o permita mejorar el valor ofrecido
4. Útil: Debe aportar algo que antes no estaba y ofrecer valor al usuario con el mínimo esfuerzo.
Existen muchos retos y riesgos a tener en cuenta en el desarrollo de servicios de IA. Por ejemplo, la normativa, el uso de los datos, la resistencia al cambio o la falta de principios claros que generen confianza y transparencia en los servicios tecnológicos. En este contexto, contar con una metodología pautada es clave para adelantarse a estos riesgos y operar de forma segura.
Mesa Redonda
Durante la sesión tuvimos la oportunidad de conocer de primera mano las estrategias de Ibercaja y Mutua Madrileña en el diseño de servicios de IA desde una perspectiva ética. Alfredo Villanova, director Gerente de Ibercaja Connect y Ana Meléndez, gerente de Transformación y Proyectos Contacto Cliente en Mutua Madrileña, compartieron su trabajo y nos dejaron varias enseñanzas para asegurar que las personas ocupan un lugar central en los productos y servicios basados en Inteligencia Artificial.
A continuación, compartimos la experiencia de estas empresas y los principales aprendizajes de la mesa:
La experiencia de Ibercaja
Ibercaja Connect, el centro de gestión de canales de Ibercaja, analiza la calidad del servicio telefónico y online empleando speech analytics para ofrecer una mejor experiencia al usuario. La iniciativa ha sido premiada como Mejor Proyecto IT en analíticas de texto en los Platinum Contact Center Awards en 2022.
El proyecto surgió cuando, tras al analizar internamente las interacciones con los usuarios, se dieron cuenta de que había un gran potencial de mejora en el servicio al cliente. Dentro de las interacciones que analizaban diariamente, un 4% de las acciones eran susceptibles de generar procesos de mejora, lo que implicaba una tasa de mejora diaria del 1,6x1000. Esto impulsó la implantación de un sistema de escucha que permitiera saber qué mejorar a partir de cada conversación. De esta manera, pudieron identificar aquellos elementos que no eran capaces de resolver y aplicar mejoras a todos los canales.
Esta iniciativa ha sido premiada este año como mejor proyecto IT en analíticas de texto. Los aspectos reconocidos han sido el desarrollo de una solución técnica robusta y aplicable a todos los servicios del centro de atención y en todos los canales, con una visión holística y omnicanal. La iniciativa, además, comprende la capacitación interna del personal de Ibercaja. Como parte del proyecto, se ofreció formación a los perfiles de expertos en atención al cliente para que todos puedan ser partícipes de esta transformación.
Desde una perspectiva económica, el retorno de la iniciativa ha sido inmediato. La tasa de mejora del servicio se ha multiplicado por 25, con una repercusión positiva en los clientes. A nivel interno, los contact center se han convertido en un "laboratorio de innovación" de las relaciones no presenciales. En un contexto en el que los clientes cada vez van menos a la oficina, muchas de las mejoras implementadas se están trasladando a las oficinas y a otras áreas, que adaptan su manera de comunicarse con los clientes.
La experiencia de Mutua Madrileña
Mutua Madrileña fue la primera compañía de seguros de España en ofrecer un servicio de atención al cliente por Whatsapp con su asistente virtual EME, que aplica tecnología de IA conversacional Diagflow.
La idea de trabajar con un asistente virtual surgió desde su programa de innovación, en el que participan todos los empleados. Se buscaba fomentar la autogestión del cliente y generar más interacciones digitales. De este modo, nació EME, asistente virtual a través de un chatbot que desarrollaron junto a Google. Esta colaboración les permitió apoyarse en expertos para crear una estrategia e ir avanzando poco a poco en su desarrollo.
El salto a WhatsApp se dio de forma muy natural, como una forma de estar más presentes para los clientes y de aumentar la accesibilidad del servicio, facilitando el acceso para todas las personas, sobre todo aquellas en situaciones de vulnerabilidad (personas mayores, con discapacidad, con recursos escasos, etc.). Durante el desarrollo, se priorizó ofrecer la mejor experiencia de usuario. Para ello, una prueba piloto fue clave para conocer las experiencias de los usuarios y asegurar que el servicio fuera bueno y útil.
La pandemia aceleró la implantación de este sistema como una forma de responder las necesidades de los clientes, ofreciendo cercanía y conexión. El servicio por Whatsapp ha tenido una percepción muy favorable por parte de los clientes. Al facilitar la atención 24/7, las visitas mensuales aumentaron de 18.000 a 35.000 entre 2021 y 2022, y los clientes han adoptado ampliamente este canal, ya que facilita las interacciones y gestiones.
Actualmente Mutua Madrileña está en una fase de integración de los canales para lograr un sistema omnicanal, y a lo largo de toda la vida del cliente.
La protección de datos:
Tanto Mutua Madrileña como IberCaja señalaron la importancia de la privacidad y el cumplimiento del Reglamento General de Protección de Datos (RGPD) como los principales retos a la hora de desarrollar sistemas de IA.
Hay que conjugar la regulación y la normativa aplicables, teniendo siempre al cliente como prioridad sobre el valor económico que generan los proyectos de IA.
Muchas veces, el cumplimiento pasa por desarrollar modelos transversales, en los que distintas áreas (como Gobierno, Asesoría jurídica, Customer experience, etc.) compartan la responsabilidad de velar porque todo desarrollo tenga un complimiento ético y siga lo establecido por los organismos internacionales.
Asimismo, las soluciones para el usuario siempre deben estar apoyadas en las personas que diseñan los proyectos, ya que son quienes pueden aportar valores que la IA no tiene per se, para asegurar que todo desarrollo tenga un cumplimiento ético.
La gestión de los equipos:
El desarrollo de servicios de IA requiere una gestión cuidadosa a nivel interno para que los equipos estén tranquilos y no se sientan desplazados por la tecnología. Para lograr solventar este reto, Mutua Madrileña e IberCaja destacaron la importancia de comunicar las estrategias y de hacer partícipes a los trabajadores durante todo el proceso para que se sientan integrados.
OPORTUNIDADES PARA GENERAR IMPACTO SOCIAL
Más allá del retorno económico, la implantación de estos servicios ofrece oportunidades para generar impacto social. Durante la conversación, Mutua Madrileña e Ibercaja mostraron cómo los desarrollos de sistemas de IA tipo bots en sus compañías no solo no implicaron despidos, sino que permitieron crear nuevos puestos de trabajo y ofrecer formación a los trabajadores, dotándoles de nuevas capacidades tecnológicas.
También existe una oportunidad clara a la hora de mejorar la accesibilidad y hacer el servicio más inclusivo. El uso de canales digitales permite llegar a todo tipo de públicos y adaptarse a las exigencias y necesidades de todos los clientes, teniendo en cuenta la diversidad demográfica y evitando sesgos por factores como la discapacidad o la escasez de recursos económicos.
RECOMENDACIONES
A la hora de implementar servicios de IA desde una perspectiva ética, las recomendaciones de los ponentes fueron:
Pensar a nivel interno y externo cómo va a impactar el desarrollo de los sistemas
Diseñar una matriz de coste/beneficio y empezar por procesos que supongan menos coste y mayor retorno
Desarrollar estos sistemas requiere recursos económicos que solo se darán cuando hay retorno de inversión
Vigilar el despliegue y la ejecución no solo desde el punto de vista técnico, sino también desde cómo lo vive la plantilla, y cuales son las repercusiones para ellos
Poner a las personas en el centro y saber qué es lo demanda el cliente.
Tener en cuenta que el canal digital no sustituye la atención telefónica, sino que es otra forma más de comunicar. Los canales no funcionan de manera independiente, no son silos.
Pensar el por qué y el cómo se hará la comunicación al cliente, teniendo siempre en mente su beneficio.
Próximos pasos
Próximos pasos
Con esta sesión, finalizamos la edición 2022 del LabS sobre el Diseño de Servicios IA para las personas. Las conclusiones del trabajo del año se recogen en un paper accesible desde las páginas web de SERES y NTT data.
En los próximos meses anunciaremos la próxima línea de trabajo del LabS. ¡Os esperamos!