Los asistentes virtuales que utilizan procesamiento del lenguaje natural (PLN) han llegado para quedarse, ya que son cada vez más eficientes y generan ahorros de costes para las empresas que los implementan.
Sin embargo, la tecnología tiene posibles desventajas, como la mala comunicación y el aumento de la desigualdad.
Como cualquier forma de inteligencia artificial (IA), el PLN requiere una gobernanza cuidadosa para garantizar que se utilice para el bien, y es necesario desarrollar un marco que optimice la interacción entre humanos y máquinas.
Hoy en día, interactuamos con frecuencia con asistentes virtuales, ya sea hablándoles o escribiéndoles. Piense en todas las personas que tienen en sus hogares dispositivos con Alexa de Amazon y les piden que reproduzcan música o cuenten chistes. Amazon vendió más de 100 millones de dispositivos Alexa solo en 2018, y ese año Alexa contó más de 100 millones de chistes.
Alexa es un chatbot, una forma de IA que interactúa con los clientes mediante conversación. Esto se debe a que el PLN le permite comprender los mensajes de las personas y, a menudo, responder de manera adecuada. En el caso de un consumidor que busca respuesta a una pregunta sobre un producto, poder escribir la pregunta y recibir de inmediato una respuesta de un bot ahorra un tiempo que podría haberse invertido al teléfono, esperando a que un representante humano responda. A su vez, el fabricante del producto no tiene que contratar a una persona adicional para responder preguntas rutinarias, lo que le ahorra dinero a la empresa.
El potencial de estos asistentes virtuales es enorme y ya se están obteniendo muchos beneficios. Sin embargo, todavía no se han resuelto todos los problemas. Aunque crear un chatbot es relativamente sencillo, la parte conversacional suele ser más difícil de lograr bien.
Chatbots: lo bueno
En cuanto a las aplicaciones de los chatbots que usan PLN, no hay límites en sectores tan diversos como la sanidad, la educación, el comercio minorista, el turismo y otros. Como muchas personas intentan educar a sus hijos a través de Zoom, los chatbots pueden ofrecer educación impulsada por IA en todo el mundo. Algunas peluquerías han empezado a usar chatbots para programar citas, y también se utilizan para reservar cosas como traslados al aeropuerto y alquileres de coches.
La sanidad presenta quizá una de las mayores oportunidades para los asistentes virtuales. Los recordatorios automáticos de citas por mensaje de texto han reducido la tasa de no presentación en EE. UU. Y en zonas rurales de todo el mundo, los chatbots están ayudando a conectar a los pacientes con los clínicos mediante consultas digitales.
Por ejemplo, en Ruanda, donde solo hay un médico y seis trabajadores sanitarios por cada 10,000 personas, los healthbots están ayudando a reducir la gran demanda sobre el personal de los centros de salud. En lugar de hacer cola para ser atendidos en persona, los pacientes pueden acceder a consultas con médicos o enfermeros por teléfono desde cualquier parte del país. Pueden recibir por mensaje de texto un código para una receta o una prueba de laboratorio.
En el futuro, estos healthbots se convertirán en herramientas de triaje que utilizarán IA adaptada al idioma y a la epidemiología de Ruanda para atender a aún más pacientes. Para los pacientes que requieran una consulta presencial, la herramienta de triaje dará prioridad a quienes necesiten la atención más urgente. La herramienta de triaje también puede compartir la información del paciente con los clínicos. Esto les facilita acceder rápidamente a lo que necesitan para tratar al paciente.
Gracias a estos asistentes virtuales será posible un uso más eficaz de los escasos recursos sanitarios. A cambio, mejorará la calidad de la atención y los trabajadores sanitarios seguirán informados.
Chatbots: lo malo
La IA aprende continuamente, pero sus algoritmos son diseñados por humanos que tienen sesgos. Uno de los inconvenientes de usar chatbots con IA es la falta de diversidad entre los creadores, lo que puede dar lugar a respuestas sesgadas. Con frecuencia, los bots malinterpretan a los usuarios con acento marcado, lo que puede tener consecuencias para los pacientes y para cualquier persona que busque información correcta. Una orientación deficiente, diagnósticos incorrectos y la falta de acceso a intervenciones oportunas pueden tener consecuencias graves. El desafío consiste en atraer a más programadores diversos y reconocer casos específicos de desigualdad en las comunicaciones.
La privacidad de la información también es una consideración seria, al igual que la capacidad de los usuarios para distinguir si están hablando con un bot o con una persona. Los asistentes virtuales con PLN son cada vez más sofisticados y suenan más “naturales” en todo momento. Es comprensible que los pacientes u otros usuarios se pregunten si están hablando con una persona o con un bot, o si reciben consejo médico de un médico o de un bot.
Para abordar este problema, la Universidad de Stanford propone que se exija a los agentes artificiales producir, cuando se les solicite, una identificación inequívoca de que son bots. Además, la propuesta pide incluir información sobre el historial de propiedad y uso del asistente virtual. Esta información podría abordar las inquietudes sobre el seguimiento y la cuestión de quién es responsable de los resultados.
La implementación de estas propuestas inevitablemente planteará más preguntas, pero se necesita un debate exhaustivo para establecer límites y mantener a salvo a las personas y su información sensible. Un Deloitte AI Institute and Chamber Technology Engagement Center estudio detalla cómo la industria y el gobierno pueden colaborar para garantizar que se aprovechen plenamente los beneficios de la IA y que las preocupaciones sobre sus riesgos no frenen la innovación.
Chatbots y asistentes virtuales: lo que llegó para quedarse
El genio de los asistentes virtuales no volverá a la botella: los chatbots con PLN han llegado para quedarse y sus capacidades solo crecerán. La situación ofrece una oportunidad para reunir a partes interesadas de distintos ámbitos, como los desarrolladores de chatbots y plataformas, la comunidad médica, el mundo académico, los reguladores y la sociedad en general, para diseñar marcos que regulen su gobernanza.
El Foro Económico Mundial ha reunido a expertos globales de los sectores sanitario, público y privado para desarrollar Chatbots RESET, un marco para regular el uso responsable de los asistentes virtuales en la sanidad. Este marco aborda cuestiones legales, de privacidad y de seguridad, junto con la necesidad de equidad y rendición de cuentas. Sus cocreadores están estableciendo principios éticos y directrices operativas, que pueden adaptarse a otros sectores.
En un futuro cercano, con una gobernanza eficaz, veremos llamadas de Zoom en las que personas que hablan distintos idiomas serán traducidas en tiempo real, y cada participante escuchará el audio en su propio idioma. En las reuniones en las que se necesite un relator, el PLN permitirá al asistente virtual escuchar, sintetizar y extraer los puntos principales. Y cuando un cliente llame para quejarse de un producto, el chatbot podrá identificar el momento preciso en que ese cliente debe ser transferido a un representante humano.
La eficiencia de los chatbots es innegable, como lo es el ahorro de costes para las empresas. Pero, más allá de eso, estos asistentes virtuales están allanando el camino para que los trabajadores que normalmente responderían preguntas rutinarias sean reasignados a trabajos más significativos, cualificados y mejor remunerados. Como resultado, es probable que las empresas vean disminuir sus tasas de rotación. Después de todo, ¿a quién le gusta que le hagan la misma pregunta 100 veces a la semana?
