Las Inteligencias Artificiales a veces pueden dar respuestas escritas de forma coherente, pero con datos incorrectos, sesgados o simplemente equivocados. Es decir, tienen tendencia a “alucinar”. Estos errores se pueden deber a un mal proceso de decodificación de la información o también a que muchos desarrolladores nutren a los sistemas con información de Internet, la cual no siempre es correcta.
“En el caso de los Chatbots de bancos y fintechs, por ejemplo, su sistema usa modelos lingüísticos LLM (Large Language Model) que aprenden automáticamente de diversas fuentes de información, pero no tienen forma de evaluar que lo que reproducen es correcto”, explica Pablo Velán, CTO de N5, empresa especializada en software para la industria financiera.
Estas alucinaciones, en el sector financiero, no son solo un error técnico, sino un desafío que afecta la confianza de los clientes en las soluciones digitales. Si los modelos no son monitoreados adecuadamente, pueden difundir información incorrecta y afectar la credibilidad de los bancos y fintechs.
Según un análisis de Vectara, los chatbots pueden cometer errores en entre el 3% y el 27% de sus respuestas, lo que representa un desafío significativo para el sector financiero.
¿Es posible un producto a gran escala sin alucinaciones?
La IA Generativa ya es una realidad en México, impactando la manera en que operan bancos y fintechs. En 2023, este mercado fue valorado en 1.12 billones de dólares, y se espera que alcance los 4.37 billones para 2027, según Market.us. La confianza en estos sistemas es clave para su adopción masiva.
“En N5, con el lanzamiento de nuestras tres Inteligencias Artificiales ‘Fin Skys’, aplicamos dos estrategias clave: mantenerlas aisladas de la red y utilizar múltiples sistemas para validar sus respuestas. Esto reduce drásticamente los errores y mejora la confianza en la IA dentro del sector financiero”, detalla Velán.
Así es como los productos Alfred, Pep y Singular pueden sortear esta dificultad que preocupaba al sector financiero. Al poder integrarse en cualquier sistema core, CRM y/o BPM de la institución, estos algoritmos poseen independencia de datos para máxima seguridad, lo que reduce notablemente la cantidad de alucinaciones.
Enfocadas en asistir a la industria financiera, las Fin Skys buscan solucionar los desafíos únicos de esta industria, garantizando que todas las funcionalidades sean atendidas plenamente, desde responder dudas y consultas hasta vender productos, cobrar deudas, asesorar sobre inversiones o planificación fiscal de forma proactiva.
Como toda herramienta en plena evolución y crecimiento, la IA también tendrá que enfrentarse a diferentes barreras y malestares propios. Afortunadamente, los expertos tecnológicos están atentos a sus cambios y listos para dar respuesta a cualquier obstáculo que aparezca en el camino.
Redacción C21