Un estudio revela que los usuarios aceptan la IA cuando reduce la incertidumbre y mejora la información, pero desconfían de ella si perciben opacidad, manipulación o una gestión inadecuada de sus datos.
La inteligencia artificial (IA) se ha convertido en una herramienta cada vez más presente en la vida cotidiana, desde las compras online hasta la atención sanitaria. En el ámbito del transporte público, su papel es cada vez más relevante al permitir predecir retrasos, recomendar rutas personalizadas y ofrecer asistencia a los viajeros mediante chatbots y sistemas conversacionales. Sin embargo, su éxito depende de un factor clave: la confianza de los usuarios.
Según el análisis recogido en el documento IA_Confianza_Transporte_Publico_ES, realizado por Fernanda Arreola, profesora de Estrategia y Emprendimiento en ESSCA School of Management, y Jean-Christophe Lassalle, responsable de Innovación e Información a Viajeros en SNCF Voyageurs. el transporte público se ha consolidado como un entorno ideal para estudiar la relación entre las personas y la inteligencia artificial. Millones de pasajeros toman decisiones rápidas cada día basándose en información en tiempo real, por lo que la calidad y fiabilidad de los datos resulta fundamental.
Los resultados muestran una aparente paradoja. Los usuarios valoran positivamente los sistemas de IA cuando estos aportan claridad y ayudan a reducir la incertidumbre en situaciones como retrasos o incidencias. Sin embargo, la confianza disminuye cuando la personalización de la información se percibe como excesivamente invasiva, poco transparente o potencialmente manipuladora.
Los investigadores identifican tres factores esenciales para generar confianza: la competencia del sistema, es decir, que la información sea precisa y coherente; la benevolencia, que el usuario perciba que la tecnología actúa en su beneficio; y la transparencia, que permita comprender cómo y por qué se generan determinadas recomendaciones. [IA_Confian…Publico_ES | Word]
Además, el estudio advierte de los riesgos asociados a la privacidad y al sesgo algorítmico. La necesidad de compartir datos personales para acceder a servicios más eficientes puede generar recelos entre los usuarios, mientras que modelos entrenados con información poco diversa podrían ofrecer recomendaciones menos adecuadas para colectivos como personas mayores o con discapacidad.
Los autores también subrayan que la confianza en la IA no es únicamente una cuestión tecnológica, sino un reto de gobernanza. Por ello, recomiendan que las organizaciones establezcan estándares claros sobre transparencia, protección de datos, equidad y rendición de cuentas, integrando la confianza como un indicador estratégico de rendimiento.
La principal conclusión es que el futuro de la inteligencia artificial en los servicios públicos dependerá menos de la sofisticación de los algoritmos y más de la capacidad de las organizaciones para garantizar que estos sistemas sean comprensibles, justos y estén alineados con el interés general. Como señalan los autores, en la era de la IA, la confianza puede convertirse en la infraestructura más valiosa de todas.