Un hotel demandado por intoxicación alimentaria fue descrito como “impecable” y un complejo donde los huéspedes se quejaron de acoso sexual por parte del personal fue elogiado por su servicio “amable” por una IA destinada a resumir millones de reseñas de Tripadvisor.
Las reseñas de los comentarios de los clientes han reducido las quejas graves desde olores a moho hasta falta de agua corriente, según una investigación del grupo de campaña de consumidores Which?
Las reseñas generadas por IA aparecen en las páginas web de los hoteles y en los sitios web de viajes para ayudar a los turistas a decidir dónde reservar. En un caso, el resumen de AI describió el Rio Palace Santa Maria en Cabo Verde como popular, con habitaciones espaciosas, “una variedad de restaurantes” que obtuvieron “críticas muy favorables” y una limpieza impecable.
Sin embargo, los clientes informaron que les sirvieron pollo crudo, compartieron fotos de moscas y pájaros en el buffet y “pequeños ratones muertos asados cerca de la zona de asientos”. Un huésped cuya familia entera se enfermó escribió: “Este lugar arruinará las vacaciones”.
La cadena hotelera está siendo demandada ante el Tribunal Superior por cientos de huéspedes alegando enfermedades relacionadas con fallos en las normas de higiene y seguridad alimentaria.
Las reseñas generadas por IA sobre hoteles en Cabo Verde ya no están disponibles. Su operador, RIU Hotels & Resorts, afirmó: “Operamos con los más altos estándares de profesionalidad y servicio, manteniendo la seguridad salud-sanitaria como nuestra máxima prioridad”.
AI elogió a otro hotel de República Dominicana por su “abundancia” de comodidades, con sólo un guiño por la limpieza “inconsistente” y los “problemas de mantenimiento”. Pero los invitados informaron que se ducharon con agua embotellada porque los grifos principales se secaron y todas las demás personas en una gran fiesta de bodas se enfermaron.
Mientras tanto, los huéspedes de un hotel en Turquía escribieron que se sentían inseguros debido al acoso sexual repetido por parte del personal masculino del hotel, incluidas solicitudes para conectarse en las redes sociales, pero el resumen de AI describió el servicio como “amigable” y solo dijo “defectos (en el servicio) notados por unas pocas personas”, ¿cuáles? encontró
TripAdvisor dice que está monitoreando y perfeccionando su herramienta de inteligencia artificial y buscando “casos en los que las reseñas no coincidan con la propiedad deseada”. Pero dijo que estaba “seguro de que estas funciones ofrecen exactamente lo que fueron diseñadas para hacer: ayudar a los viajeros a comprender rápidamente la amplitud de los comentarios y facilitar la exploración de reseñas totalmente integradas”.
Dijo que los resúmenes generados por IA no reemplazan las opiniones de los viajeros y que los consumidores tenían el sentido común de comparar cualquier consejo de IA con las más de mil millones de opiniones y contribuciones que recopiló.
¿Rory Boland es el editor de cuál? Travel, dijo: “La plataforma tiene la responsabilidad de revisar la precisión de los resúmenes de IA y los chatbots de IA. Mientras tanto, los usuarios deben desplazarse por estos resúmenes y mirar las reseñas de los huéspedes, especialmente las calificaciones de una estrella y las reseñas de otros sitios, para asegurar su próxima estadía”.
Después de la circulación del boletín
Tripadvisor dice que sus sistemas suprimen automáticamente los resúmenes de IA cuando los viajeros advierten sobre incidentes de seguridad graves como muerte, consumo de drogas o agresión sexual, “ayudando a garantizar que este contenido sea altamente visible para nuestra comunidad”.
Duncan Brumby, profesor de interacción persona-computadora en el University College de Londres, dijo que el caso resonaba con su propia investigación sobre académicos que utilizan IA durante el proceso de revisión por pares. Encontró que la IA tiende a “desinfectar y frotar los bordes” de las críticas duras, tal vez porque la mayoría de los datos de entrenamiento contienen muchas observaciones más benignas.
“Aquí tienes invitados que describen una experiencia realmente negativa, pero la IA decidió minimizarla”, dijo. “Es ser educado”.
otro La investigación ha encontrado Las tecnologías diseñadas para resumir opiniones a menudo sufren de un punto ciego que significa que reducen la riqueza de los comentarios de los consumidores a sentimientos superficiales.
Google eliminó algunos de sus resúmenes de salud de IA este año después de que una investigación de The Guardian descubriera que las personas corrían riesgo de sufrir daños debido a información falsa y engañosa.
