Los chatbots pueden hacer muchas cosas, pero no pueden ir a la facultad de medicina. El martes, el gobernador de Pensilvania, Josh Shapiro, dijo que su administración Demandar a la tecnología de personajesLa empresa de inteligencia artificial detrás de esto personaje.ai. Reclamaciones del caso Los chatbots de la empresa se hicieron pasar por profesionales médicos autorizados y ofrecieron consejos curativos.
Sin embargo, las búsquedas de asesoramiento médico en Internet no son nada nuevo Este es el último caso poner de nuevo Ética médica en la era de la IA En el centro de atención
Según un comunicado, Una investigación del Departamento de Estado de Pensilvania reveló personajes de chatbots que se hacían pasar por profesionales médicos y de salud mental con licencia. En un caso, un chatbot presentó un número de licencia no válido cuando se comunicó con un paciente por un problema de salud. Según la Ley de Práctica Médica de Pensilvania, es ilegal que una persona se presente como un profesional médico autorizado sin la licencia adecuada.
“No hacemos comentarios sobre litigios pendientes”, dijo un portavoz de Character.AI a CNET.
“Nuestra principal prioridad es la seguridad y el bienestar de nuestros usuarios”, dijo el portavoz. “Los personajes creados por los usuarios en nuestro sitio son ficticios y están destinados a fines de entretenimiento y juegos de rol. Hemos tomado medidas firmes para dejar esto claro, incluyendo un descargo de responsabilidad destacado en cada chat para recordar a los usuarios que un personaje no es una persona real y que lo que dice un personaje debe considerarse ficción. Además, agregamos un descargo de responsabilidad fuerte, esto no debe sugerir a los usuarios sobre un personaje profesional”.
En 2025, Character.AI implementará nuevas medidas de seguridad al retirar a los adolescentes Posibilidad de chatear abiertamente incluido su bot.
En enero, Google y Character.AI, Quienes trabajaron juntos en chatbots de IA estuvieron de acuerdo Cinco casos resueltos Character.AI en cuatro estados relacionados con menores perjudicados por interacciones con chatbots. La organización ahora proporciona recursos de salud mental a quienes los necesitan.
Esta es la primera acción ejecutiva de este tipo anunciada por un gobernador de Estados Unidos.
“Mi administración está tomando medidas para garantizar que los habitantes de Pensilvania puedan proteger, hacer cumplir las leyes y utilizar nuevas tecnologías de forma segura”, dijo Shapiro. “Pensilvania liderará el camino para responsabilizar a los malos actores y brindar salvaguardias claras para que las personas puedan usar las nuevas tecnologías de manera responsable”.
