La policía alemana ha emitido una advertencia sobre una estafa en línea que involucra a mujeres policías generadas por inteligencia artificial.
La policía de Hamburgo dijo que los perfiles de las redes sociales mostraban falsificaciones de mujeres atractivas con uniformes de policía.
Las cuentas se utilizaron para atraer a los hombres en las redes sociales a hacer clic en sitios web pagos para ver imágenes más realistas de mujeres policías generadas por IA, dijo la policía.
La policía dijo en un comunicado: “Estamos recibiendo cada vez más informes de supuestos perfiles de redes sociales generados por IA que representan a colegas femeninas de la policía de Hamburgo”.
El portavoz de la policía, Florian Abenseth, añadió: “Estos perfiles dañan la reputación de la policía, por eso estamos tomando medidas decisivas contra ellos”.
Las imágenes generadas por IA muestran a mujeres jóvenes y atractivas posando con ropa ajustada.
En una foto, se ve a una mujer rubia con la chaqueta cerrada, dejando al descubierto algo de escote.
Otra imagen muestra a un policía generado por IA arrodillado en el suelo y posando para una selfie en el espejo.
La policía alemana ha emitido una advertencia sobre una estafa en línea que involucra a mujeres policías generadas por IA
La imagen muestra una imagen generada por IA de una mujer vistiendo un uniforme de policía alemán mientras un hombre le toma una fotografía por detrás. No se sabe si la imagen del hombre es real o generada por IA.
La policía de Hamburgo dijo que las cuentas se utilizaron para atraer a los usuarios de las redes sociales a hacer clic en sitios web proporcionados para ver imágenes más realistas de mujeres policías generadas por IA.
La policía de Hamburgo confirmó que la fuerza no opera ninguna cuenta personal de Instagram para sus agentes y anunció que ya se están considerando acciones legales contra el contenido de IA.
La policía también obliga a los usuarios de Instagram a denunciar perfiles falsos en las redes sociales.
El uso de deepfakes, como imágenes y vídeos generados por IA que se hacen pasar por personas reales, ha supuesto un riesgo importante para las empresas y organizaciones en los últimos años.
A principios de este año, la Unión Internacional de Telecomunicaciones de las Naciones Unidas instó a las empresas a utilizar herramientas avanzadas para detectar y erradicar la información errónea y el contenido falso para ayudar a prevenir el fraude financiero.
La UIT ha pedido estándares más estrictos para combatir la manipulación multimedia y recomendó que los distribuidores de contenido, como las plataformas de redes sociales, utilicen herramientas de verificación digital para autenticar imágenes y videos antes de compartirlos.
“La confianza en las redes sociales ha disminuido significativamente porque la gente no sabe qué es real y qué es falso”, señaló Bilel Jamousi, jefe del grupo de estudio de la Oficina de Normalización de la UIT.
La policía de Hamburgo condenó el uso de imágenes generadas por IA y amenazó con emprender acciones legales
La policía ha instado a los usuarios de Instagram a denunciar perfiles falsos en las redes sociales.
El uso de deepfakes ha supuesto un riesgo creciente para empresas y organizaciones en los últimos años.
Combatir los deepfakes fue un gran desafío debido a la capacidad de la IA generativa para crear multimedia realista, dijo.
Leonard Rosenthol de Adobe, el líder en software de edición digital que se ocupa de los deepfakes desde 2019, enfatizó la importancia de establecer la fuente del contenido digital para ayudar a los usuarios a evaluar su confiabilidad.
“Necesitamos más lugares donde los usuarios usen su contenido para mostrar esta información… cuando te desplazas por tus feeds quieres saber: ‘¿Puedo confiar en esta imagen, este vídeo…'”, dijo Rosenthal.
