El lunes, los investigadores del Equipo de Detección y Respuesta de Microsoft (DART) advirtieron que se está abusando de una API OpenAI como puerta trasera para malware. Los investigadores concluyeron que los malos actores están utilizando nuevas puertas traseras para realizar espionaje a largo plazo.
En particular, los investigadores de ciberseguridad de Microsoft han descubierto que los ciberdelincuentes se están aprovechando de la API OpenAI Assistant, que es una forma inteligente de ocultar sus actividades ilegales. Computadora pitando.
“En lugar de depender de métodos más tradicionales, el actor de amenazas detrás de esta puerta trasera explota OpenAI como un canal (comando y control) como un medio para comunicar y orquestar de forma encubierta actividades maliciosas dentro de un entorno comprometido. Para hacer esto, un componente de la puerta trasera utiliza la API del Asistente de OpenAI para almacenar o transmitir comandos que ejecutan la investigación. Escribió una respuesta a un incidente de Microsoft Publicado el 3 de noviembre.
Siga leyendo para saber cómo funciona la explotación y cómo protegerse contra ella.
Cómo los malos actores explotaron la API del Asistente OpenAI
En julio, los investigadores dijeron que descubrieron una nueva puerta trasera en la API Asistente de OpenAI mientras investigaban un “incidente de seguridad sofisticado”. Llamaron a la puerta trasera SesameOp. (Los investigadores de ciberseguridad a menudo dan nombres llamativos a nuevas cepas de malware o exploits de ciberseguridad).
Velocidad de la luz triturable
D API asistente Una herramienta de desarrollo que permite a los clientes empresariales de OpenAI crear asistentes de IA dentro de sus propias aplicaciones. Básicamente, trae herramientas OpenAI como ChatGPT y Code Interpreter a otras aplicaciones de terceros. También debemos tener en cuenta que este sistema será reemplazado por la API de Respuestas de OpenAI.
Los investigadores de DART descubrieron que las puertas traseras ocultas permiten a los actores de amenazas controlar dispositivos no reconocidos, utilizar API para ejecutar comandos maliciosos y aprovechar datos cifrados. Si bien se informó específicamente a Incident Response, la puerta trasera permitió a los malos actores recopilar información con “fines de tipo espionaje”. Utilizando la API OpenAI, los ciberdelincuentes pudieron enmascarar sus actividades.
“Esta amenaza no representa una vulnerabilidad o una mala configuración, sino más bien una forma de abusar de las capacidades integradas de la API OpenAI Assistant”, concluyeron los investigadores.
Cómo protegerse contra la puerta trasera de SesameOp
Junto con un análisis técnico en profundidad de la amenaza, los investigadores de Microsoft proporcionaron una lista de recomendaciones para mitigar el impacto del exploit.
Puedes leer la lista completa de recomendaciones. Respuesta a incidentes de Microsoft. Algunas sugerencias incluyen “auditar y revisar los registros del firewall y del servidor web con frecuencia” y “revisar y configurar el firewall perimetral y los ajustes del proxy para limitar el acceso no autorizado a servicios con conexiones a través de puertos no estándar”.
Dado que la API OpenAI Assistants quedará obsoleta el próximo año de todos modos, es posible que los desarrolladores también quieran seguir adelante y migrar a la API React que la reemplaza. OpenAI tiene uno Guía de migración en su sitio web.
Divulgación: Jeff Davis, la empresa matriz de Mashable, presentó una demanda contra OpenAI en abril, alegando que violó los derechos de autor de Jeff Davis al entrenar y operar sus sistemas de IA.
sujeto
Ciberseguridad OpenAI
