El Atlas de ChatGPT Es un navegador web impulsado por inteligencia artificial que puede reservar viajes, pedir comida o realizar investigaciones por usted. OpenAI dice que es como crear un agente personal en su navegador web. Esto es lo que preocupa a los expertos en seguridad.
Por muy buenos que sean los sistemas de IA, también son imperfectos. Desde alucinaciones hasta adulación, la IA a menudo puede equivocarse. Entregar las claves de un navegador web a la IA introduce una serie de otros problemas potenciales, incluidos ataques de inyección rápida, ataques al portapapeles y una simple incapacidad para reconocer que algunos sitios son spam.
“Atlas muestra los mismos problemas iniciales que hemos visto en otros navegadores de estilo agente”, dijo Rob T. Lee, jefe de investigación y director de IA en SANS Institute, una organización cooperativa de capacitación y educación en ciberseguridad. “Se han realizado pruebas exitosas de inyección rápida y redireccionamiento. Hay que reconocer que OpenAI se ha movido rápidamente para abordar los informes”.
No se pierda nuestro contenido tecnológico imparcial y reseñas basadas en laboratorio. Añadir CNET Como fuente preferida de Google.
El lanzamiento de AI Atlas es una de las primeras salvas en una guerra de navegadores emergente. Otros participantes en este espacio incluyen Comet de Perplexity, la inclusión Gemini de Google en Chrome y el modo Copilot en Microsoft Edge. Para los principales actores de las grandes tecnologías, lograr cualquier tipo de afianzamiento en el espacio de los navegadores web les proporciona datos de usuario críticos, que pueden utilizar para optimizar mejor sus productos o vender publicidad dirigida. Esto es particularmente importante para OpenAI, que ha comprometido miles de millones de dólares para el desarrollo de infraestructura de IA al tiempo que muestra una capacidad limitada para generar ingresos, y mucho menos ganancias. La empresa está mirando todas las vías, incluyendo publicidadPara permitir la creación de contenido de texto para adultos y aumentar los ingresos.
(Divulgación: Jeff Davis, la empresa matriz de CNET, presentó una demanda contra OpenAI en abril, alegando que violó los derechos de autor de Jeff Davis al entrenar y operar sus sistemas de IA).
En el caso de OpenAI, la popularidad de un navegador web impulsado por IA significa alejar a la gente de Chrome, que actualmente es el navegador web más popular del mundo con una cuota de mercado del 73%. Estadísticas mundiales. ChatGPT Atlas puede expandir aún más el ecosistema de OpenAI. Si bien ChatGPT se ha convertido en el término general para los chatbots de IA, para que Atlas obtenga una adopción generalizada tanto entre consumidores como en empresas, el navegador de OpenAI debe ser tan seguro y confiable como Chrome.
Inyección rápida, ataques al portapapeles y más
Ataque de inyección rápida La vulnerabilidad más comúnmente asociada con los navegadores web con tecnología de inteligencia artificial. Este es un tipo de exploit en el que los delincuentes colocan intencionalmente instrucciones maliciosas en un sitio web para un agente de IA. El texto es invisible, oculto al usuario. Pero como la IA puede analizar todo el contenido del sitio, apesta las instrucciones e ignora las pautas de seguridad. Las malas instrucciones pueden hacer que la IA filtre información confidencial, cambie la configuración del sistema o realice otras acciones dañinas.
“También existe una preocupación más amplia de los consumidores, en lo que se refiere a este tipo de elemento ubicuo de visión por computadora que está conectado a cada aspecto de la navegación web”, dijo Simon Poulton, vicepresidente ejecutivo de innovación y crecimiento de Tinuity, una firma de marketing. A Paulton le preocupa que los consumidores no comprendan cómo se almacena su información y qué tan persistente es esa información dentro de la IA.
Esto lleva a otra de las preocupaciones de Polton: el respeto agente. A medida que los usuarios se acostumbran más a los sistemas de IA, comienzan a expresar escepticismo y le dan más control a la IA. Lo comparó con viajar en un automóvil autónomo Waymo por primera vez. En primer lugar, el cliente puede observar de cerca y asegurarse de que el coche se comporta con normalidad. Pero diez minutos después, pasarán a navegar en sus teléfonos.
El problema es que el sistema de IA no es perfecto. Mientras probaba el cometa Perplexity, Poulton notó que el navegador comenzaba a ingresar su contraseña en el campo de dirección de correo electrónico al iniciar sesión en un sitio. Pudo captarlo, pero muestra cómo los sistemas de inteligencia artificial pueden manejar mal la información confidencial.
Una vulnerabilidad menos conocida es el ataque de copiar al portapapeles. Esto es cuando un mal actor le indica a la IA que copie un enlace malicioso al portapapeles de una persona. Si la persona no presta atención, puede pegar accidentalmente el enlace en su navegador web y dirigirse a un sitio web incorrecto. Son estos casos de falta de atención los que pueden generar vulnerabilidades importantes.
“El mayor riesgo de utilizar los LLM como interfaz para Internet es que las personas no comprendan sus limitaciones y, por tanto, las utilicen de forma inapropiada”, afirmó Serena Booth, profesora de informática en la Universidad de Brown.
Booth destacó la importancia de utilizar LLM como terapeutas, aunque estos sistemas no están protegidos para este tipo de ayuda. “Estoy seguro de que este navegador también provocará alucinaciones, lo que puede perjudicar a las personas que no lo gestionan de forma eficaz. OpenAI debería sentir la gran responsabilidad de educar a los usuarios sobre cómo utilizar su software de forma adecuada”, afirmó Booth.
Cuando se le pidió un comentario, OpenAI citó uno publicado recientemente Publicación de blog Acerca de los ataques rápidos de inyección.
Según la publicación del blog, “Defenderse contra la inyección rápida es un desafío en toda la industria de la IA y un enfoque clave en OpenAI. Si bien esperamos que los adversarios continúen con tales ataques, estamos construyendo defensas diseñadas para lograr la tarea prevista por el usuario, incluso cuando alguien intenta activamente confundirlos”.
OpenAI dice que está entrenando modelos de IA para realizar llamadas secuencia de instrucciones cuyo objetivo es distinguir entre instrucciones confiables y no confiables. También ha desarrollado una serie de “monitores” impulsados por IA que pueden detectar y bloquear ataques de inyección rápida. Atlas controla al usuario mientras se encuentra en sitios confidenciales, como servicios de compras en línea. OpenAI dice que está utilizando equipos rojos (cuando los equipos de seguridad simulan ataques del mundo real, enfrentando a piratas informáticos contra defensores) con equipos internos y externos, y ofrece una gracia Para aquellos que encuentran errores. El pago promedio es de $784.
Tenga cuidado con los navegadores AI en el trabajo
A pesar de los riesgos, existe presión sobre los empleados para que adopten sistemas de inteligencia artificial. Con el lanzamiento del ChatGPT Atlas, Al menos una persona del 27,7% de las empresas ha descargado un navegador web con tecnología de inteligencia artificial.Según la empresa de seguridad de la información Cyberhaven. Es probable que parte de esto se deba a que los profesionales de TI descargan el navegador para probarlo, pero el riesgo para los trabajadores que utilizan navegadores agentes en el lugar de trabajo sigue siendo significativo.
“Los navegadores de agentes pueden simplificar y automatizar los peores ataques posibles para robar datos altamente regulados, incluidos clientes, individuos, pacientes, diseño de productos sensibles e implicaciones para la seguridad nacional”, afirmó Nishant Doshi, director ejecutivo de Cyberhaven.
Doshi dijo que este riesgo no se limita a ChatGPT Atlas y, dado que los navegadores de inteligencia artificial pueden actuar en nombre de los empleados utilizando sus credenciales para navegar por las herramientas corporativas, es necesario que haya vigilancia.
Las herramientas actuales de inteligencia artificial y seguridad de TI a menudo no pueden determinar con claridad si los datos son confidenciales o de dónde provienen. “Sin ese contexto crítico, no pueden decir con precisión si un determinado dato es confidencial. Combine esa gran debilidad con la gran fortaleza de los navegadores agentes para automatizar la tarea, y tendrá un incidente esperando a suceder”, dijo Doshi.
¿Debo usar ChatGPT Atlas o no?
Según Lee del Instituto SANS, para individuos, ChatGPT Atlas está bien para usar, siempre y cuando seas consciente de sus limitaciones. Aconsejó a Atlas que evitara sincronizar o compartir directamente “información financiera, médica o confidencial con estos sistemas” y que deshabilitara los permisos innecesarios.
En el trabajo, sin embargo, es mejor proceder con precaución. Los expertos dicen que ChatGPT Atlas debería usarse en entornos de prueba con alcance de red limitado. También es importante realizar un seguimiento de toda la actividad e incorporarla al marco de gobierno de la IA de una empresa, afirmó Lee.
La gran pregunta es si necesitas ChatGPT Atlas. Si bien las capacidades son excelentes, si tiene que monitorearlas constantemente para asegurarse de que funcione correctamente, ¿realmente vale la pena? Lo más probable es que esté lo suficientemente familiarizado con Internet como para hacer cosas por su cuenta, incluso si requiere usar algunas sinapsis adicionales en su cerebro.
“Es muy difícil explicar por qué alguien lo usaría en este momento”, dijo Poulton, quien cree que puede hacer clic en los sitios más rápido. “Es una novedad. ¿Pero de dónde viene la simple experiencia del consumidor? No cambia. No crea valor para mí”.
TL; DR
Los consumidores pueden utilizar ChatGPT Atlas, pero proceda con precaución. No lo utilice en computadoras del trabajo sin la aprobación de TI, ya que puede haber vulnerabilidades. Mientras lo usa, controle cómo utiliza información confidencial, como contraseñas, para navegar por el sitio y completar tareas. Para estar seguro, tal vez evite los sitios bancarios u otros sitios sensibles.
