Apple, Microsoft y Google están marcando el comienzo de una nueva era de lo que describen como teléfonos inteligentes y computadoras con inteligencia artificial. Los dispositivos, dicen, automatizarán tareas como editar fotografías y desearle un feliz cumpleaños a un amigo.
Pero para que eso funcione, estas empresas necesitan algo de usted: más datos.
En este nuevo paradigma, su computadora con Windows tomará una captura de pantalla de todo lo que haga cada pocos segundos. Un iPhone reunirá información de las muchas aplicaciones que utilizas. Y un teléfono Android puede escuchar una llamada en tiempo real para avisarte de una estafa
¿Está dispuesto a compartir esta información?
Este cambio tiene implicaciones importantes para nuestra privacidad. Para ofrecer nuevos servicios personalizados, las empresas y sus dispositivos necesitan un acceso más continuo e íntimo a nuestros datos que nunca. En el pasado, la forma en que usábamos aplicaciones y tomábamos archivos y fotografías en teléfonos y computadoras estaba relativamente aislada. Los expertos en seguridad dicen que se necesita una visión general de la IA para conectar los puntos entre aplicaciones, sitios web y todo lo que hacemos a través de las comunicaciones.
“¿Me siento seguro al brindar esta información a esta empresa?” Cliff Steinhauer, director de la Alianza Nacional de Ciberseguridad, una organización sin fines de lucro centrada en la ciberseguridad, habló sobre las estrategias de IA de las empresas.
Todo esto sucede porque ChatGPT de OpenAI arrasó en la industria tecnológica hace casi dos años. A medida que Apple, Google, Microsoft y otros han revisado sus estrategias de productos, invirtiendo miles de millones en nuevos servicios bajo el término general de IA, están convencidos de que este nuevo tipo de interfaz informática, una que estudia constantemente lo que estás haciendo para brindar asistencia. – se volverá esencial.
El mayor riesgo potencial de seguridad con este cambio surge de un cambio sutil que ocurre en la forma en que funcionan nuestros nuevos dispositivos, dicen los expertos. Debido a que la IA puede automatizar acciones complejas, como eliminar objetos no deseados de una foto, a veces requiere más potencia computacional de la que nuestros teléfonos pueden manejar. Esto significa que es posible que la mayoría de nuestros datos personales tengan que salir de nuestros teléfonos para ser tratados en otro lugar.
La información se envía a la llamada nube, una red de servidores que procesan las solicitudes. Una vez que la información llega a la nube, otros pueden verla, incluidos empleados de la empresa, malos actores y agencias gubernamentales. Y si bien algunos de nuestros datos siempre se almacenan en la nube, nuestros datos más personales e íntimos que alguna vez estuvieron ahí solo para nuestros ojos (fotos, mensajes y correos electrónicos) ahora pueden ser conectados y analizados por una empresa en sus servidores.
Las empresas de tecnología dicen que ponen mucho esfuerzo en proteger los datos de las personas.
Por ahora, es importante comprender qué sucede con nuestros datos cuando utilizamos herramientas de inteligencia artificial, por eso obtuve más información de las empresas sobre sus prácticas de datos y entrevisté a expertos en seguridad. Planeo esperar y ver si las tecnologías funcionan lo suficientemente bien antes de decidir si vale la pena compartir mis datos.
Esto es lo que debe saber.
Inteligencia de Apple
Apple anunció recientemente Apple Intelligence, un conjunto de servicios de inteligencia artificial y su primera entrada importante en la carrera de la inteligencia artificial.
Los nuevos servicios de IA se integrarán en sus iPhones, iPads y Macs más rápidos a partir de este otoño. Las personas podrán usarlo para eliminar automáticamente objetos no deseados de las fotos, crear resúmenes de artículos web y escribir respuestas a mensajes de texto y correos electrónicos. Apple también está renovando su asistente de voz, Siri, para hacerlo más conversacional y brindar acceso a datos entre aplicaciones.
Durante la conferencia de Apple de este mes, cuando presentó Apple Intelligence, Craig Federighi, vicepresidente senior de ingeniería de software de la compañía, compartió cómo podría funcionar: Federighi recibió un correo electrónico de un colega pidiéndole que pospusiera una reunión, pero se suponía que debía hacerlo. ver una obra de teatro protagonizada por su hija esa noche. Luego, su teléfono tomó su calendario, un documento con detalles de la obra y una aplicación de mapas para predecir si llegaría tarde a la obra si aceptaba una reunión más tarde.
Apple dice que está intentando procesar la mayoría de los datos de IA directamente en sus teléfonos y computadoras, lo que evitaría que otros, incluido Apple, accedan a los datos. Pero para las tareas que deben enviarse a los servidores, dijo Apple, ha incorporado medidas de seguridad, incluida la codificación de datos y la eliminación inmediata mediante cifrado.
Apple también ha implementado medidas para que sus empleados no tengan acceso a los datos, dijo la compañía. Apple también dijo que permitiría a los investigadores de seguridad auditar su tecnología para asegurarse de que cumpla sus promesas.
Pero Apple no tenía claro qué nuevas solicitudes de Siri podrían enviarse a los servidores de la compañía, dijo Matthew Green, investigador de seguridad y profesor asociado de ciencias de la computación en la Universidad Johns Hopkins, a quien Apple informó sobre su nueva tecnología. Todo lo que sale de tu dispositivo es inherentemente menos seguro, afirma.
La computadora portátil con inteligencia artificial de Microsoft
Microsoft está llevando la IA a las computadoras portátiles antiguas.
La semana pasada, comenzó a lanzar computadoras con Windows llamadas Copilot+ PC, a partir de $1,000. Las computadoras contienen un nuevo tipo de chip y otros equipos que, según Microsoft, mantendrán sus datos privados y seguros Las PC pueden crear imágenes y reescribir documentos, entre otras nuevas funciones impulsadas por IA.
La compañía también presentó Recall, un nuevo sistema que ayuda a los usuarios a encontrar rápidamente documentos y archivos en los que han trabajado, correos electrónicos que han leído o sitios web que han navegado. Microsoft compara Recall con tener una memoria fotográfica integrada en su PC.
Para usarlo, puedes escribir frases informales, como “Estoy pensando en hacer una videollamada con Joe mientras sostiene una taza de café que dice ‘Amo Nueva York'”. Luego, la computadora recuperará la grabación de la videollamada con esos detalles.
Para lograr esto, Recall toma capturas de pantalla de lo que el usuario está haciendo en la máquina cada cinco segundos y compila esas imágenes en una base de datos con capacidad de búsqueda. Las instantáneas se almacenan y analizan directamente en la PC, por lo que Microsoft no revisa los datos ni los utiliza para mejorar su IA, dijo la compañía.
Aún así, los investigadores de seguridad han advertido sobre riesgos potenciales, explicando que los datos podrían ser Publica fácilmente lo que has escrito o visto Si está pirateado. En respuesta, Microsoft, que tenía la intención de lanzar el retiro del mercado la semana pasada, pospuso su lanzamiento indefinidamente.
Las PC están equipadas con el nuevo sistema operativo Windows 11 de Microsoft. David Weston, el ejecutivo de la empresa que supervisa la seguridad, dijo que existen múltiples capas de seguridad.
IA de Google
Google también anunció un conjunto de servicios de inteligencia artificial el mes pasado.
Su mayor revelación fue un nuevo detector de estafas para llamadas telefónicas impulsado por inteligencia artificial. La herramienta escucha las llamadas telefónicas en tiempo real y si la persona que llama parece un estafador potencial (por ejemplo, si solicita un PIN bancario), la empresa se lo notifica. Google dice que las personas deben activar el detector de estafas, que funciona completamente desde el teléfono. Es decir, Google no escuchará la llamada.
Google anunció otra función, Ask Photos, que requiere enviar datos a los servidores de la empresa. Los usuarios pueden hacer preguntas como “¿Cuándo aprendió mi hija a nadar?” Publicar las primeras fotografías de natación de sus hijos.
Google dice que sus empleados pueden, en casos excepcionales, revisar las conversaciones de Ask Photos y los datos de las fotografías para abordar abusos o daños, y la información también puede usarse para mejorar su aplicación Fotos. Para decirlo de otra manera, su pregunta y las fotografías de natación de su hijo pueden usarse para ayudar a otros padres a encontrar fotografías de sus hijos nadando.
Google dice que su nube está bloqueada con tecnologías de seguridad como cifrado y protocolos para limitar el acceso de los empleados a los datos.
“Nuestro enfoque de protección de la privacidad se aplica a nuestras funciones de inteligencia artificial, ya sea que se ejecuten en dispositivos o en la nube”, dijo en un comunicado Suzanne Frey, ejecutiva de Google que supervisa la confianza y la privacidad.
Pero Green, el investigador de seguridad, dijo que el enfoque de Google hacia la privacidad de la IA parecía relativamente opaco.
“No me gusta la idea de que mis fotos y búsquedas muy personales vayan a una nube que no controlo”, dijo.
