Guía para la Planificación de Respuesta ante Incidentes en Inteligencia Artificial.
Con el avance rápido de la Inteligencia Artificial, existe una probabilidad significativa de fallos. No hay desarrollo tecnológico sin fallos, solo que el resultado de estos no debe ser desastroso. Los fallos en IA pueden agruparse en temas de seguridad, violaciones de privacidad o falta de transparencia y responsabilidad. Las empresas deben estar preparadas para responder a fallos masivos que puedan requerir asistencia legal.
Las Bases de Datos de Incidentes de IA ofrecen perspectivas sobre los diversos incidentes ocurridos y la importancia de actualizar los datos. Los fallos de IA pueden provocar enormes pérdidas financieras y también afectar la reputación de la empresa. Aquí es donde los planes de respuesta ante incidentes de IA ofrecen una solución. Los planes de respuesta son necesarios ya que la IA se diferencia del software tradicional.
Los datos de entrada en los que trabaja la IA son datos históricos, por lo que necesitan ser constantemente actualizados con el tiempo. La complejidad de la IA, especialmente en sistemas que involucran IA generativa o aprendizaje profundo, tiene muchos nodos interconectados, lo que dificulta identificar dónde ha ocurrido el error. Inexactitudes menores en el sistema pueden llevar a fallos masivos que afecten a la humanidad.
Los planes de respuesta ante incidentes de IA necesitan adoptar medidas de ciberseguridad avanzadas, que van más allá de las medidas de ciberseguridad tradicionales, que generalmente se toman para amenazas específicas como las brechas de datos.
Aquí hay algunos pasos que se pueden seguir para la respuesta ante incidentes de IA:
Preparación
Se deben seguir ciertas políticas y procedimientos para abordar una respuesta específica ante incidentes. La respuesta debe definir el término y la amenaza que causó, así como los roles y responsabilidades asumidos. Incluir el evento y el error que condujeron a la aparición de esta amenaza, así como el resultado del ataque externo. Establecer políticas y procedimientos que involucren el fallo en todas las etapas del ciclo de vida del modelo o sistema. Iniciar capacitación en la organización para operar y ejecutar las políticas para concienciar a las personas sobre el incidente.
Identificación
Siga los estándares de la industria para detectar el incidente. Monitoree las plataformas de IA para descubrir el daño que la IA puede causar. Busque retroalimentación de los consumidores u organizaciones que la operan.
Contención
Tome medidas para abordar el daño inmediato, luego pause las operaciones y busque respaldo para abordar la situación. Siga las instrucciones procedimentales para evaluar el incidente, de lo contrario, podría causar daños graves. Intente solucionar técnicamente como lo identificaron los ingenieros para minimizar el daño causado.
Erradicación
Elimine el sistema que causó el incidente y no realice ninguna actualización en el sistema hasta que se revise y se proporcione retroalimentación de que no ocurrirá ningún otro incidente relacionado con el sistema en el futuro. Realice pruebas documentadas en el sistema revisado o reemplazado, especialmente aquellos sistemas que llevaron al incidente.
Recuperación
El sistema revisado debe ser reforzado antes del despliegue. Establezca un punto de referencia para el sistema reemplazado y la salida antes de realizar cualquier desarrollo o actualización adicional. Una de las mejores maneras de mitigar daños debido a la IA es incluir equipos interdisciplinarios en la organización. Los gestores de riesgos pueden desempeñar un papel vital en la coordinación entre los tecnólogos y profesionales legales que pueden ayudarnos a mitigar tales pérdidas.
