Los investigadores aplicaron la teoría matemática de la sincronía para explicar cómo las redes neuronales recurrentes (RNN) generan predicciones, revelando un mapa específico, basado en la sincronía general, que conduce a la obtención de valores precisos. Demostraron que la computación de yacimientos (RC) convencional, un tipo de RNN, puede verse como una aproximación lineal e introdujeron una “lectura generalizada” que incorpora una aproximación de orden adicional. Utilizando una caótica tarea de pronóstico de series de tiempo, demostraron que este enfoque aumenta dramáticamente tanto la precisión como la solidez del pronóstico.
Reservoir Computing (RC) es un potente módulo de aprendizaje automático diseñado para manejar tareas que involucran datos secuenciales o basados en el tiempo, como el seguimiento de patrones a lo largo del tiempo o el análisis de secuencias. Se utiliza ampliamente en campos como las finanzas, la robótica, el reconocimiento de voz, la previsión meteorológica, el procesamiento del lenguaje natural y la predicción de sistemas dinámicos no lineales complejos. Lo que distingue a RC es su eficiencia: proporciona resultados potentes con costos de capacitación mucho más bajos que otros métodos.
RC utiliza una capa de red fija y conectada aleatoriamente, conocida como depósito, para transformar los datos de entrada en una representación más compleja. Luego, una capa de lectura analiza esta representación para encontrar patrones y conexiones en los datos. A diferencia de las redes neuronales tradicionales, que requieren un entrenamiento exhaustivo en múltiples capas de la red, RC entrena solo la capa de lectura, generalmente mediante un proceso de regresión lineal simple. Esto reduce sustancialmente la cantidad de cálculo necesario para que RC sea rápido y computacionalmente eficiente. Inspirándose en el funcionamiento del cerebro, RC utiliza una estructura de red fija pero aprende el resultado de forma adaptativa. Es particularmente bueno para predecir sistemas complejos e incluso puede usarse para computación de alto rendimiento y eficiencia energética en dispositivos físicos (llamado RC físico). Sin embargo, ¿se puede mejorar?
Un estudio reciente realizado por el Dr. Masanobu Inuboshi y la Sra. Akane Ohkubo del Departamento de Matemáticas Aplicadas de la Universidad de Ciencias de Tokio, Japón, presenta un nuevo método para ampliar la RC. “Inspirándonos en estudios matemáticos recientes sobre sincronización generalizada, desarrollamos un marco RC novedoso que incluye una lectura generalizada, incluida una combinación no lineal de variables del yacimiento”, explica el Dr. Inuboshi. “Este método ofrece mayor precisión y robustez que el RC convencional”. Sus resultados se publicaron el 28 de diciembre de 2024. Informes científicos.
El nuevo método RC basado en lectura generalizada se basa en la función aritmética, hque asigna el estado del embalse al valor objetivo de una tarea determinada, por ejemplo: un estado futuro en el caso de tareas de pronóstico. Esta función se basa en la simetría general, un fenómeno matemático en el que el comportamiento de un sistema puede describirse completamente por el estado de otro. Estudios recientes han demostrado que en RC existe un mapa de correlación general entre los datos de entrada y las condiciones del yacimiento, y los investigadores utilizaron este mapa para derivar funciones. h.
Para explicar esto, los investigadores utilizaron la expansión en serie de Taylor, que simplifica funciones complejas en partes más pequeñas y manejables.. Por el contrario, su enfoque de lectura general implica una combinación no lineal de variables del yacimiento, lo que permite que los datos sean más complejos y se correlacionen de manera flexible para descubrir patrones más profundos. Esto proporciona una representación más general y compleja. hlo que permite que la capa de lectura capture patrones basados en el tiempo más complejos en los datos de entrada, lo que mejora la precisión. A pesar de esta complejidad adicional, el proceso de aprendizaje es tan simple y computacionalmente eficiente como el RC convencional.
Para probar su método, los investigadores realizaron estudios numéricos sobre sistemas caóticos como los atractores de Lorenz y Rüssler, modelos matemáticos conocidos por su comportamiento ambiental impredecible. Los resultados mostraron una mejora significativa en la precisión con un aumento inesperado en la solidez de los pronósticos tanto a corto como a largo plazo en comparación con el RC convencional.
El Dr. Inuboshi explica: “Nuestro enfoque de lectura general combina matemáticas rigurosas con aplicaciones prácticas. Si bien se desarrollaron inicialmente dentro del marco de RC, la teoría de sincronización y los métodos generales basados en lectura son aplicables a una clase más amplia de arquitecturas de redes neuronales”, explica el Dr. Inuboshi.
Aunque se necesita más investigación para explorar plenamente su potencial, el método RC basado en lecturas en general representa un avance importante y prometedor para varios campos, un paso emocionante en la computación de yacimientos.
