Los investigadores del MIT han desarrollado una tabla periódica que muestra cómo se conectan más de 20 algoritmos clásicos de aprendizaje automático. El nuevo marco destaca cómo los científicos pueden fusionar las estrategias de varias maneras para mejorar el modelo de IA existente.
Por ejemplo, los investigadores utilizaron su marco para combinar dos elementos de algoritmo diferentes para crear un nuevo algoritmo rancionado de imagen que tuvo un 8 % mejor desde el punto de vista moderno actual.
La tabla periódica se crea con una idea importante: todos estos algoritmos aprenden un cierto tipo de relación entre los puntos de datos. Aunque cada algoritmo puede cumplir con eso de una manera ligeramente diferente, las matemáticas básicas detrás de cada enfoque son las mismas.
Al empujar estas ideas, los investigadores identificaron la igualdad de solidaridad, lo que identifica muchos algoritmos de IA clásicos. Usaron esta ecuación para negar métodos populares y los usan para organizar una tabla, en la que cada una se ha clasificado en función de su estimación de aprendizaje.
Así como la tabla continua de elementos químicos, que inicialmente consistía en cuadrados vacíos, que luego fueron llenados por científicos, también tiene vacantes en la tabla continua de aprendizaje automático. Estos lugares predicen dónde debería estar el algoritmo, pero que aún no se han descubierto.
En este nuevo marco, el estudiante graduado del MIT y autor de una disertación por una disertación, Shaden al -Shamari, dice, de esta tabla, los investigadores se les ha proporcionado una herramienta para diseñar nuevos algoritmos sin la necesidad de descubrir las ideas anteriores.
“Esto no es solo una metáfora”, agregó Al -Shamari. “Estamos comenzando a ver el aprendizaje automático como un sistema que es un lugar que podemos encontrar en lugar de solo estimar nuestro camino”.
Ella se ha unido al periódico de la idea de Google AI por Jan Harshi. Excel Fieldman, un estudiante graduado del MIT; Profesor de Ingeniería Eléctrica e Ciencias de la Computación e Informática y Laboratorio de Inteligencia Artificial (CSAIL) de William Freeman, Thomas y Gerd Perinses; Y el autor senior Mark Hamilton, estudiante graduado del MIT y gerente de ingeniería senior en Microsoft. Esta investigación se presentará en la Conferencia Internacional sobre Aprendizaje.
Una ecuación accidental
Los investigadores no se prepararon para construir tablas de aprendizaje automático.
Después de unirse al laboratorio Freeman, Al -Shamari comenzó a estudiar la agrupación, una técnica de aprendizaje de máquina que clasifica las fotos al aprender a configurar imágenes similares en los grupos cercanos.
Se dio cuenta de que el algoritmo de agrupación que estaba estudiando era como otro algoritmo clásico de aprendizaje automático, llamado aprendizaje contradictorio y comenzó a profundizar en las matemáticas. Al -Shamari descubrió que estos dos algoritmos diferentes podrían recuperarse utilizando la misma ecuación básica.
Hamilton dice: “Casi alcanzamos esta ecuación de solidaridad accidentalmente. Una vez que la sombra descubrió dos maneras, comenzamos a soñar con nuevas formas de traer este marco. Casi todos los que intentamos incluirlo”.
El marco que desarrollaron, la información contradictoria (I-Con) muestra cómo se pueden ver diferentes algoritmos a través de la lente de esta igualdad de solidaridad. Esto incluye todo lo que va desde el algoritmo de las clasificaciones que pueden detectar el spam, que es un algoritmo de aprendizaje profundo, que es la LLM de poder.
La ecuación explica cómo tales algoritmos buscan contactos entre puntos de datos reales y luego evalúan estos contactos internamente.
El propósito de cada algoritmo es minimizar la cantidad de desviación entre los contactos que aprende sus datos de capacitación para estimaciones y contactos reales.
Decidieron organizar a los I-Men en una tabla constante para calificar el algoritmo a cómo los puntos están vinculados a datos reales y los algoritmos se pueden evaluar de manera básica.
“El trabajo fue lentamente, pero una vez que identificamos la estructura general de esta ecuación, fue fácil agregar más formas a nuestro marco”.
Un dispositivo de descubrimiento
Cuando organizaron la mesa, los investigadores comenzaron a mirar la brecha donde los algoritmos podían estar presentes, pero aún no se habían inventado.
Los investigadores tomaron ideas prestadas de las técnicas de aprendizaje automático y se llenaron en un vacío llamado aprendizaje conflictivo y las aplican a la agrupación de imágenes. Esto dio como resultado un nuevo algoritmo que puede calificar las imágenes sin etiqueta 8 % mejor desde otra perspectiva sofisticada.
También utilizaron el I-CON para mostrar cómo la técnica de dedicación de datos diseñada para aprender contradictorio puede usarse para mejorar la precisión de los algoritmos de agrupación.
Además, flexible de vez en cuando permite a los investigadores agregar nuevas filas y columnas para representar tipos adicionales de conexión de punto de datos.
Hamilton dice que, en última instancia, mantener el ícono como guía puede ayudar a los científicos del aprendizaje a pensar fuera de la caja y alentarlos a combinar ideas de las formas en que no piensan necesariamente.
Agregó: “Hemos demostrado que solo una ecuación muy hermosa conectada en la ciencia de la información, le proporciona 100 años de investigación en aprendizaje automático. Esto abre muchas formas nuevas de descubrir”.
Esta investigación fue parcialmente proporcionada por la inteligencia artificial de la Fuerza Aérea, el Instituto Nacional de IA de la Fundación Ciencia para la Inteligencia Artificial y las Interacciones Básicas, y la computadora de Quanta Financied.
