NTT y la Universidad de Tokio desarrollan la primera IA informática óptica del mundo utilizando un algoritmo inspirado en el cerebro humano

La colaboración avanza en la aplicación práctica de la IA de alta velocidad y bajo consumo basada en la computación óptica

TOKIO - (BUSINESS WIRE) -#Tecnologíaparaelbuen-Corporación NTT (Presidente y CEO: Akira Shimada, “NTT”) y el Universidad de Tokio (Bunkyo-ku, Tokio, presidente: Teruo Fujii) han ideado un nuevo algoritmo de aprendizaje inspirado en el procesamiento de información del cerebro que es adecuado para redes neuronales artificiales (DNN) de varias capas que utilizan operaciones analógicas. Este avance conducirá a una reducción en el consumo de energía y el tiempo de cálculo para la IA. Los resultados de este desarrollo fueron publicados en la revista científica británica Nature Communications En diciembre 26^th.

Los investigadores lograron la primera demostración del mundo de aprendizaje DNN óptico ejecutado de manera eficiente mediante la aplicación del algoritmo a un DNN que utiliza computación análoga óptica, que se espera que permita dispositivos de aprendizaje automático de alta velocidad y bajo consumo. Además, han logrado el rendimiento más alto del mundo de una red neuronal artificial de múltiples capas que utiliza operaciones analógicas.

En el pasado, los cálculos de aprendizaje de alta carga se realizaban mediante cálculos digitales, pero este resultado demuestra que es posible mejorar la eficiencia de la parte de aprendizaje mediante el uso de cálculos analógicos. En la tecnología Deep Neural Network (DNN), una red neuronal recurrente llamada computación de reservorio profundo se calcula asumiendo un pulso óptico como una neurona y un anillo óptico no lineal como una red neuronal con conexiones recursivas. Al volver a ingresar la señal de salida al mismo circuito óptico, la red se profundiza artificialmente.

La tecnología DNN permite la inteligencia artificial (IA) avanzada, como la traducción automática, la conducción autónoma y la robótica. En la actualidad, la potencia y el tiempo de cálculo necesarios aumentan a un ritmo que supera el crecimiento del rendimiento de los ordenadores digitales. Se espera que la tecnología DNN, que utiliza cálculos de señales analógicas (operaciones analógicas), sea un método para realizar cálculos de alta eficiencia y alta velocidad similares a la red neuronal del cerebro. La colaboración entre NTT y la Universidad de Tokio ha desarrollado un nuevo algoritmo adecuado para una operación analógica DNN que no asume la comprensión de los parámetros de aprendizaje incluidos en la DNN.

El método propuesto aprende cambiando los parámetros de aprendizaje en función de la capa final de la red y la transformación aleatoria no lineal del error de la señal de salida deseada (señal de error). Este cálculo facilita la implementación de cálculos analógicos en elementos como los circuitos ópticos. También se puede utilizar no solo como modelo para la implementación física, sino también como un modelo de vanguardia utilizado en aplicaciones como la traducción automática y varios modelos de IA, incluido el modelo DNN. Se espera que esta investigación contribuya a resolver los problemas emergentes asociados con la computación de IA, incluido el consumo de energía y el aumento del tiempo de cálculo.

Además de examinar la aplicabilidad del método propuesto en este documento a problemas específicos, NTT también promoverá la integración a gran y pequeña escala de hardware óptico, con el objetivo de establecer una plataforma informática óptica de alta velocidad y bajo consumo para futuros redes

Apoyo a esta Investigación:

JST/CREST apoyó parte de estos resultados de investigación.

Publicación de la revista:

Magazine: Nature Communications (Versión en línea: 26 de diciembre)

Título del artículo: Aprendizaje profundo físico con método de entrenamiento inspirado biológicamente: enfoque sin gradiente para hardware físico

Autores: Mitsumasa Nakajima, Katsuma Inoue, Kenji Tanaka, Yasuo Kuniyoshi, Toshikazu Hashimoto y Kohei Nakajima

Explicación de la terminología:

1. Circuito óptico: un circuito en el que las guías de ondas ópticas de silicio o cuarzo se integran en una oblea de silicio utilizando tecnología de fabricación de circuitos electrónicos. En comunicación, la bifurcación y fusión de caminos de comunicación óptica se realizan mediante interferencia óptica, multiplexación/desmultiplexación de longitud de onda y similares.
2. Método Backpropagation (BP): el algoritmo de aprendizaje más utilizado en el aprendizaje profundo. Los gradientes de pesos (parámetros) en la red se obtienen mientras se propaga la señal de error hacia atrás, y los pesos se actualizan para que el error sea menor. Dado que el proceso de retropropagación requiere la transposición de la matriz de peso del modelo de red y la diferenciación no lineal, es difícil de implementar en circuitos analógicos, incluido el cerebro de un organismo vivo.
3. Computación analógica: una computadora que expresa valores reales usando cantidades físicas como la intensidad y la fase de la luz y la dirección e intensidad de los espines magnéticos y realiza cálculos cambiando estas cantidades físicas de acuerdo con las leyes de la física.
4. Método de alineación de retroalimentación directa (DFA): método de pseudocálculo de la señal de error de cada capa mediante la realización de una transformación aleatoria no lineal en la señal de error de la capa final. Dado que no requiere información diferencial del modelo de red y solo puede calcularse mediante transformación aleatoria paralela, es compatible con el cálculo analógico.
5. Computación de reservorio: un tipo de red neuronal recurrente con conexiones recurrentes en la capa oculta. Se caracteriza por la fijación aleatoria de conexiones en una capa intermedia denominada capa reservorio. En la computación de yacimientos profundos, el procesamiento de la información se realiza conectando capas de yacimientos en múltiples capas.

NTT y el logotipo de NTT son marcas registradas o marcas comerciales de NIPPON TELEGRAPH AND TELEPHONE CORPORATION y/o sus afiliados. Todos los demás nombres de productos a los que se hace referencia son marcas comerciales de sus respectivos propietarios. © 2023 NIPPON TELÉGRAFOS Y CORPORACIÓN DE TELÉFONOS

Contacto

esteban russell

Comunicaciones alámbricas®

Para NTT

+1-804-362-7484

[email protected]