Sistema informático para entrenar redes neuronales.
Un método (400) implementado por ordenador para entrenar una red neuronal que comprende:
determinar (402) matrices de gradientes de un modelo de cálculo de un problema de optimización, el modelo de cálculo que incluye una red neuronal;
cuantificar (404) las matrices de gradientes mediante el uso de matrices de errores de cuantificación almacenados;
actualizar (406) las matrices de errores de cuantificación mediante el uso de las matrices de gradientes cuantificados correspondientes; intercambiar las matrices de gradientes cuantificados con un número de unidades de procesamiento; y modificar el modelo de cálculo según las matrices de gradientes cuantificados; y
además comprende repetir los pasos de la determinación (402), cuantificación (404), actualización (406), e intercambio para cada uno de una pluralidad de mini lotes (218) de datos entrenados del modelo de cálculo, el intercambio para un primero de los mini lotes que es realizado en paralelo con la determinación (402), cuantificación (404), o actualización (406) para un segundo de los mini lotes; y
donde la cuantificación (404) de las matrices de gradientes para un mini lote actual comprende determinar los valores de cuantificación mediante la adición de un error de cuantificación para un mini lote anterior a un valor de gradiente para el mini lote actual.
Tipo: Patente Internacional (Tratado de Cooperación de Patentes). Resumen de patente/invención. Número de Solicitud: PCT/CN2014/086398.
Solicitante: Microsoft Technology Licensing, LLC.
Nacionalidad solicitante: Estados Unidos de América.
Dirección: ONE MICROSOFT WAY REDMOND, WASHINGTON 98052-6399 ESTADOS UNIDOS DE AMERICA.
Inventor/es: YU, DONG, LI,GANG, LANGFORD,JOHN, SEIDE,FRANK TORSTEN BERND, DROPPO,JAMES.
Fecha de Publicación: .
Clasificación Internacional de Patentes:
- G06N3/04 FISICA. › G06 CALCULO; CONTEO. › G06N SISTEMAS DE COMPUTADORES BASADOS EN MODELOS DE CALCULO ESPECIFICOS. › G06N 3/00 Sistemas de computadores basados en modelos biológicos. › Arquitectura, p. ej. topología de interconexión.
- G06N3/08 G06N 3/00 […] › Métodos de aprendizaje.
- G06N7/00 G06N […] › Sistemas de computadores basados en modelos matemáticos específicos.
PDF original: ES-2738319_T3.pdf
Patentes similares o relacionadas:
Red y método para sistemas informáticos escalables accionados por eventos, del 8 de Julio de 2020, de UNIVERSITAT ZURICH: Una red que comprende una pluralidad de circuitos de núcleo interconectados , en la que cada circuito de núcleo comprende: - una matriz […]
Procedimiento de procesamiento de señales de descarga parcial y aparato que emplea una red neuronal, del 11 de Septiembre de 2019, de PRYSMIAN S.P.A.: Procedimiento de procesamiento de señales de descarga parcial que comprende: establecer un primer criterio de discriminación entre los siguientes criterios: […]
Sistema de red neuronal artificial de tipo asincrónico, del 10 de Julio de 2019, de THE UNIVERSITY OF BATH: Un sistema de red neuronal artificial asíncrono que comprende una pluralidad de neuronas, cada una de las cuales se utiliza para recibir señales de entrada que representan […]
Sistema para aplicar una red convolucional a datos espaciales, del 3 de Julio de 2019, de Atomwise Inc: Un sistema informático para predecir afinidad de unión de un compuesto químico a un polímero objetivo usando datos espaciales, comprendiendo el sistema informático: al […]
PROCEDIMIENTO Y SISTEMA DE GENERACIÓN DE RESÚMENES DE TEXTO EXTRACTIVOS UTILIZANDO APRENDIZAJE PROFUNDO NO SUPERVISADO Y AUTOCODIFICADORES, del 13 de Junio de 2019, de UNIVERSIDAD DE LEON: Procedimiento y sistema para la generación de resúmenes de texto extractivo utilizando aprendizaje profundo no supervisado y autocodificadores. Se […]
Capas de normalización por lotes, del 27 de Mayo de 2019, de Google LLC: Sistema de red neuronal implementado por uno o más ordenadores, comprendiendo el sistema de red neuronal: una capa de normalización por lotes entre una […]
Procedimiento y dispositivo de control de un dispositivo de ayuda a la visión, del 6 de Marzo de 2019, de CENTRE NATIONAL DE LA RECHERCHE SCIENTIFIQUE (C.N.R.S.): Dispositivo de tratamiento de señal para el control de un dispositivo de ayuda a la visión , que comprende una entrada que recibe una señal de entrada (f) representativa […]
METODO DE MANTENIMIENTO DE UN MATERIAL RODANTE, del 13 de Junio de 2011, de METRO DE MADRID, S.A.: La presente invención hace referencia a un método de mantenimiento de un material rodante. Dicho material rodante comprende al menos un coche, dicho coche comprende […]