초록 ▼

경사 하강 알고리즘(130)에 따라 파라미터(132)를 반복적으로 업데이트하기 위한 시스템(100) 및 방법(200)이 개시된다.방법의 주어진 n 번째 반복에서, 하나 이상의 프로세서들은 제1 차원에서 파라미터의 경사 벡터의 경사 값을 결정하고(210), (i) n-1 번째 반복에서 결정되는 곱 값과 (ii) 결정된 경사 값과 경사 하강 알고리즘의 학습률의 곱의 합에 적어도 부분적으로 기초하여 곱 값을 결정하고(220), 곱 값을 포함하는 함수에 따라 업데이트된 파라미터 값을 결정하고(230), 그리고 업데이트된 파라미터 값과 동일

경사 하강 알고리즘(130)에 따라 파라미터(132)를 반복적으로 업데이트하기 위한 시스템(100) 및 방법(200)이 개시된다.방법의 주어진 n 번째 반복에서, 하나 이상의 프로세서들은 제1 차원에서 파라미터의 경사 벡터의 경사 값을 결정하고(210), (i) n-1 번째 반복에서 결정되는 곱 값과 (ii) 결정된 경사 값과 경사 하강 알고리즘의 학습률의 곱의 합에 적어도 부분적으로 기초하여 곱 값을 결정하고(220), 곱 값을 포함하는 함수에 따라 업데이트된 파라미터 값을 결정하고(230), 그리고 업데이트된 파라미터 값과 동일하도록 파라미터를 업데이트할 수 있다(240).

대표청구항 ▼

경사 하강 알고리즘(gradient descent algorithm)에 따라 파라미터를 반복적으로 업데이트하기 위한 방법으로서,n 번째 반복에서:하나 이상의 프로세서들에 의해, 제1 차원에서 상기 파라미터의 경사 벡터의 경사 값을 결정하는 단계;상기 하나 이상의 프로세서들에 의해, (i) n-1 번째 반복에서 결정되는 곱 값(product value)과 (ii) 상기 결정된 경사 값과 상기 경사 하강 알고리즘의 학습률의 곱의 합에 적어도 부분적으로 기초하여 곱 값을 결정하는 단계;상기 하나 이상의 프로세서들에 의해, 상기 곱 값을

경사 하강 알고리즘(gradient descent algorithm)에 따라 파라미터를 반복적으로 업데이트하기 위한 방법으로서,n 번째 반복에서:하나 이상의 프로세서들에 의해, 제1 차원에서 상기 파라미터의 경사 벡터의 경사 값을 결정하는 단계;상기 하나 이상의 프로세서들에 의해, (i) n-1 번째 반복에서 결정되는 곱 값(product value)과 (ii) 상기 결정된 경사 값과 상기 경사 하강 알고리즘의 학습률의 곱의 합에 적어도 부분적으로 기초하여 곱 값을 결정하는 단계;상기 하나 이상의 프로세서들에 의해, 상기 곱 값을 포함하는 함수에 따라 업데이트된 파라미터 값을 결정하는 단계; 및상기 하나 이상의 프로세서들에 의해, 상기 업데이트된 파라미터 값과 동일하도록 상기 파라미터를 업데이트하는 단계를 포함하는, 경사 하강 알고리즘에 따라 파라미터를 반복적으로 업데이트하기 위한 방법.