본문 바로가기
카테고리 없음

Pytorhc #3. Gradient Descent

by 헤옹스 2019. 5. 18.

<lowest cost을 갖도록 하는 w 값을 자동으로 구하는 Gradient Descent 알고리즘>

 

 

 

 

 

w를 수동으로 찾기에는 불가능하다.

move in, move out 할지를 결정하는 근거?!?!?!?

Graient +이면 move in. (왼쪽으로 이동.)

Gradine가 -d면 move out.(오른쪽으로 이동)

 

 

 

 

running rate : 알파.

gradient 가 0가 될때까지 Global minimum을 찾기.

  ==> 이게 수동적이지 않게 Global minimum을 찾기 위한 systemic한 방법!

 

 

 

gradient를 구하는 방법