[Paper Review] Time Series Forecasting (TSF) Using Various Deep Learning Models (2)

[Paper Review] Time Series Forecasting (TSF) Using Various Deep Learning Models (2)

저번 포스팅에서 [Time Series Forecasting (TSF) Using Various Deep Learning Models] 논문 소개 및 사용할 딥러닝 모델 프레임워크를 소개하였다. https://y8jinn.tistory.com/69 [Paper Review] Time Series Forecasting (TSF) Using Various Deep Learning Models (1)목차 Ⅰ. Introduction Ⅱ. Methodology Ⅲ. Deep Learning Frameworks 논문의 목적 time series 데이터에 대해 RNN, LSTM, GRU, Transformer 4개의 모델들을 학습 및 평가하여 비교한다. 각 모델들의 강점과 약점을 평가한y8jinn.tistory.c..

  • format_list_bulleted Deep Learning & AI/Time-Series
  • · 2024. 5. 13.
  • textsms
[Paper Review] Time Series Forecasting (TSF) Using Various Deep Learning Models (1)

[Paper Review] Time Series Forecasting (TSF) Using Various Deep Learning Models (1)

목차 Ⅰ. Introduction Ⅱ. Methodology Ⅲ. Deep Learning Frameworks 논문의 목적 time series 데이터에 대해 RNN, LSTM, GRU, Transformer 4개의 모델들을 학습 및 평가하여 비교한다. 각 모델들의 강점과 약점을 평가한다. w, k의 영향력을 정확도 측면에서 이해해본다. Ⅰ. Introduction Time Series Forecasting (TSF)는 과거의 observations로부터 미래 시점의 예측 변수 분포를 예측하는 문제이다. traditional models linear : ARMA (stationary일 경우), ARIMA (non-stationary일 경우 차분을 해서 데이터가 정상성을 가질 수 있게) non-linear..

  • format_list_bulleted Deep Learning & AI/Time-Series
  • · 2024. 4. 1.
  • textsms
[시계열 분석] ARIMA(AutoRegressive Integreted Moving Average) - 자기 회귀 누적 이동 평균 모델

[시계열 분석] ARIMA(AutoRegressive Integreted Moving Average) - 자기 회귀 누적 이동 평균 모델

전 게시물인 '[시계열 분석] 정상성' 에서도 알 수 있듯이, 시계열 데이터는 추세-주기, 계절성, 잔차의 합 혹은 곱으로 볼 수 있음. https://y8jinn.tistory.com/63 [시계열 분석] 정상성 시계열 데이터 분석의 기본 전제가 되는 중요한 특성인 정상성에 대해 알아보자. 정상성 - 시간의 흐름에 관계없이 데이터의 평균 및 분산이 일정함을 의미하며, 이런 특성은 시계열 분석의 기 y8jinn.tistory.com 추세와 계절성이 명확히 드러나는 경우 -> 추세와 계절성, 잔차로의 분해만으로도 예측할 수 있으나, 명확한 추세와 계절성을 가지지 않는 주식이나 금값, 유가 등은 어떻게 예측할까? => 시계열 모델 ARIMA (AutoRegressive Integreted Moving Ave..

  • format_list_bulleted Deep Learning & AI/Time-Series
  • · 2024. 2. 26.
  • textsms
[시계열 분석] 정상성

[시계열 분석] 정상성

시계열 데이터 분석의 기본 전제가 되는 중요한 특성인 정상성에 대해 알아보자. 정상성 - 시간의 흐름에 관계없이 데이터의 평균 및 분산이 일정함을 의미하며, 이런 특성은 시계열 분석의 기본 전제가 된다. (누적, 추세 ㄴㄴ) - 시계열 데이터의 기본적인 특징은, 특정 시점의 값이 다른 시점의 값과 특정한 방식으로의 연관을 가지고 있다는 것. 즉, 각 값이 서로 완전히 독립적이지 않다는 것. 시계열 분석은 이런 서로 연관된 값들의 관계를 파악하는 것. - 통계적 시계열 분석에서, 우리는 어떤 확률 과정을 따르는 시계열이 있다고 가정하고 그 통계적 과정으로부터 나타난 표본을 통해 그 통계적 과정을 알아내고자 한다. 하지만 이 과정을 정확히 알아내는건 매우 어려우며, 이를 해결하기 위해 강한 과정을 바탕에 깔..

  • format_list_bulleted Deep Learning & AI/Time-Series
  • · 2024. 2. 19.
  • textsms
순서가 있는 데이터를 위한 딥러닝 기본 - RNN BPTT

순서가 있는 데이터를 위한 딥러닝 기본 - RNN BPTT

RNN의 학습, BPTT (Back Propagation Through Time) 먼저 loss 함수를 구체적으로 기술하자면, softmax와 CrossEntropyLoss 를 사용하는 Classification 모델이라면, 가중치 Wyh는 전시간에 공유되므로, Wyh를 기반으로 미분가능 마찬가지로 Lt+1dms ht+1과 전시간에 공유되는 Whh를 기반으로 다음과 같이 표현할 수 있음 이를 ht까지 확장하면, 다음과 같이 표현할 수 있음 (ht+1 계산에 ht가 사용되므로 다음과 같이 미분 가능) -> 체인룰임 예를 들어, 이렇게 표현할 수 있음. 따라서, Lt+1은 다음과 같이 표현할 수 있음 즉, 각 시점에서 발생한 hidden state까지의 미분값을 모두 합친 것 hidden state는 tan..

  • format_list_bulleted Deep Learning & AI/Time-Series
  • · 2024. 2. 12.
  • textsms
순서가 있는 데이터를 위한 딥러닝 기본 - RNN 핵심 이해

순서가 있는 데이터를 위한 딥러닝 기본 - RNN 핵심 이해

아래 내용은 인프런 [처음하는 딥러닝과 파이토치(Pytorch) 부트캠프] 강의를 듣고 공부한 내용입니다. RNN Recurrent Neural Network, 순환 신경망 이라고함 입력과 출력을 시퀀스 단위로 처리하는 시퀀스(Sequence) 모델 시퀀스(Sequence)란 연관된 연속 데이터를 의미하며, 시계열 데이터 등 순서를 가지는 데이터(그 전의 데이터를 가지고 예측해야하니까 시간축이 중요함) 에 적합한 신경망 모델 ( CNN과 마찬가지로 DNN으로도 시계열 데이터 분석 가능하지만 더 성능이 좋음) 번역기의 입력은 단어가 순서를 띄고 나열된 문장 시퀀스이며, 출력도 번역된 단어가 순서를 띄고 나열된 번역 문장 시퀀스임 가장 기본적인 시퀀스 모델이며, 최근에는 RNN을 기반으로 개선된 LSTM과 ..

  • format_list_bulleted Deep Learning & AI/Time-Series
  • · 2024. 2. 11.
  • textsms