Skip to Content

4주차 - ETSformer (1)

ETSformer: Exponential Smoothing Transformers for Time-series Forecasting https://arxiv.org/pdf/2202.01381.pdf 


지수 평활법

지수평활법의 수식

감쇠 계수 α는 0과 1 사이의 값을 가지며, 값이 클수록 최근의 자료에 더 많은 가중치를 부여합니다. 일반적으로 α는 0.1에서 0.9 사이의 값을 사용합니다 예를 들어, α가 0.5라면, t시점의 예측값Ft F_t는 다음과 같이 계산됩니다.

Ft=0.5yt+0.5Ft1F_t = 0.5y_t + 0.5F_{t - 1}

이는 t시점의 관측값 yty_t와 전기의 예측값Ft1 F_{t - 1}을 각각 0.5씩 가중하여 계산하는 것입니다. 위의 예시에서, 관측값 yty_t는 1, 2, 3, 4, 5입니다. 감쇠 계수 α를 0.5로 설정하면, 예측값 F_t는 다음과 같이 계산됩니다.

💡 예시 F1F_1= 0.5(1) + 0.5(0) = 0.5F2F_2= 0.5(2) + 0.5(0.5) = 1.25F3F_3= 0.5(3) + 0.5(1.25) = 2.125F4F_4= 0.5(4) + 0.5(2.125) = 3.1875F5F_5 = 0.5(5) + 0.5(3.1875) = 4.2375

이처럼 단순 지수평활법은 과거의 관측값에 가중치를 부여하여 현재까지의 추세를 파악하고, 이를 바탕으로 미래를 예측하는 방법


다중평활법

단순 지수평활법의 단점을 보완하기 위해 제안된 방법입니다. 단순 지수평활법은 추세와 계절성을 동시에 모델링하지 못하기 때문에, 추세가 급격하게 변하는 경우나 계절성이 있는 경우에는 예측 정확도가 떨어질 수 있습니다. 다중평활법은 추세와 계절성을 별도로 모델링하여, 이러한 단점을 보완합니다. 추세를 모델링하는 데에는 단순 지수평활법을 사용하고, 계절성을 모델링하는 데에는 이동평균법을 사용합니다.

다중평활법의 수식은 다음과 같습니다.

감쇠 계수 α와 계절성 계수 β는 0과 1 사이의 값을 가지며, 값이 클수록 최근의 자료에 더 많은 가중치를 부여합니다. 일반적으로 α는 0.1에서 0.9 사이의 값을 사용하고, β는 0.1에서 0.9 사이의 값을 사용합니다. 예를 들어, α가 0.5이고 β가 0.8이라면, t시점의 예측값Ft F_t는 다음과 같이 계산됩니다.

Ft=0.5yt+0.5Ft1F_t = 0.5y_t + 0.5F_{t - 1}`

$S_t = (y_t - F_t) / 5$

`Ft=Ft+0.8StF_t = F_t + 0.8S_t

이는 t시점의 관측값 yty_t, 전기의 예측값 Ft1F_{t - 1}, 그리고 전기의 계절성 값 St1S_{t - 1}을 각각 가중하여 계산하는 것입니다. 위의 예시에서, 관측값 yty_t는 1, 2, 3, 4, 5입니다. 감쇠 계수 α를 0.5로 설정하고, 계절성 계수 β를 0.8로 설정하면, 예측값 FtF_t는 다음과 같이 계산됩니다.

F1F_1= 0.5(1) + 0.5(0) = 0.5F2F_2 = 0.5(2) + 0.5(0.5) = 1.25 F3F_3= 0.5(3) + 0.5(1.25) = 2.125F4F_4= 0.5(4) + 0.5(2.125) = 3.1875F5F_5 = 0.5(5) + 0.5(3.1875) = 4.2375

이처럼 다중평활법은 추세와 계절성을 별도로 모델링하여, 단순 지수평활법의 단점을 보완하고 예측 정확도를 향상시킵니다. 다중평활법은 다음과 같은 장점이 있습니다.

  • 추세와 계절성을 동시에 모델링하여 예측 정확도를 향상시킬 수 있다.
  • 단순 지수평활법보다 계절성 변동에 강하다. 단점은 다음과 같습니다.
  • 계절성 변동이 복잡한 경우에는 예측 정확도가 떨어질 수 있다.
  • 계절성 계수를 적절하게 설정하는 것이 중요하다.

Holt-Winters Exponential Smoothing

시계열 데이터를 예측하는 데 사용되는 선형 모델입니다. 이 모델은 다음과 같은 세 가지 구성 요소를 사용하여 시계열 데이터를 모델링합니다.

  • 수준 (level): 시간의 흐름에 따라 변화하는 평균값
  • 추세 (trend): 시간의 흐름에 따라 증가 또는 감소하는 경향
  • 계절성 (seasonality): 일정한 주기로 반복되는 패턴

Holt-Winters Exponential Smoothing의 수식

감쇠 계수는 0과 1 사이의 값을 가지며, 값이 클수록 최근의 자료에 더 많은 가중치를 부여합니다. 일반적으로 α는 0.1에서 0.9 사이의 값을 사용하고, β는 0.05에서 0.3 사이의 값을 사용하고, γ는 0.1에서 0.9 사이의 값을 사용합니다. Holt-Winters Exponential Smoothing은 다음과 같은 장점

  • 추세, 계절성, 그리고 수준을 모두 모델링할 수 있습니다.
  • 단순 지수평활법이나 다중평활법보다 예측 정확도가 높습니다. 단점
  • 계절성 변동이 복잡한 경우에는 예측 정확도가 떨어질 수 있습니다.
  • 감쇠 계수를 적절하게 설정하는 것이 중요합니다. Holt-Winters Exponential Smoothing은 다양한 분야에서 사용되는 시계열 예측 방법입니다. 제품 수요, 재고, 판매량, 매출액, 경제 지표 등의 예측에 사용