[개념정리] Bayes error (베이즈 에러) 란?

 

 

 

Bayes error (베이즈 에러) 란?

 

베이즈 오류는 달성할 수 있는 가장 낮은 예측 오차로서, 축소할 수 없는 오류와 동일하다.

어떤 프로세스가 데이터를 생성하는지 정확히 알 수 있다면, 그 과정이 무작위적인 경우에도 오류가 발생할 것이다.

이것은 또한 "y는 본래 확률적이다"라는 의미도 있다.

 

즉, true error라고 생각하면 편할 듯. 가장 최상의 상태에서 뽑아낸 에러 :)

 

Bayes error is the lowest possible prediction error that can be achieved and is the same as irreducible error. If one would know exactly what process generates the data, then errors will still be made if the process is random. This is also what is meant by "𝑦y is inherently stochastic".

For example, when flipping a fair coin, we know exactly what process generates the outcome (a binomial distribution). However, if we were to predict the outcome of a series of coin flips, we would still make errors, because the process is inherently random (i.e. stochastic).

To answer your other question, you are correct in stating that the total error is the sum of (squared) bias, variance and irreducible error. See also this article for an easy to understand explanation of these three concepts.

 

 

---

 

 

베이즈 에러 (Bayes Error) : Training data를 완벽히 학습하였을 때(즉, 그 사건의 underlying density function 을 알고 있을 때), 그 Training data에 대해 가장 확률이 높은 Class Label을 선택하는 방법에서 발생하는 이론적 최소 오차.

https://newsight.tistory.com/127

 

 

참고 : https://stats.stackexchange.com/questions/302900/what-is-bayes-error-in-machine-learning

참고 : https://newsight.tistory.com/127