C++1 Approximately Vs Epsilon (부동 소수점 값 비교)(Approximately의 모순) 코드 최적화 중에 문득 궁금해진 것 부동 소수점 값 비교 시에 사용할 수 있는 방법이 꽤 다양한데 뭐가 더 나을까? 더보기 ※ 부동 소수점 오차 때문에 정확한 비교 필요 -> A * B = 10f가 나오는 게 맞다고 보여도, 10f가 실제로 9.999999f 라는 등 오차가 생기는 경우가 있다 (IEEE-754 표준법 사용해서 저장하기 때문에 지수 표현에 오차가 생기는 것) 그래서 정확한 비교를 위한 대표적인 방법 두 가지. 이 둘 중에 뭘 사용하는 게 나을까?라는 멍청한 생각을 가지고 가볍게 시작했다. 결론은 일단 당연히 케바케 Mathf.Approximately Mathf의 구현 방식을 보면 단순 비교가 아니라 두 수가 0의 근사치일 때도 잘 동작하도록 구현돼있다. 또한 Epslion을 여기서 사용하.. 2024. 3. 27. 이전 1 다음
