커뮤니티
수식 확인 부탁드립니다.
2014-05-16 11:35:33
165
글번호 75118
20140515를 기준으로 년월일중 일 부분만 구하려는데
FracPortion(date/100)*100로 하면 15가 되는데
Int(FracPortion(date/100)*100)로 하면 14가 됩니다. 왜 그런가요? 해결방법은요?
답변 1
예스스탁 예스스탁 답변
2014-05-16 15:53:54
안녕하세요
예스스탁입니다.
해당 부분 부동소숫점 오류때문입니다.
컴퓨터 CPU가 값을 계산시 2진법으로 계산후 다시 10진법으로
돌리면서 14.999999999999 혹은 15.000000001과 같이 리턴되기 때문입니다.
아래수식을 이용하시면 됩니다.
var1 = round(sdate%100,0);
plot1(var1);
즐거운 하루되세요
> osy5409 님이 쓴 글입니다.
> 제목 : 수식 확인 부탁드립니다.
> 20140515를 기준으로 년월일중 일 부분만 구하려는데
FracPortion(date/100)*100로 하면 15가 되는데
Int(FracPortion(date/100)*100)로 하면 14가 됩니다. 왜 그런가요? 해결방법은요?