현재위치 :: xacdo.net > 피드백의 장 > 게시판


 



xacdo
http://xacdo.net

javascript 데이터형의 한계에 대해
javascript에서 숫자를 처리하는 데이터형은 단 두개 뿐이다. int와 float이 그것이다.

문제는 이 데이터형이 플랫폼 독립적이지 않다는 것이다. 대부분의 경우 32bit일테지만, 일부 환경에서는 16bit이거나 64bit일 수 있다. (이는 float도 마찬가지다.)

그래서 일반적인 경우 int형으로 표시할 수 있는 수의 범위는 21억에 지나지 않는다. 64bit CPU를 사용한 머신이라고 해도 9천경밖에 표시할 수 없다.

그렇다면 float형은 어떨까. 이것도 10의 38승 정도밖에 표시하지 못한다.

결국 10의 68승인 "무량대수"까지 표시하려던 나의 계획은 상당부분 수정을 가해야 한다는 결론을 얻어냈다. 지금 생각으로는 int형으로 21억까지만 표시하게 할 생각이다.
|hit:4089|2003/03/01
 
xacdo 앗 방금 아이디어가 떠올랐다. '만-억-조-경-해' 하는 단위별로 따로 값을 관리하는 것이다. 여기서 각 자리별로 단위올림을 하는 식으로 하면, 즉 int형 17개로 숫자를 표시하는 것이다! 오옷 멋진 아이디어!! 2003/03/01  
Prev
 흠 도대체 뭘 가르치길래.. [2]
Tonyx 2003/03/01 4089
Next
 한국의 100대 개인홈페이지 [1]
xacdo 2003/03/01 4089
Copyright 1999-2024 Zeroboard / skin by 

작도닷넷 피드백의 장으로