반응형
Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 |
Tags
- 인프런
- EC2
- DB
- 파이썬
- 데이터브릭스
- 백준
- spark
- 프로그래머스
- LLM
- Autoloader
- prompt
- 코딩테스트
- subnet
- airflow
- 깃허브
- 데이터검증
- Elk
- VPC
- AWS
- associate
- databricks
- sql
- 엘라스틱서치
- ELK스택
- Cloud
- ElasticSearch
- openai
- python
- Kafka
- json
Archives
- Today
- Total
목록2024/09/08 (1)
데이터 히스토리북 (Data History Book)
[TIL] Decimal vs Float 의 차이 (with Trim)
실수를 표현하는 방식컴퓨터는 기본적으로 2진수를 사용하는 기계이다.정수(ex. 1,2,3) 를 표현하는데에는 무리없이 표현할 수 있지만 소수를 표현할 때에는 무한한 2진수로 표현이 된다.즉, 소수점 0.1을 2진수로 표현한다면 무한 소수로 표현이 된다는 말과 같다.FloatFloat은 부동 소수점을 사용하는 타입으로, 소수점의 위치가 데이터의 형태에 따라 언제든지 바뀔 수 있으며 실제로 소수점을 사용하다보면 float은 소수점 외, 많은 소수점을 가지고 있는 것을 볼 수 있을것이다.즉, float은 decimal과 달리, 이진수 기반의 연산을 지니고 있으며 십진수를 이진수로 변환시킬때 이진소수인 형태를 띄고 정확히 맞아 떨어지지 않는 값들에 대해선 무한소수가 되어 정확하게는 그 값에 근사값이 될 확률이 ..
TIL
2024. 9. 8. 18:44