Precision(정밀도)
4 posts
[Cpp] 배열의 1%만 서브노멀이어도 인텔에서 45배 느려지는 이유
[AI] 양자화 트리거 백도어: FP16에선 무해하던 모델이 INT8에서 오작동하는 이유
[Computer Terms] 부동소수점 표현 (IEEE 754 Floating Point)
[Algorithm] C++ 백준 1008번 : A/B
Home