엑셀 소수점 계산 오류에 대해서 질문드립니다.

문서서식
작성자
월마리아
작성일
2022-09-03 13:25
조회
90
엑셀버전 : 엑셀2019

운영체제 : 윈도우11

6,570,754,994.545460000000000
6,570,754,994.545450000000000

위 두 값을 빼면

0.00001 이라는 값이 나와야됩니다.

C1셀의 셀서식은 회계형식으로써  (_-* #,##0_-;-* #,##0_-;_-* "-"_-;_-@_-)

값이 0경우 "-"로 표기되어지는데

 

위의 경우는 0이 아니라 0.00001이기 떄문에

A1-B1값이 0.00001 또는 한자리수인 경우 0 으로 나와야되는것 아닌가요???

두값이 일치하지 않다고 FALSE라고까지 뜨는데 어떻게 값이 "-"인지 잘 이해가 안됩니다.

스크랩
공유
전체 16

  • 2022-09-03 15:45

    @월마리아 님 부동소수점 오류입니다.

    https://docs.microsoft.com/ko-kr/office/troubleshoot/excel/floating-point-arithmetic-inaccurate-result

    엑셀은 소수점 자리 상관없이 15자리 이상 숫자는 무조건 오류가 발생하기 때문에 정확한 수치계산이 필요하면 매트랩같은 다른 도구를 사용해야겠죠


    • 2022-09-04 02:36

      @더블유에이 님 제가 쓴 글을 보면

      .54546 과 .54545 소수점 다섯자리에서 0.0001 차이가 나는거 아닌가요 ?ㅠ


    • 2022-09-04 02:43

      @더블유에이 님 15자리라는게 앞에 정수까지 포함해서 총 15자리 라는 말씀이신가요?

      그리고 보통 정수가 아닌 소수점을 포함하고 있는 숫자는 15자리 넘는게 대부분일텐데 다 부정확하다는 건가요?

      예를 들어 나눗셈이 들어가는 경우 보통 다 15자리 넘잖아요?

      예를 들어 간단한 43/33도 값이 1.303030303030300000 이렇게 소수점 아래로 숫자가 쭉 이어져서 15자리가 넘거든요


      • 2022-09-04 16:04

        @월마리아 님 43/33은 무한소수기때문에 소수로는 정확한 표현 자체가 불가능하죠

        엑셀은 일상생활에서 허용가능한 오차범위인 최대 15자리까지만 숫자를 표기하는 방식을 채택해서 사용하는거고

        구글시트도 동일한걸로 알고 있습니다

        정확한 수치를 다 표현하려면 다른 툴을 사용하셔야되요


  • 2022-09-05 09:38

    @월마리아 님 제대로 0으로 표현됩니다.

    2022-09-05-093830.PNG


    • 2022-09-05 09:41

      부동소수점 오류라면 -으로 나오는게 아니라, 이 스크린샷의 1번째줄이나 3번째줄 처럼

      0.00001보다 더 작은 근사치의 소수로 나오는게 일반적입니다.

      2022-09-05-092743.PNG


    • 2022-09-05 09:56

      http://choesin.com/excel에서-반올림-정밀도를-설정하는-방법

      옵션 > 고급 > 이 통합문서의 계산대상 > 표시된 정밀도 설정

      이걸 체크하거나 풀면서 테스트해보세요

      보통 기본값은 풀려있는데, 이걸 체크하고 소수점 2자리로 설정된 셀에 수식을 넣으면 2자리 미만을 무시하게 만들면서 -로 바뀌거나 할 수 있습니다.

       

      그냥 기본 설정에서 아무 서식도 지정안하고 계산하면 제대로 0.00001 나오고 셀서식으로 소수점 날리면 제대로 0 나오는데, 뭔가 수정된 설정인것 같네요.

       

      2022-09-05-095610.PNG


      • 2022-09-05 23:31

        @춘식 님 위 첨부된 파일을 열면 0이 아니라 -로 되어있지 않나요? 위에 0으로 나온다는건 님이 새통합문서에 직접 입력한거죠?

        '표시된 정밀도 설정'은 당연히 체크되어 있지 않습니다 ㅠ


      • 2022-09-05 23:33

        @춘식

        제가 봐도 부동소수점 오류같진 않은데요

        어떨떈 0이 뜨고 어떨떈 -이 뜨고 이해가 안되네요 ㅠ


        • 2022-09-06 09:29

          @월마리아 님 필요한 범위 내에서 roundup 하십쇼

           


          • 2022-09-07 11:40

            @춘식 님 round는 아는데 위는 단순 오류인건가요;;; 신기하네요;


            • 2022-09-07 12:47

              @월마리아 님 그 설정을 하신게 아니라면

              이건 엑셀 오류가 아니고 이 값을 입력하거나 이 파일을 생성한 프로그램이 정제되지 않은 더러운(?) 값을 입력한 것 같네요

              정상적인 입력방식으로 재현할 수 없으니까요

              직접적으로 엑셀에 데이터베이스를 입력하거나, 마이크로소프트 엑셀 프로그램이 아닌 프로그램에서 파일을 생성하면 이런 문제를 얼마든지 만들 수 있습니다.

              오토캐드 같은 경우는 그래서 대안 캐드나 기타 타사 프로그램으로 만든 DWG 파일은 파일을 열때마다 보장하지 않는다고 경고를 띄우기도 합니다.

              이 GIF처럼 CLEAN으로 화면에 표시되지 않는 값을 정제하거나

              2022-09-07-124215.gif


              • 2022-09-07 13:28

                @춘식 님 상세한 답변 감사합니다. 확인해보니 프로그램에서 엑셀파일을 생성한건 아니고

                프로그램에서 생성한 엑셀파일의 값들만 새 통합문서에 복붙하여 썼습니다.

                값복사를 하였어도 이런 오류가 발생할 수 있을까요.


                • 2022-09-07 13:41
                  채택된 답변

                  @월마리아 님 엑셀이 2007 기점으로 좀 많이 바뀌긴했는데, 2008년에 무슨 버전으로 작성했는지는 모르니...

                  거기다 32비트에서 64비트로 넘어온거면 행열 제한부터 최대값 제한까지 여러가지 바뀐게 많습니다.

                  14년이면 신입사원이 입사해서 과장 차장 될 세월이네요, 공부하는 셈 치고 새로 만들어보세요. 이전값들도 정리하시고..

                   

                  +

                  값복사를 제자리에 해봤을때 문제가 동일하게 발생하므로 값복사는 더러운(?) 값을 제거하지 못한다는 걸 알 수 있습니다. 한번의 처리과정이 필요합니다. 유저 입력과 동일하게 만드는.. 제가 올린 2가지 방법 이외에도 있을지도 모르죠


                  • 2022-09-07 23:52

                    @춘식 님 답변 감사합니다. ㅎ


            • 2022-09-07 12:50

              @월마리아 님 다른 쉬운 방법으로는 메모장 열어서 값들을 복붙하고, 다시 복사해오면

              보이는 텍스트값만 가져올 수 있습니다.

              코딩을 잘 못하는 저같은 사람이나, 귀찮은 개발자들이 대충해서 저지를 수 있는 실수입니다

              2022-09-07-124838.gif


전체 7,759
번호 카테고리 제목 작성자 작성일 추천 조회
알림
🎉다양한 이벤트와 함께 진행하는, PPT 보고서 디자인 특강 안내 - 9/24 (토) 오후 9시~ (15)
오빠두엑셀 | 2022.09.08 | 추천 9 | 조회 2290
오빠두엑셀 2022.09.08 9 2290
공지사항 함수/공식
[신규 기능 업데이트!] 👉 이제 게시글 작성시 스크린샷 복/붙이 가능합니다! 😎 (3)
오빠두엑셀 | 2022.08.04 | 추천 4 | 조회 1636
오빠두엑셀 2022.08.04 4 1636
공지사항 함수/공식
⭐ [더 나은 커뮤니티 문화를 위한 Q&A 글 작성 규칙] ⭐ (93)
오빠두엑셀 | 2021.10.28 | 추천 123 | 조회 7371
오빠두엑셀 2021.10.28 123 7371
42449 함수/공식
New 숫자만 추출하여 연산하기 엑셀파일
eexcell | 11:00 | 추천 0 | 조회 4
eexcell 11:00 - 4
42447 함수/공식
New 여러개의 날짜로 되어 있는 것을 특정 날짜로 개수를 count 하고자 하는데, 잘 안됩니다. ㅠ.ㅠ (1)
jrki**** | 10:12 | 추천 0 | 조회 11
jrki**** 10:12 - 11
42442 함수/공식
New 이름을 검색할수 있는 함수와 부가적 기능.. 첨부파일 (1)
gogoexcel | 03:23 | 추천 0 | 조회 19
gogoexcel 03:23 - 19
42441 VBA
New 재고관리에서 비율 자동 계산 방법 첨부파일
EXCELEXCEL | 01:21 | 추천 0 | 조회 22
EXCELEXCEL 01:21 - 22
42434 VBA
New 셀레니움을 통한 엣지 호출 첨부파일 (2)
로고테라피 | 2022.09.25 | 추천 0 | 조회 23
로고테라피 2022.09.25 - 23
42432 VBA
New get_db 명령어 관련 질문드립니다 첨부파일 (3)
EXCELEXCEL | 2022.09.25 | 추천 0 | 조회 33
EXCELEXCEL 2022.09.25 - 33
42427 기능/도구
New 엑셀 '안전모드' 실행하는 방법 질문드립니다. 첨부파일 (4)
월마리아 | 2022.09.25 | 추천 0 | 조회 34
월마리아 2022.09.25 - 34
42426 VBA
New 사진대지 VBA 매크로 수정 엑셀파일 (1)
WWW | 2022.09.25 | 추천 0 | 조회 26
WWW 2022.09.25 - 26
42414 기능/도구
New 엑셀로 가능한지 여쭤봅니다. 엑셀파일첨부파일 (1)
naver_5f055a605ee7d | 2022.09.24 | 추천 0 | 조회 60
naver_5f055a605ee7d 2022.09.24 - 60
42405 함수/공식
New 엑셀 INDEX MATCH 함수 질문드립니다. (다중조건) 첨부파일 (3)
임천명 | 2022.09.24 | 추천 0 | 조회 44
임천명 2022.09.24 - 44
42396 함수/공식
New 함수조언 엑셀파일 (1) 답변완료
엑셀공부중 | 2022.09.24 | 추천 0 | 조회 39
엑셀공부중 2022.09.24 - 39
42395 함수/공식
New 함수 결과값 자동 갱신 질문입니다 엑셀파일 (2)
lifeti**** | 2022.09.24 | 추천 0 | 조회 36
lifeti**** 2022.09.24 - 36
42391 VBA
New 검색어와 동일한 결과값에 하이라이트 색깔 넣기 첨부파일 (2) 답변완료
조지아 칸타타 | 2022.09.23 | 추천 0 | 조회 44
조지아 칸타타 2022.09.23 - 44
42390 VBA
New 검색어 입력시 같은 정보가 2개 반복되어... 첨부파일
조지아 칸타타 | 2022.09.23 | 추천 0 | 조회 29
조지아 칸타타 2022.09.23 - 29
42386 함수/공식
New 조건부서식 오류 엑셀파일첨부파일 (3)
Ngw77 | 2022.09.23 | 추천 0 | 조회 36
Ngw77 2022.09.23 - 36
42385 기능/도구
New 파일 가로로 통합하기(합치기) 질문입니다 첨부파일 (1)
감귤쫀드기 | 2022.09.23 | 추천 0 | 조회 36
감귤쫀드기 2022.09.23 - 36
42379 문서서식
New 가로로 작업했는데, 내용 보존?하면서 세로로 쉽게 바꿀 수 있는 방법이 있나요?? (1)
앨리 | 2022.09.23 | 추천 0 | 조회 50
앨리 2022.09.23 - 50
42378 차트/그래프
New 강우-유출량 그래프 분석 엑셀파일 (1)
chanyk | 2022.09.23 | 추천 0 | 조회 47
chanyk 2022.09.23 - 47
42377 함수/공식
New 한도액에서의 지원금 정산하기 엑셀파일 (2)
송인숙 | 2022.09.23 | 추천 0 | 조회 32
송인숙 2022.09.23 - 32
42374 함수/공식
New 각기 다른셀에 값 입력시 한셀에 날짜 자동 나타내기 (2)
MC쿠마 | 2022.09.23 | 추천 0 | 조회 27
MC쿠마 2022.09.23 - 27
42372 함수/공식
New 조건별 날짜계산 함수 계산 엑셀파일 (2) 답변완료
Ngw77 | 2022.09.23 | 추천 0 | 조회 43
Ngw77 2022.09.23 - 43
42367 기능/도구
New 엑셀2019에서 shift + 스크롤 (시트 좌우 스크롤) 되는건가요? 첨부파일 (4) 답변완료
월마리아 | 2022.09.22 | 추천 0 | 조회 44
월마리아 2022.09.22 - 44
42366 구글시트
New 스프레드 시트 필터함수 엑셀파일첨부파일 (5) 답변완료
거꾸로문 | 2022.09.22 | 추천 0 | 조회 49
거꾸로문 2022.09.22 - 49
42362 함수/공식
New NaverFinanceHistory 함수 연결 데이터 갱신 질문입니다 엑셀파일첨부파일
lifeti**** | 2022.09.22 | 추천 0 | 조회 34
lifeti**** 2022.09.22 - 34
42358 VBA
New VBA 텍스트 파일 저장 후 불러오기 질문드립니다. 엑셀파일
LovelyK | 2022.09.22 | 추천 0 | 조회 42
LovelyK 2022.09.22 - 42
42355 함수/공식
New 근속년수 산출 관련 문의 (4)
꼬맹이영 | 2022.09.22 | 추천 0 | 조회 63
꼬맹이영 2022.09.22 - 63
42354 함수/공식
New 세가지의 조건을 만족하는 값 불러오기 엑셀파일 (3) 답변완료
뎡이 | 2022.09.22 | 추천 0 | 조회 71
뎡이 2022.09.22 - 71
42348 차트/그래프
New 엑셀 일일 데이터관리 차트를 만들려고 합니다,,, 첨부파일 (2)
MC쿠마 | 2022.09.22 | 추천 0 | 조회 58
MC쿠마 2022.09.22 - 58
42342 기능/도구
New 엑셀 셀의 열너비, 행높이 고정 문의드립니다. (4)
함수시르미 | 2022.09.22 | 추천 0 | 조회 54
함수시르미 2022.09.22 - 54
42341 함수/공식
New  증가 또는 하락하는 함수 문의 합니다. 엑셀파일 (1) 답변완료
천형기 | 2022.09.22 | 추천 0 | 조회 45
천형기 2022.09.22 - 45