유효숫자 계산

박흰공 금오 2020.03.20 조회 수 3012 추천 수 0 금오사이앱에서 게시됨

유효숫자 개념에 의하여 (1.039 - 1.020)÷1.039를 계산하면 0.018 맞나요? 아니면 0.01829인가요?

 

 

 

 




 
Profile
5
Lv

18개의 댓글

Profile

0.018

0 0    댓글  
Profile
@파돈에 미친 까마귀

감사합니다!

0 0    댓글  
Profile
@박흰공

사실몰랑ㅅ..

0 0    댓글  
Profile
@파돈에 미친 까마귀

괜찮습니다...ㅎㅎ

0 0    댓글  
Profile
@박흰공

0.0180아님? 1.039,1.020 둘다 유효숫자가 3개인데 0.018은 유효숫자가 2개라서 3개로맞추려면 1.80*10^-2 이니까 0.0180이 정답

0.018은 1.8*10^-2 이니까 유효숫자가2개 이러면 이해가쉬울듯

0 0    댓글  
Profile
@놀란 까마귀

1.039, 1.020 둘다 유효숫자 4개 아닌가요??

0 0    댓글  
Profile
@놀란 까마귀

유효 숫자 4개 입니다만..

0 0    댓글  
Profile
@파돈에 미친 까마귀

아 4개면 0.01829겠다 ㅇㅇ 3개여도 어차피 0.0183임

0 0    댓글  
Profile

유효숫자는 제일큰수기준

0 0    댓글  
Profile
@확신하는 까마귀

?? 제일 작은 수 기준아닌가요

0 0    댓글  
Profile

0.018아님??...

0 0    댓글  
Profile
@기분 좋은 까마귀

다시 계산해봤는데 0.018이 맞는 것 같아요...

0 0    댓글  
Profile
@박흰공

공학용계산기로 다시계산해봤는데 계산값유효숫자4개로하면 1.829*10^-2 로나옴 0.01829 맞음ㅋㅋ0.018은 위 계산식에서 유효숫자2개일때

0 0    댓글  
Profile
@놀란 까마귀

괄호 안에 계산하면 0.019가 나오고0.019÷1.039하면 유효숫자 2자리 나누기 4자리 계산하니까 답도 2자리로 나와야하는거 아닌가요??

0 0    댓글  
Profile
@박흰공

뺄셈도 유효숫자 자리맞추면 0.01900아님? 맨처음계산식에서 유효숫자가 결국4개로 전부 같기때문에 유효숫자가 두개가 나오는게이상함

0 0    댓글  
Profile
@놀란 까마귀

교수님이 올려주신 강의자료에는 덧셈뺄셈에 경우 소수점 기준으로 제일 작을 자릿수에 맞춘다고 되어있어요 괄호 안 수가 모두 소수점 3자리니까 0.019가 맞지 않나요?

0 0    댓글  
Profile
@박흰공

소숫점을기준으로 제일 작은 자릿수라는게 유효숫자를 소숫점적은걸 맞추라는걸 말하는건데 1.039-1.020 은 유효숫자개수가4개로 같기때문에 2개가될 이유가없고, 님말대로 소숫점3자리라고해도 0.019는 소숫점3자리가아니라 소숫점2개로 맞춘거임 그니까 이상한거임 님말대로하더라도 0.0190해야됨 예를들어 2.78+1.235=4.015 인데 유효숫자맞추면 4.02됨 2.78의 유효숫자가 3개이기때문임

"덧셈과 뺄셈에서의 유효숫자는 소수점 이하의 자릿수가 적은 것을 따라 유효숫자를 맞춘다. " 이거는 네이버 사전쳐보면 나옴 유효숫자를맞추는거임

0 0    댓글  
Profile
@놀란 까마귀

ㅇㅎ 늦은 시간에 너무 감사합니다!!

0 0    댓글  

번호 제목 글쓴이 날짜 조회 수 추천 수
공지 [2023 대동제] 2023 대동제 축제 후기 이벤트!! profile 금오사이 2023.05.19 3237 0
공지 [종료된 이벤트] 🌸🌸🌸 2023 벚꽃 이벤트 당첨자 발표🌸🌸🌸 profile 금오사이 2023.04.08 2922 3
공지 2022 대동제 축제 후기 이벤트 당첨자 발표 profile 금오사이 2022.09.20 5380 0
공지 2022-2 개강 이벤트 종료 profile 커뮤니티운영팀 2022.09.20 4032 0
공지 금오위키 관련 공지 profile 금오사이 2022.09.19 3204 3
공지 "의좋은 형제 & 의상한 형제를 찾습니다!" 당첨자 발표 1 profile 커뮤니티운영팀 2021.05.28 5040 3
공지 금오사이 수강후기 당첨자 발표입니다! 9 profile 금오사이 2020.07.20 5260 5
공지 비방/욕설/음란 등 게시판 정책에 위반되는 글을 삭제 될 수 있습니다. profile 금오사이 2018.05.24 5471 3
12686 기시공 신입생인데 질문드릴겠습니다 16 ㅇㅇ 2019.01.05 461 1
12685 수강신청 프로그램어디갓죠 1 19052 2019.01.04 384 1
12684 컴소공신입생인데 수학이랑 물리 어떻게 해야하나요? 4 ㅇㅁ 2019.01.04 303 1
12683 아이즈원 사쿠라 첨엔 밉상이었는데 이제 보다보니 괜찮은거같음 3 익명_95667468 2019.01.04 143 1
12682 lh전세임대 질문있습니다! 1 오이오이신입생쿤 2019.01.04 241 1
12681 질문이요 1 금오플러스 2019.01.03 122 1
12680 계절기간 중 맘터 언제까지 여시는지 아시나요? 2 푸름밥존맛탱FJMT 2019.01.03 125 1
12679 윈도우 5 휴대용 2019.01.03 455 1
12678 2019.1.13.목(epl)뉴캐슬vs맨유 1 엔자미말년찡 2019.01.03 88 1
12677 전과 4 전과 2019.01.03 333 1
12676 [질문] 혹시 삼육대랑 비교하면 어떤가요...? 10 글쓴이 2019.01.03 1352 1
12675 화공이나 신소재선배님들!!! 2 예비금오공대생 2019.01.03 385 1
12674 장학금 4 둘리 2019.01.03 259 1
12673 메디컬 it랑 기시공중에.. 5 익명 2019.01.03 256 1
12672 환산82이고 기시 넣으려는데 불안하다는분 들어오세요 5 19학번 2019.01.03 295 1
12671 컴공 나와서 네이버,카카오 같은 기업 들어가고싶은데 6 ㄷㄷ 2019.01.03 573 1
12670 광시스템공학과, 응용수학과 분위기 궁금합니다 22 새내깅 2019.01.03 679 1
12669 전기기사 핳핳하핳 2019.01.03 147 1
12668 금연 성공한 익게이 있나? 2 익명_10835168 2019.01.03 205 1
12667 교수님이 성적 문의를 읽씹하심 1 익명_53243873 2019.01.02 443 1
서버에 요청 중입니다. 잠시만 기다려 주십시오...