유효숫자 계산

박흰공 금오 2020.03.20 조회 수 3010 추천 수 0 금오사이앱에서 게시됨

유효숫자 개념에 의하여 (1.039 - 1.020)÷1.039를 계산하면 0.018 맞나요? 아니면 0.01829인가요?

 

 

 

 




 
Profile
5
Lv

18개의 댓글

Profile

0.018

0 0    댓글  
Profile
@파돈에 미친 까마귀

감사합니다!

0 0    댓글  
Profile
@박흰공

사실몰랑ㅅ..

0 0    댓글  
Profile
@파돈에 미친 까마귀

괜찮습니다...ㅎㅎ

0 0    댓글  
Profile
@박흰공

0.0180아님? 1.039,1.020 둘다 유효숫자가 3개인데 0.018은 유효숫자가 2개라서 3개로맞추려면 1.80*10^-2 이니까 0.0180이 정답

0.018은 1.8*10^-2 이니까 유효숫자가2개 이러면 이해가쉬울듯

0 0    댓글  
Profile
@놀란 까마귀

1.039, 1.020 둘다 유효숫자 4개 아닌가요??

0 0    댓글  
Profile
@놀란 까마귀

유효 숫자 4개 입니다만..

0 0    댓글  
Profile
@파돈에 미친 까마귀

아 4개면 0.01829겠다 ㅇㅇ 3개여도 어차피 0.0183임

0 0    댓글  
Profile

유효숫자는 제일큰수기준

0 0    댓글  
Profile
@확신하는 까마귀

?? 제일 작은 수 기준아닌가요

0 0    댓글  
Profile

0.018아님??...

0 0    댓글  
Profile
@기분 좋은 까마귀

다시 계산해봤는데 0.018이 맞는 것 같아요...

0 0    댓글  
Profile
@박흰공

공학용계산기로 다시계산해봤는데 계산값유효숫자4개로하면 1.829*10^-2 로나옴 0.01829 맞음ㅋㅋ0.018은 위 계산식에서 유효숫자2개일때

0 0    댓글  
Profile
@놀란 까마귀

괄호 안에 계산하면 0.019가 나오고0.019÷1.039하면 유효숫자 2자리 나누기 4자리 계산하니까 답도 2자리로 나와야하는거 아닌가요??

0 0    댓글  
Profile
@박흰공

뺄셈도 유효숫자 자리맞추면 0.01900아님? 맨처음계산식에서 유효숫자가 결국4개로 전부 같기때문에 유효숫자가 두개가 나오는게이상함

0 0    댓글  
Profile
@놀란 까마귀

교수님이 올려주신 강의자료에는 덧셈뺄셈에 경우 소수점 기준으로 제일 작을 자릿수에 맞춘다고 되어있어요 괄호 안 수가 모두 소수점 3자리니까 0.019가 맞지 않나요?

0 0    댓글  
Profile
@박흰공

소숫점을기준으로 제일 작은 자릿수라는게 유효숫자를 소숫점적은걸 맞추라는걸 말하는건데 1.039-1.020 은 유효숫자개수가4개로 같기때문에 2개가될 이유가없고, 님말대로 소숫점3자리라고해도 0.019는 소숫점3자리가아니라 소숫점2개로 맞춘거임 그니까 이상한거임 님말대로하더라도 0.0190해야됨 예를들어 2.78+1.235=4.015 인데 유효숫자맞추면 4.02됨 2.78의 유효숫자가 3개이기때문임

"덧셈과 뺄셈에서의 유효숫자는 소수점 이하의 자릿수가 적은 것을 따라 유효숫자를 맞춘다. " 이거는 네이버 사전쳐보면 나옴 유효숫자를맞추는거임

0 0    댓글  
Profile
@놀란 까마귀

ㅇㅎ 늦은 시간에 너무 감사합니다!!

0 0    댓글  

번호 제목 글쓴이 날짜 조회 수 추천 수
공지 [2023 대동제] 2023 대동제 축제 후기 이벤트!! profile 금오사이 2023.05.19 2372 0
공지 [종료된 이벤트] 🌸🌸🌸 2023 벚꽃 이벤트 당첨자 발표🌸🌸🌸 profile 금오사이 2023.04.08 2191 3
공지 2022 대동제 축제 후기 이벤트 당첨자 발표 profile 금오사이 2022.09.20 4557 0
공지 2022-2 개강 이벤트 종료 profile 커뮤니티운영팀 2022.09.20 3263 0
공지 금오위키 관련 공지 profile 금오사이 2022.09.19 2423 3
공지 "의좋은 형제 & 의상한 형제를 찾습니다!" 당첨자 발표 1 profile 커뮤니티운영팀 2021.05.28 4223 3
공지 금오사이 수강후기 당첨자 발표입니다! 9 profile 금오사이 2020.07.20 4471 5
공지 비방/욕설/음란 등 게시판 정책에 위반되는 글을 삭제 될 수 있습니다. profile 금오사이 2018.05.24 4658 3
18844 방학 분위기네요 2 정상인 2018.06.22 60 0
18843 블랙홀이 별을 삼키는 순간.gif 3 profile 또치 2018.06.22 78 1
18842 고양이가 지구를 정복하는 만화 profile 또치 2018.06.22 234 1
18841 학기 다 끝났는데 아직 할일이 남은 느낌이예요 1 정상인 2018.06.23 43 0
18840 북카페에서 제일 맛있는게머에여 2 익명_33332c 2018.06.24 50 0
18839 소방관에게 신발건조기가 필요한 이유 2 profile 또치 2018.06.24 99 1
18838 레벨업하려면 뭐해야 경험치 올라요? 2 익명_00cb78 2018.06.24 86 1
18837 스팀 여름세일이 시작됐습니다!! 5 입망고 2018.06.25 85 3
18836 님들 갓겜하셈 4 익명_dcb2ec 2018.06.26 65 0
18835 [초보자용][웨이트 트레이닝] 헬스장에서 무엇을 해야하는가? 3 덤벨바벨 2018.06.26 341 2
18834 회원수 200명이 눈앞! 익명_a35bcc 2018.06.27 46 1
18833 와 내일은 민주 가야겠다 파전파전! 7 익명_a35bcc 2018.06.27 54 0
18832 학교 와이파이 인증서 오류는 언제 고치는 걸까여 2 profile 또치 2018.06.27 377 0
18831 와 오늘 날씨 진짜 덥다 2 익명_329365 2018.06.27 39 0
18830 거북목때문에 목이 아프네요 4 양말 2018.06.27 60 1
18829 수요일 좋아! 2 익명_1fac1a 2018.06.27 52 0
18828 까드림에는 통학버스가지고 불꽃터지게 싸우네요 익명_61c040 2018.06.27 57 0
18827 컴소공이나 컴퓨터공학과 분들! 5 상린이 2018.06.27 212 0
18826 학교 앞에 열려 있는 밥집 있어요? 2 익명_a35bcc 2018.06.27 67 0
18825 ATmega128로 할만한게 뭐 있을까요 1 양말 2018.06.27 69 0
서버에 요청 중입니다. 잠시만 기다려 주십시오...