คำตอบสั้นๆ
เครื่องคิดเลขและสเปรดชีตมาตรฐานจะจัดเก็บตัวเลขเป็นค่าทศนิยม 64 บิต ซึ่งจะเก็บตัวเลขนัยสำคัญประมาณ 15–17 หลักเท่านั้นก่อนที่จะปัดเศษแบบเงียบๆ เครื่องมือนี้ใช้เลขคณิตทศนิยมที่มีความแม่นยำตามอำเภอใจ ได้แก่ เลขนัยสำคัญ 100 หลัก ดังนั้นจำนวนเต็มขนาดใหญ่จึงกลับมาแน่นอน เลขต่อหลัก แทนที่จะปัดเศษเป็นการประมาณ
ประเด็นสำคัญ
- จุดลอยตัว 64 บิต (ใช้โดยเครื่องคิดเลข สเปรดชีต และภาษาการเขียนโปรแกรมส่วนใหญ่ตามค่าเริ่มต้น) จะมีเลขนัยสำคัญประมาณ 15–17 หลักก่อนที่จะเริ่มการปัดเศษ
- เครื่องคิดเลขนี้เก็บความแม่นยำของเลขนัยสำคัญได้ 100 หลัก ซึ่งเพียงพอสำหรับจำนวนเต็มระดับการเข้ารหัส แฟกทอเรียลขนาดใหญ่ และตัวเลขทางดาราศาสตร์
- การดำเนินการด้านพลังงานต้องใช้เลขชี้กำลังจำนวนเต็มที่มีค่าสัมบูรณ์ต่ำกว่า 1,000 ซึ่งจะทำให้ผลลัพธ์ถูกต้องแม่นยำและเวลาในการคำนวณก็สมเหตุสมผล
- GCD และ LCM เหมาะสมสำหรับจำนวนเต็มเท่านั้น การป้อนข้อมูลที่เป็นทศนิยมสำหรับการดำเนินการทั้งสองนั้นจะถูกปฏิเสธ แทนที่จะปัดเศษแบบเงียบๆ
เหตุใดเครื่องคิดเลขทั่วไปจึงใช้ตัวเลขจำนวนมากได้
| การเป็นตัวแทน | เลขนัยสำคัญ | เริ่มหมุนวนไปรอบๆ |
|---|---|---|
| โฟลต 32 บิต | ~7 ตัวเลข | ~10 ล้าน |
| 64 บิตสองเท่า (เครื่องคิดเลขและสเปรดชีตส่วนใหญ่) | ~15–17 ตัวเลข | ~10¹⁶ |
| เครื่องคิดเลขนี้ (ทศนิยมความแม่นยำตามอำเภอใจ) | 100 ตัวเลข | ~10¹⁰⁰ |
เมื่อตัวเลขเกินรูปแบบที่สามารถแสดงได้อย่างแน่นอน ค่าจะถูกปัดเศษให้เป็นตัวเลขที่ใกล้ที่สุดที่รูปแบบสามารถจัดเก็บได้ และการปัดเศษนั้นจะเกิดขึ้นโดยไม่มีการแจ้งเตือนในเครื่องมือส่วนใหญ่ ตัวเลขขนาดใหญ่สองตัวที่แตกต่างกันสามารถแสดงเหมือนกันได้เมื่อปัดเศษทั้งสองค่าให้เป็นค่าทศนิยมเดียวกัน
ตัวอย่างการทำงาน: 25 แฟคทอเรียล
25! = 15,511,210,043,330,985,984,000,000
เครื่องคิดเลขแบบ double-precision มาตรฐานจะปัดเศษเป็นประมาณ 1.5511210043330986 × 10²⁵ — โดยสามารถเก็บตัวเลขได้ประมาณ 17 หลักจาก 26 หลักเท่านั้น ดังนั้น ทุกอย่างที่เลยจุดนั้นจึงเป็นค่าประมาณ เนื่องจากเครื่องคิดเลขนี้ใช้เลขคณิตทศนิยมที่แน่นอนแทนจุดลอยตัว ฟังก์ชันแฟคทอเรียลจึงส่งกลับทุก ๆ หลักจาก 26 หลักนั้นอย่างแม่นยำ โดยไม่มีการปัดเศษใด ๆ
ข้อผิดพลาดทั่วไปที่ควรหลีกเลี่ยง
- การวางตัวเลขจำนวนมากลงในเซลล์สเปรดชีตปกติและเชื่อถือทุกหลักที่แสดง — สเปรดชีตใช้ทศนิยม 64 บิตเดียวกันและปัดเศษผ่าน ~15–17 หลักอย่างเงียบๆ
- การป้อนค่าทศนิยมสำหรับ GCD หรือ LCM การดำเนินการทั้งสองถูกกำหนดไว้สำหรับจำนวนเต็มเท่านั้น และจะส่งกลับข้อผิดพลาดในอินพุตที่ไม่ใช่จำนวนเต็ม
- กำลังคาดหวังที่จะยอมรับเศษส่วนหรือเลขชี้กำลังที่มีขนาดใหญ่มาก — เลขชี้กำลังต้องเป็นจำนวนเต็มต่ำกว่า 1,000 เพื่อให้ผลลัพธ์ถูกต้อง
- สมมติว่าสรุปสัญกรณ์ทางวิทยาศาสตร์ที่แสดงข้างผลลัพธ์คือสิ่งที่คำนวณมา มันเป็นความสะดวกในการแสดงผลแบบโค้งมน ค่าความแม่นยำเต็มคือสิ่งที่เครื่องคิดเลขคำนวณได้จริง
เครื่องคิดเลขที่เกี่ยวข้อง
- เครื่องคิดเลขสัญกรณ์วิทยาศาสตร์ — แปลงระหว่างสัญกรณ์มาตรฐานและวิทยาศาสตร์
- เครื่องคำนวณเลขชี้กำลัง — ทำงานด้วยพลังและรากฐานของตัวเลขขนาดในชีวิตประจำวัน
- เครื่องคำนวณปัจจัยร่วมที่ยิ่งใหญ่ที่สุด — ค้นหา GCD ของตัวเลขสองตัวขึ้นไปพร้อมแสดงขั้นตอนทั้งหมด
- เครื่องคิดเลขหลายตัวที่น้อยที่สุด — ค้นหา LCM ด้วยเครื่องมือเฉพาะทีละขั้นตอน