設(shè)為首頁收藏本站Access中國

Office中國論壇/Access中國論壇

 找回密碼
 注冊

QQ登錄

只需一步,快速開始

返回列表 發(fā)新帖
查看: 2836|回復(fù): 1
打印 上一主題 下一主題

[函數(shù)/公式] 簡單的小學(xué)生數(shù)學(xué)題,為什么計算機(jī)算不出

[復(fù)制鏈接]
跳轉(zhuǎn)到指定樓層
1#
發(fā)表于 2021-10-15 10:18:54 | 只看該作者 回帖獎勵 |倒序瀏覽 |閱讀模式
excel  單元格輸入公式 =2.3-2.1-0.2  結(jié)果本應(yīng)是0, 可計算機(jī)給出的結(jié)果是-2.77555756156289E-16。調(diào)整一下公式  =2.3-0.2-2.1 就能得到正確結(jié)果0,真的搞不明白。
類似的還有很多,比如輸入公式 =20.3-20.1-0.2 或 =20.3-20.1-0.2 結(jié)果都不是0 ,而是很長的科學(xué)計數(shù)。
這個問題在wps office中同樣存在。電腦板wps office 輸入上述公式,結(jié)果也都不是0。手機(jī)板wps office  輸入公式=2.4+2.2-4.4-0.2 結(jié)果是-7.21644966006352E-16。
看來強(qiáng)大的計算機(jī)也有弱智的時候
分享到:  QQ好友和群QQ好友和群 QQ空間QQ空間 騰訊微博騰訊微博 騰訊朋友騰訊朋友
收藏收藏 分享分享 分享淘帖 訂閱訂閱
2#
發(fā)表于 2021-10-22 16:39:52 | 只看該作者
精度問題,無解。如果非要處理,就設(shè)置下格式
您需要登錄后才可以回帖 登錄 | 注冊

本版積分規(guī)則

QQ|站長郵箱|小黑屋|手機(jī)版|Office中國/Access中國 ( 粵ICP備10043721號-1 )  

GMT+8, 2025-7-13 08:18 , Processed in 0.096622 second(s), 25 queries .

Powered by Discuz! X3.3

© 2001-2017 Comsenz Inc.

快速回復(fù) 返回頂部 返回列表