おそらく…
テキストとして取り出す値と,内部で保持する値が異なるのが原因ではないかと.
D列の小数点以下の表示桁数を増やすと,途中から0が並ぶようになりますが,
内部で保持するデータはIEEE754に基づくはずなので,あと1〜2桁多くなります.
たとえばD16セルは表示桁数を増やすと,「1.00318471337580000…」になると思いますが,
内部では「1.003184713375796300…」といった具合です.
COUNTIF関数の条件式ではおそらく前者の数値表現を持ってくる仕様で,
実際に比較する場合は後者の数値を持ってくるため,
当該セルも「真に小さい」という条件が成立してしまいます.
仕様上,こういった場当たり的に見える処理が多々あるので,
浮動小数点の比較などには数値計算上のテクニックが必要となります.
LibreOffice PART23
■ このスレッドは過去ログ倉庫に格納されています
122名無しさん@お腹いっぱい。
2020/12/13(日) 16:05:29.61ID:EQxgWk2i0■ このスレッドは過去ログ倉庫に格納されています
ニュース
- 【追加利上げ】ローン抱える若年層にはマイナス効果…高齢世帯の家計は2万円のプラスに [蚤の市★]
- NHKのウェブニュース、閲覧回数が急落 新聞・民放と共闘の道は:朝日新聞 [少考さん★]
- 【埼玉】散弾銃3丁と実包125発など盗まれる 羽生市の住宅 鍵付きロッカーや金庫に入ったまま 現金や貴金属も 窃盗容疑で捜査 [ぐれ★]
- 【作業事故】JAの倉庫で新米1トンパックの下敷き 作業をしていた農業の49歳男性が死亡 新潟 [ぐれ★]
- GoogleのAIも他社システムに侵入 事故直後に停止、公表せず [少考さん★]
- 「民主改革の会」支持率0%、中道改革連合が政党交付金の未交付分11億円受領「納得できない」80%…読売世論調査 ★2 [煮卵★]
- 【悲報】女男平等ランキング、日本は世界117位で最下位になってしまうwwwwwwwwwwwwなぜ日本は世界最悪の男尊女卑社会なのか? [257926174]
- 【実況】博衣こよりのえちえち空の軌跡🧪
- 【悲報】𝕏まんこ「いやあああああああ! AV女優と同じネイルしたくない!」 三上悠亜「開示請求します」 [404143271]
- 【悲報】中国の最新ロボット技術を見た日本人さん、完全に脳を破壊されて終わる [153736977]
- 【悲報】しぐれういさん(9)、収益化剥奪か [517459952]
- 沖縄の自衛隊、出張先で羽根を伸ばしわいせつで逮捕、地元で盗み…やりたい放題 [245325974]