おそらく…
テキストとして取り出す値と,内部で保持する値が異なるのが原因ではないかと.
D列の小数点以下の表示桁数を増やすと,途中から0が並ぶようになりますが,
内部で保持するデータはIEEE754に基づくはずなので,あと1〜2桁多くなります.
たとえばD16セルは表示桁数を増やすと,「1.00318471337580000…」になると思いますが,
内部では「1.003184713375796300…」といった具合です.
COUNTIF関数の条件式ではおそらく前者の数値表現を持ってくる仕様で,
実際に比較する場合は後者の数値を持ってくるため,
当該セルも「真に小さい」という条件が成立してしまいます.
仕様上,こういった場当たり的に見える処理が多々あるので,
浮動小数点の比較などには数値計算上のテクニックが必要となります.
LibreOffice PART23
■ このスレッドは過去ログ倉庫に格納されています
122名無しさん@お腹いっぱい。
2020/12/13(日) 16:05:29.61ID:EQxgWk2i0■ このスレッドは過去ログ倉庫に格納されています
ニュース
- Xは連日、会見は3カ月半なし 高市首相、強める一方通行の発信 [蚤の市★]
- 【平和教育】「学ぶ機会を奪わないで…」「辺野古沖転覆事故」きっかけに考える…信州から沖縄へ修学旅行を前に高校生と教育現場 [少考さん★]
- 【江別大学生集団暴行死】川村葉音被告(21)に無期懲役を求刑 判決は25日 ★4 [Hitzeschleier★]
- 元ジャンポケ・斉藤被告「笑顔だったので、キスしてもOKだと⋯」「お互いが同時に舌と舌を動かした。求められてると思った」★2 [Anonymous★]
- 【旭川】内田梨瑚被告「本当に申し訳ございません」涙ながらに謝罪→検察「なぜ泣いたんですか?」→内田被告「・・・・・・」 ★2 [Hitzeschleier★]
- 藤井フミヤが語る音楽界の変化 「社会が望んでない」ジャンルの曲とは…「口説くような歌がないよね 頑張ろう、みたいな歌ばっか」 [muffin★]
- 🏡💴👊😅👊💴🏡
- 高市早苗「うちの木下はすい臓がんステージ4を去年宣告されたからいつどうなるかわからんなぁ」 [931948549]
- 【高市悲報】トランプ「素晴らしい雇用統計を受けて株価は上昇するはずだ、経済成長はインフレを意味するものではない! [733893279]
- ネットに強い弁護士「俺の送ったファイルがウイルスに感染してるって裁判所からメール来て草」パシャッ
- 【高市朗報】週刊文春、Zoom動画を無料公開中! [219241683]
- 高市早苗、さすがに態度が悪すぎる [126042664]