ホーム › フォーラム › Android,iOS › FloatToString$ の表示バグ
-
投稿者投稿
-
2018-08-12 10:36 pm #15477ラクレス参加者
お世話になっております
FloatToString$ で表示小数点の桁数を1に指定すると
0.95~0.99…. 間が 0.9 ではなく 0.10 と表示されます
マイナスの場合も同様です確認用のサンプルを添付しました
実機の方で 0.95~0.99 の表示を確認して頂ければと思います
小数点の桁数が2以上の場合は正常に表示されるようですまたwindows上では上記バグはありませんが別の問題があります
小数点桁数を指定しているにも関わらず
指定桁に1が繰り上がってくるまで 0 と表示されます
バグの類では無いですが桁数を揃えて複数の値を並べたい時など見栄えが悪いです
例えば小数点2桁指定の場合 0 の時は 0.00 と表示されますが
0.001 ~ 0.004 の間は 0 と表示され
0.005 になると繰り上げられ 0.01 と小数点2桁表示に戻ります
ちなみにこの現象はwindows上のみで実機では起こりません後者はwindous上での見栄えの問題で済みますが
前者は間違った値が表示されてしまうので致命的です
どうぞ確認頂ければと思いますAttachments:
You must be logged in to view attached files.2018-08-12 11:16 pm #15479ラクレス参加者小数点の桁数が2以上の場合は正常に表示されると書きましたが
2以上の場合でも指定数の1つ下の桁が動く場合同じ現象が起きます
2桁の場合は 0.995~0.999… で 0.100 に
4桁の場合は 0.99995~0.99999… で 0.10000 になる
といった具合です 併せて確認をお願い致します2018-08-13 6:30 pm #15493ASDキーマスター>>ラクレスさん
2つ問題を指摘されているようですが、『繰り上がりを防止したい』と認識し、そのようなサンプルにいたしました。違うようなら再質問してください。– サンプルプログラム
https://blog.clickteam.jp/wp-content/uploads/2018/08/cf25_blog_2018-08-13_浮動小数点繰り上がり防止.zip2018-08-13 9:03 pm #15494ラクレス参加者回答頂きありがとうございます
サンプルを拝見させて頂き後者の問題が仕様であるという事も理解しました
0 表示されてしまう条件下では 0.0 と直接入力するイベントを用意する事にします前者の問題ですが 言葉で伝えるのが難しいので
windowsとandroidでの比較画像を添付します
赤丸で囲っている部分が相当箇所ですAttachments:
You must be logged in to view attached files.2018-08-13 10:17 pm #15496ASDキーマスターありがとうございます。症状を理解できました。
これはバグの可能性が高そうですので開発元へ報告いたします。2018-08-13 10:18 pm #15497ラクレス参加者添え書きの”小数点2桁まで表示されてしまう”は限定的な表現でした
条件下(表示指定した小数点が9から上の桁に繰り上げられ0になるべき時)
で桁が下にずれ、それにならって尻の0が指定桁数の下に表示されてしまうという事です
小数点1指定の場合 0.94 は繰り下げで 正常に 0.9 と表示されますが
0.95 の場合繰り上げられて 1.0 となるべきですが 0.10 と表示されてしまいます
1.97 → 2.0 ではなく 1.10
3.99 → 4.0 ではなく 3.10 と表示されてしまうといった具合です
ずれるというより桁が繰り上げられず10までカウントされてしまっている感じでしょうか2018-08-13 10:21 pm #15498ラクレス参加者コメントかぶり申し訳ございません
ご対応頂きありがとうございますm(_ _)m2018-09-06 7:09 pm #15580ASDキーマスターAndroidで小数点の位置が異なってしまう問題ですが、下記のファイルをお試しください。
https://drive.google.com/file/d/0B8W2ouqsL7KYU05CUUF3dDNPMmc/view?usp=sharing
zipファイルを、CF2.5のdata/runtime/androidの同名ファイルと置き換えてください。
2018-09-07 3:00 pm #15581ラクレス参加者2019-04-04 2:13 pm #32837 -
投稿者投稿
- このトピックに返信するにはログインが必要です。