FloatToString$ の表示バグ

ホーム フォーラム Android,iOS FloatToString$ の表示バグ

10件の投稿を表示中 - 1 - 10件目 (全10件中)
  • 投稿者
    投稿
  • #15477
    ラクレス
    参加者

    お世話になっております

    FloatToString$ で表示小数点の桁数を1に指定すると
    0.95~0.99…. 間が 0.9 ではなく 0.10 と表示されます
    マイナスの場合も同様です

    確認用のサンプルを添付しました
    実機の方で 0.95~0.99 の表示を確認して頂ければと思います
    小数点の桁数が2以上の場合は正常に表示されるようです

    またwindows上では上記バグはありませんが別の問題があります
    小数点桁数を指定しているにも関わらず
    指定桁に1が繰り上がってくるまで 0 と表示されます
    バグの類では無いですが桁数を揃えて複数の値を並べたい時など見栄えが悪いです
    例えば小数点2桁指定の場合 0 の時は 0.00 と表示されますが
    0.001 ~ 0.004 の間は 0 と表示され
    0.005 になると繰り上げられ 0.01 と小数点2桁表示に戻ります
    ちなみにこの現象はwindows上のみで実機では起こりません

    後者はwindous上での見栄えの問題で済みますが
    前者は間違った値が表示されてしまうので致命的です
    どうぞ確認頂ければと思います

    Attachments:
    You must be logged in to view attached files.
    #15479
    ラクレス
    参加者

    小数点の桁数が2以上の場合は正常に表示されると書きましたが
    2以上の場合でも指定数の1つ下の桁が動く場合同じ現象が起きます
    2桁の場合は 0.995~0.999… で 0.100 に
    4桁の場合は 0.99995~0.99999… で 0.10000 になる
    といった具合です 併せて確認をお願い致します

    #15493
    ASD
    キーマスター

    >>ラクレスさん
    2つ問題を指摘されているようですが、『繰り上がりを防止したい』と認識し、そのようなサンプルにいたしました。違うようなら再質問してください。

    – サンプルプログラム
    https://blog.clickteam.jp/wp-content/uploads/2018/08/cf25_blog_2018-08-13_浮動小数点繰り上がり防止.zip

    #15494
    ラクレス
    参加者

    回答頂きありがとうございます
    サンプルを拝見させて頂き後者の問題が仕様であるという事も理解しました
    0 表示されてしまう条件下では 0.0 と直接入力するイベントを用意する事にします

    前者の問題ですが 言葉で伝えるのが難しいので
    windowsとandroidでの比較画像を添付します
    赤丸で囲っている部分が相当箇所です

    Attachments:
    You must be logged in to view attached files.
    #15496
    ASD
    キーマスター

    ありがとうございます。症状を理解できました。
    これはバグの可能性が高そうですので開発元へ報告いたします。

    #15497
    ラクレス
    参加者

    添え書きの”小数点2桁まで表示されてしまう”は限定的な表現でした
    条件下(表示指定した小数点が9から上の桁に繰り上げられ0になるべき時)
    で桁が下にずれ、それにならって尻の0が指定桁数の下に表示されてしまうという事です
    小数点1指定の場合 0.94 は繰り下げで 正常に 0.9 と表示されますが
    0.95 の場合繰り上げられて 1.0 となるべきですが 0.10 と表示されてしまいます
    1.97 → 2.0 ではなく 1.10
    3.99 → 4.0 ではなく 3.10 と表示されてしまうといった具合です
    ずれるというより桁が繰り上げられず10までカウントされてしまっている感じでしょうか

    #15498
    ラクレス
    参加者

    コメントかぶり申し訳ございません
    ご対応頂きありがとうございますm(_ _)m

    #15580
    ASD
    キーマスター

    Androidで小数点の位置が異なってしまう問題ですが、下記のファイルをお試しください。

    https://drive.google.com/file/d/0B8W2ouqsL7KYU05CUUF3dDNPMmc/view?usp=sharing

    zipファイルを、CF2.5のdata/runtime/androidの同名ファイルと置き換えてください。

    #15581
    ラクレス
    参加者

    ご対応頂きありがとうございます!
    パッチファイルを当ててみたところ違ったバグ表記が起こるようになりました
    値が 0.5 以上になると 1.-5 の様に表示されてしまいます
    サンプルをご確認頂ければと思います

    • この返信は5年、 6ヶ月前にラクレスが編集しました。
    Attachments:
    You must be logged in to view attached files.
    #32837
    ラクレス
    参加者

    いつもお世話になっております。
    先日お話した開発元さんへの報告用比較動画です。
    動きがバラバラなので比較しながら見るのは難しいかもしれませんが
    Androidの方だけ見てもらえれば伝わるかなと思います。
    一応mfaとapkも入れてあります。

    Androidの方が四捨五入にならないのは小数点の扱いの違い?
    で誤差が生じているのが原因ですかね。

    Attachments:
    You must be logged in to view attached files.
10件の投稿を表示中 - 1 - 10件目 (全10件中)
  • このトピックに返信するにはログインが必要です。