計算結果がおかしい?

ホーム フォーラム CF2.5使用法全般 計算結果がおかしい?

  • このトピックには5件の返信、3人の参加者があり、最後にdaifukuにより5年、 4ヶ月前に更新されました。
6件の投稿を表示中 - 1 - 6件目 (全6件中)
  • 投稿者
    投稿
  • #15865
    daifuku
    参加者

    150/100の計算結果は1.5ですよね?電卓上でもそうなりました。
    CF2.5上で150/100をカウンターを使って計算してみると計算結果が1になりました。
    私が何か勘違いしているのでしょうか?それとも何かも仕様でしょうか?

    #15866
    ラクレス
    参加者

    小数点が含まれない除算で整数が返って来るのは仕様です
    150/100 ではなく 150.0/100 などしてやると 1.5 が返って来ます

    私も最初は知らなかったのですが
    小数点の付いた数字以降の計算は小数まで求められるようです
    例えば 100/7/5/3.0 の場合は
    100/7/5 までは整数で求められ /3.0 だけ小数まで求められる
    対して 100/7/5.0/3 の場合は
    100/7 は整数で求められ /5.0 以降は小数まで求められるといった具合です

    ちなみに 10/3 + 10/4 のように途中 + や – で区切られる場合は
    10.0/3 + 10.0/4 と両方に .0 を含めてやる必要があります

    #15869
    daifuku
    参加者

    >>ラクレスさん
    そういう仕様だったのですね、特定のステータスを1.5倍などにする時何故変化が無いのだろうと悩んでおりました。まさか小数点が必要だとは思わなかったです。
    ありがとうございました。

    #15871
    MYTH
    参加者

    CF2.5上では普通に計算すると小数点以下は切り捨てられる仕様みたいですね…
    自分もこの仕様に長いこと気づかず色々苦労しまた(´;ω;`)
    これを回避するには、式の中に「.0」のように小数を入れるのがいいです!
    または式の中に利用する関数や変数に小数が含まれていると小数で計算してくれます。
    オブジェクトのプロパティで設定する変数も小数点以下は入力できないので、計算に利用する際はフレーム開始時などに×1.0するとその後の計算は正しく行われます。
    wikiに詳細があると思いますので、そちらも参照してください!

    #15872
    MYTH
    参加者

    と思ったら既に回答ありましたね!(´・ω・`)
    足し算でも分けないとなのですか…参考になりました。

    #15873
    daifuku
    参加者

    >>MYTHさん
    皆さんこの仕様に直面するんですね・・・
    今後は「.0」を意識して計算させていこうと思います。
    原因が分からずこの事について調べていたのですが探し足りなかったようです。
    wikiも見てきますね、ありがとうございます。

6件の投稿を表示中 - 1 - 6件目 (全6件中)
  • このトピックに返信するにはログインが必要です。