« 1つのレイヤーに複数の画像を表示できますか? | メイン | コミックランタイムが対応しているオーディオファイルの拡張子は何ですか? »

変数を計算する際の小数点について

計算サンプル
コミックメーカーでは、数値変数はすべて整数で扱われます。
したがって、3÷2を行った値もしくは5÷4を行った値を数値変数「1」に代入した場合
1.5または1.25ではなく、1という値が代入され、計算途中における少数点はすべて無視されます。
注:四捨五入ではなく、切り捨てとなります
(C言語やBasic言語でいうint型とおなじ働きをします)

もしも、小数点を考慮した計算を行おうとするのであれば、
数値変数をあらかじめ10倍、100倍した状態で計算を行う必要があります。

例:
5÷3×0.6をしたいのであれば・・・。
小数点の有効桁数を2桁とすると、
500÷3×6=166×6=996
5→500で100倍
0.6→6で10倍しているので
計算結果を1000で割ったのが正しい計算結果となる。
したがって正しい計算結果は0.996
表示するときは、メッセージの表示コマンドで「0.」までの部分を表示した後に数値変数の値を表示すればOK。

なお、整数部分と小数部分を併せ持っている場合は、modの計算を使用して、変数の整数部分と小数部分の分離を行います。
例:58735→58.735と表示したい場合
数値変数「整数」と「小数」を用意します
「整数」←58735 ÷ 1000
「小数」←58735 mod 1000
 とすれば、整数部分と小数部分に分けることができ、メッセージの表示コマンドで
%整数%.%小数%と表示することで、見掛け上、小数を含む実数を正しく表示することができます。


関連記事

Copyright ©2005-2013 近藤 All Rights Reserved.| 2008年7月29日

トラックバック

このエントリーのトラックバックURL:
http://faq.comicmaker.info/system/mt-tb.cgi/224

質問と回答

この記事についての質問・意見はこちらからどうぞ


質問した直後にはこのページには質問は掲載されません。
近藤(管理人)による回答が完了した時点(1日~3日ほど)で質問と回答が同時掲載されます。
尚、メールアドレスを記入していただいた質問につきましては、
メールアドレス宛に回答させていただき、このページには質問も回答も掲載致しません

(ただし、データ本文を修正するべきと判断した場合は質問の回答に基づき修正いたします)
ので、個人の開発環境に深く関係するような質問はなるべくメールアドレスをご記入下さい。

<<SPAM対策のため、以下の英字は使用しないでください>>
good,great,nice,homepage,find




保存しますか?