若將u,r,g,b設int 則以下 for(r=0;r<256;r ) for(g=0;g<256;g ) for(b=0;b<256;b ) { u=-0.147*r-0.289*g 0.436*b; if(u>max)max=u; }u輸出為111 若將u,r,g,b設為float的話 111.180000305176 請問該如何得到正確的值(111.18)?

 
Ex1:
#include "SysUtils.hpp"
....
....
....   
float a=111.180000305176;
Label1->Caption=FloatToStrF(a,ffFixed,5,2);    Ex2:    #include "stdio.h"
....
....
.... 
float a=111.180000305176;
char size[256]={0};
sprintf(size,"%.5G", a);
Label1->Caption=(AnsiString)size;    

發表人 - rogan321 於 2005/04/04 16:51:31

#include "SysUtils.hpp" .... .... .... float a=111.180000305176; Label1->Caption=FloatToStrF(a,ffFixed,5,2); ----------------------------------------------- 這樣是將他用字串的形式顯示出來.... 若我要直接拿111.18來運算 這樣就要將字串在轉回浮點數(好像也不能轉) 請問有沒有辦法可以直接找出111.18來使用? 發表人 - bug57520 於 2005/04/04 17:10:24

你了解浮點數的意思嗎~為什麼不叫小數就好~所以浮點運算一定會有誤差 不過像float的誤差在5位數以後~所以一般數學運算可以接受~要更精密 則使用double 轉回可以阿~StrToFloat()或StrToFloatDef()即可~也等於是修正了誤差值 ~請參考help文件