Некорректная работа с Float числами

[timsky]

Сколько будет 251.187 - 247.015? У меня выдает 4.17200000000003
На днях столкнулся с этим багом и помогло только принудительное округление :wacko:
Пробовал на Win XP SP3 и Win 7 x64 / AutoIt 3.3.6.1. Вот пример:

$in = Number('247.015')
$out = Number('141.796')
$in2 = Number('251.187')
$out2 = Number('142.373')
MsgBox(0, IsNumber($in) & IsFloat($in) & IsInt($in) & IsString($in), $in - $in2 & @CRLF & $out - $out2)

$in = 247.015
$out = 141.796
$in2 = 251.187
$out2 = 142.373
MsgBox(0, IsNumber($in) & IsFloat($in) & IsInt($in) & IsString($in), $in - $in2 & @CRLF & $out - $out2)

$in = '247.015'
$out = '141.796'
$in2 = '251.187'
$out2 = '142.373'
MsgBox(0, IsNumber($in) & IsFloat($in) & IsInt($in) & IsString($in), Round($in - $in2, 3) & @CRLF & Round($out - $out2, 3))

Или я чего-то не догоняю?

 

[CreatoR]

timsky [?]

Сколько будет 251.187 - 247.015? У меня выдает 4.17200000000003

А сколько ты ожидаешь?
Калькулятор выдаёт то же число.

Вот проверь с обратным действием:

$Num1 = 251.187
$Num2 = 247.015

$iCalc = ($Num1 - $Num2)
$iCalcBack = $iCalc + $Num2

ConsoleWrite($iCalc & @LF)
ConsoleWrite($iCalcBack & @LF)

 

[madmasles]

CreatoR [?]

Калькулятор выдаёт то же число.

У меня калькулятор (и calc.exe, и Calculator.exe от от Yashied, и внешний) выдает 4.172
timsky
У меня тоже только так считает:

$ix_1 = 251.187
$ix_2 = 250.187867
If IsFloat($ix_1) Or IsFloat($ix_2) Then
	$iRound_1 = StringLen($ix_1) - StringInStr($ix_1, '.')
	$iRound_2 = StringLen($ix_2) - StringInStr($ix_2, '.')

	If $iRound_2 <= $iRound_1 Then
		$iRound = $iRound_1
	Else
		$iRound = $iRound_2
	EndIf
	MsgBox(0, '1', Round($ix_2 - $ix_1, $iRound))
Else
	MsgBox(0, '2', $ix_2 - $ix_1)
EndIf

 

[CreatoR]

madmasles [?]

У меня калькулятор выдает 4.172

И у меня, он просто округляет число.

Тогда почему сложение обратно даёт нормальный результат?

 

[madmasles]

CreatoR [?]

Тогда почему сложение обратно даёт нормальный результат?

Честно говоря, сам удивляюсь. :wacko:

 

[SyDr]

http://autoit-script.ru/index.php/topic,1119.msg8148.html#msg8148

Это уже обсуждалось. Число вещественных чисел на любом промежутке бесконечно. Но в памяти компьютера можно представить только огрниченной число таких чисел.

"Баг" проявляется не всегда потому, что AutoIt пытается окрглять такие ошибки. Но, похоже, у него это не всегда получается.

 

[timsky]

timsky [?]

Сколько будет 251.187 - 247.015? У меня выдает 4.17200000000003

А сколько ты ожидаешь?
Калькулятор выдаёт то же число.

Вот проверь с обратным действием:

$Num1 = 251.187
$Num2 = 247.015

$iCalc = ($Num1 - $Num2)
$iCalcBack = $iCalc + $Num2

ConsoleWrite($iCalc & @LF)
ConsoleWrite($iCalcBack & @LF)

Ну значит неправильный калькулятор Хотя у меня на 7-ке он выдает 4.172. Это можно и в уме посчитать и такое длинное число по любому не получится.
ИМХО конкретный баг.

 

[SyDr]

Да поймите же вы, что числа в компе хранятся не 10-ичной системе счисления, а в 2-ичной.

 

[timsky]

Я это прекрасно понимаю, но в АвтоИт все переменные хранятся как Variant и он автоматом их преобразует при определенных операциях:

In AutoIt there is only one datatype called a Variant. A variant can contain numeric or string data and decides how to use the data depending on the situation it is being used in.

Т.е. сабж уже проделывает определенные манипуляции за кодера и я ожидал, что с этой примитивной задачей он справится.
ИМХО нужно либо внедрить ф-ю _Precise в ядро, либо указать, что далеко не всегда преобразования происходят идеально и дать примеры в справке.

Но и с _Precise не все так радужно, т.к. не всегде помогает округление до 15-ти символов. Пример:

$in = 247.015
$out = 141.796
$in2 = 251.187
$out2 = 142.373
$res1 = $in - $in2
$res2 = $out - $out2
MsgBox(0, '', 'Round 15: ' & @CRLF & Round(($res1), 15) & @CRLF & Round(($res2), 15) & @CRLF & @CRLF & 'Round 14: ' & @CRLF & Round(($res1), 14) & @CRLF & Round(($res2), 14) & @CRLF & @CRLF & 'Round 13: ' & @CRLF & Round(($res1), 13) & @CRLF & Round(($res2), 13))

 

[Yashied]

ИМХО конкретный баг.

timsky, почитай для начала следующую статью (там ключевое слово округление):

http://xpoint.ru/know-how/Articles/FloatingPointNumbers

А потом подумай, почему так:

$A = 1.1 - 1
$B = 0.1

ConsoleWrite($A & @CR)
ConsoleWrite($B & @CR)
ConsoleWrite('($A = $B) = ' & ($A = $B) & @CR)