Dlaczego to zapytanie sql nie zwraca żadnych wyników porównujących liczby zmiennoprzecinkowe?

Question

mam to w tabeli mysql:

id i bolag_id są int. lat i lngitude są double.

Jeśli używam kolumnie lngitude brak wyników zwrócone są:

lngitude Zapytanie:SELECT * FROM location_forslag WHERE lngitude = 13.8461208

Jednakże, jeśli mogę użyć kolumny lat, to robi wyników Powrót:

lat Zapytanie:SELECT * FROM location_forslag WHERE lat = 58.3902782

Na czym polega problem z kolumną lngitude?

Answer 1

To nie jest ogólnie dobry pomysł, aby porównać liczb zmiennoprzecinkowych z = równa operatora.

• Is it correct to compare two rounded floating point numbers using the == operator?

• Dealing with accuracy problems in floating-point numbers

dla danej aplikacji, należy wziąć pod uwagę, jak blisko chcesz być odpowiedź.

1 stopień to około 112 km, a 0,00001 stopnia to około 1,1 metra (na równiku). Czy naprawdę chcesz, aby aplikacja mówiła "nie równa się", jeśli dwa punkty różnią się o 0.00000001 stopni = 1 mm?

set @EPSLION = 0.00001 /* 1.1 metres at equator */ 

SELECT * FROM location_forslag 
WHERE `lngitude` >= 13.8461208 -@EPSILON 
AND `lngitude` <= 13.8461208 + @EPSILON 

Spowoduje to zwrócenie punktów, w których lng jest w zakresie @epsilon stopni od pożądanej wartości. Powinieneś wybrać wartość dla epsilon, która jest odpowiednia dla twojej aplikacji.

Answer 2

Floating points are irritating ....

WHERE ABS(lngitude - 13.8461208) < 0.00000005 

Answer 3

Konwertuj zmiennoprzecinkowe na dziesiętne w celu porównania. Miałem ten sam problem i rozwiązano go w następujący sposób:

SELECT 
    [dbo].[Story].[Longitude], 
    [dbo].[Story].[Latitude], 
    [dbo].[Story].[Location], 
FROM 
    [dbo].[Story], 
    [dbo].[Places] 
WHERE 
    convert(decimal, [dbo].[Story].[Latitude]) = convert(decimal, [dbo].[Places].[Latitude]) 
    and 
    convert(decimal, [dbo].[Story].[Longitude]) = convert(decimal, [dbo].[Places].[Longitude]) 
    and 
    [dbo].[Places].[Id] = @PlacesID 
    and 
    [dbo].[Story].IsDraft = 0 
ORDER BY 
    [dbo].[Story].[Time] desc 

Spójrz na pierwsze 3 rzędy po klauzuli WHERE. Mam nadzieję, że to pomaga.