Лучшие floating-point вопросы ИТ разработчиков

  • 374голосов
  • 10ответов
  • 0просмотров

Насколько опасно сравнивать значения с плавающей запятой?

я знаюUIKit использованияCGFloat из-за разрешения независимой системы координат. Но каждый раз, когда я хочу проверить, если, например,frame.origin.x является0 меня тошнит if (theView.frame.origin.x == 0) { // do important operation }Isn & ...

ЗаданDec 17, 2015, 12:09 PMотNitin GohelProud Member
  • 8голосов
  • 2ответа
  • 0просмотров

JSON.parse неправильно анализирует / конвертирует большие числа

Моя проблема действительно проста, но я не уверен, есть ли "родной" решение с использованием JSON.parse. Я получаю этоstringиз API: { "key" : -922271061845347495 }Когда я использую JSON.parse для этой строки, это превращается вobject: { "key" ...

ЗаданNov 26, 2014, 7:26 AMотSalman ASimon
  • 46голосов
  • 4ответа
  • 0просмотров

Как мне конвертировать Int / Decimal в плавающие в C #?

Как преобразовать из целого числа или десятичного числа в число с плавающей точкой в C #? Мне нужно использовать float для стороннего элемента управления, но я не использую их в своем коде, и я не уверен, что получится с плавающей точкой.

ЗаданApr 03, 2017, 4:34 PMотPeter MortensenJared
  • 13голосов
  • 2ответа
  • 0просмотров

Добавление к Number.MAX_VALUE

Ответ на этот вопрос может быть до боли очевиден, но я не могу найти его ни в документах Mozilla, ни в Google из беглого поиска. Если у вас есть такой код Number.MAX_VALUE + 1; // Infinity, right? Number.MIN_VALUE - 1; // -Infinity, right?Тогда ...

ЗаданMay 31, 2012, 4:37 PMотkennytmMark
  • 4голосов
  • 7ответов
  • 0просмотров

печать неотъемлемой части числа с плавающей точкой

Я пытаюсь выяснить, как печатать числа с плавающей запятой без использования библиотечных функций. Печать десятичной части числа с плавающей запятой оказалась довольно простой. Печать неотъемлемой части сложнее: static const int base = 2; static ...

ЗаданDec 19, 2016, 7:52 AMотMD XFfredoverflow
  • 14голосов
  • 4ответа
  • 0просмотров

Отображать значение с плавающей запятой без научного обозначения

Когда я делаю следующее умножение в PHP: $ret = 1.0 * 0.000000001;я получаю результат: 1.0E-9 Я хочу преобразовать этот результат в обычную десятичную запись, как я могу это сделать? sprintf('%f',$ret) не работает, возвращается0.000000, ...

ЗаданJun 06, 2012, 3:58 PMотmskfisherJohni
  • 38голосов
  • 5ответов
  • 0просмотров

Проблема с данными jQuery (), трактующими строку как число

У меня есть MySQL BIGINT, который я храню в данных HTML5. Затем я пытаюсь получить доступ к этому значению и передать его через вызов AJAX. <div data-id="211285677671858177">И JavaScript: var send_data = { id: '' + $(this).data('id') } ...

ЗаданJun 09, 2012, 3:16 AMотandrewtweber
  • 2голос
  • 1ответ
  • 0просмотров

Переменные с плавающей запятой присваивают значение из строки выше

У меня есть приложение для iOS, которое делает вещи, которые мне не совсем понятны. У меня есть несколько переменных с плавающей точкой, определенных в моем интерфейсе, которые назначаются неправильно. kettleVolume = 30; lbsGrain = 5; mashIn = ...

ЗаданJun 09, 2012, 5:56 PMотJames
  • 33голосов
  • 3ответа
  • 0просмотров

Двухбайтовый размер в 32-битной и 64-битной ОС

Есть ли разница вдвойной [http://msdn.microsoft.com/en-us/library/system.double.aspx]размер при запуске приложения в 32- и 64-разрядной среде? Если я не ошибаюсь, двойная в 32-битной среде займет 16 цифр после 0, тогда как двойная в 64-битной ...

ЗаданJul 09, 2009, 2:19 AMотJohn KugelmanGraviton
  • 4голосов
  • 2ответа
  • 0просмотров

Преобразовать вектор с плавающей точкой в вектор байтов и обратно

Я пытаюсь выполнить некоторые преобразования между массивами с плавающей точкой и без знака (в данном случае std :: vector), и у меня возникли некоторые проблемы. Я преобразовал вектор с плавающей точкой в неподписанный символ следующим образом ...

ЗаданJun 14, 2012, 1:41 PMотmskfisherrocklobster
  • 12голосов
  • 4ответа
  • 0просмотров

Rails 3 Float или десятичное для GPS-координат

Мне нужно хранить координаты GPS в базе данных. Я слышал, что числа с плавающей точкой менее точны, чем десятичные дроби. Это правда? Если да, то какая причина использовать поплавки?

ЗаданJun 14, 2012, 9:47 PMотjac
  • 5голосов
  • 4ответа
  • 0просмотров

Как читать в поплавках из файла?

Как я могу открыть файл и прочитать с плавающей точкой из файла, если он в строковом формате, в Python? Я также хотел бы изменить значения каждого поплавка и переписать файл с новыми значениями.

ЗаданJun 15, 2012, 4:20 PMотmskfisherPeter Jones
  • 21голосов
  • 2ответа
  • 0просмотров

Преобразование из двойного в плавающее в Java

Если я работаю сdoubleи я превращаю его вfloatкак это работает точно? Значение усекается, чтобы оно помещалось в число с плавающей точкой? Или значение округляется по-разному? Извините, если это звучит немного исправительно, но я пытаюсь понять ...

ЗаданApr 09, 2012, 2:53 PMотFranklin
  • 32голосов
  • 6ответов
  • 0просмотров

Диапазоны типа данных с плавающей точкой в C?

Я читаю книгу на языке C, говоря о диапазонах с плавающей запятой, автор дал таблицу: Type Smallest Positive Value Largest value Precision ==== ======================= ============= ========= float 1.17549 x 10^-38 3.40282 x 10^38 6 digits ...

  • 6голос
  • 1ответ
  • 0просмотров

Расширенная библиотека с плавающей запятой точности C / C ++

Я ищу расширенную библиотеку с плавающей запятой со следующими функциями: * fixed data type size (i.e. the extended precision float takes a fixed amount of memory) * no initialization required for variables * specify size of both mantissa ...

ЗаданApr 14, 2012, 10:59 PMотje4dMark
  • 6голосов
  • 2ответа
  • 0просмотров

Деление и числа с плавающей запятой

Кто-нибудь может мне помочь, почему х2 печатает ноль. Я предполагаю, что из-за представления с плавающей запятой X1 округляется, есть ли способ сохранить прецессию. long double x1, x2; x1= 0.087912088; // Note: 360/4095 = 0.087912088 x2 ...

ЗаданJun 16, 2012, 2:47 PMотPuppykatta
  • 15голосов
  • 4ответа
  • 0просмотров

Ошибка округления в два раза в методе .NET Double.ToString

Математически рассмотрим для этого вопроса рациональное число 8725724278030350 / 2**48где** в знаменателе обозначает возведение в степень, то есть знаменатель2 к48сила (Фракция не в низших терминах, сводится к 2.) Это числоexactlyпредставляемый ...

ЗаданMay 23, 2017, 12:12 PMотCommunityJeppe Stig Nielsen
  • 11голосов
  • 9ответов
  • 0просмотров

PHP - Сериализация плавающих точек

Я генерирую 10 случайных чисел с 6 по 8 (все по понятной причине) и записываю их в базу данных mysql в сериализованной форме. Но одна странность, кажется, появляется во время хранения: Перед сохранением я просто вывожу те же данные, чтобы ...

ЗаданJun 06, 2012, 1:36 PMотmskfisher
  • 10голосов
  • 3ответа
  • 0просмотров

Различия в точности в Matlab и C ++

Я пытаюсь сделать тесты эквивалентности по алгоритму, написанному на C ++ и в Matlab. Алгоритм содержит какой-то цикл во времени и выполняется более 1000 раз. Имеет арифметические операции и некоторые математические функции. Я передаю начальные ...

ЗаданJun 22, 2012, 8:17 AMотcrbah
  • 56голосов
  • 4ответа
  • 0просмотров

Округлить число до следующего целого числа в javascript

Мне нужно округлить числа с плавающей запятой до ближайшего целого числа, даже если число после запятой меньше 0,5. Например, * 4.3 should be 5 (not 4) * 4.8 should be 5 Как я могу сделать это в JavaScript?

ЗаданSep 30, 2013, 5:10 PMотPeter OlsonHeba Gomaah
  • 3голосов
  • 3ответа
  • 0просмотров

MySQL хранит Floats

Я пытаюсь сохранить число с плавающей точкой, которое это долго > 13.00386644742523 В основном это значение в латах и латах. когда я сохраняю его в базе данных, его сохраняют как > 13.0039

ЗаданJun 25, 2012, 12:58 PMотmskfisherHarsha M V
  • 81голосов
  • 7ответов
  • 0просмотров

Преобразование строки в плавающее в C #

Я преобразую строку типа «41.00027357629127» и использую; Convert.ToSingle("41.00027357629127");или же float.Parse("41.00027357629127");Эти методы возвращают4.10002732E+15. Когда я конвертирую в плавающий файл, я хочу "41.00027357629127". Эта ...

ЗаданAug 09, 2017, 11:18 PMотPeter MortensenMehmet
  • 27голосов
  • 6ответов
  • 0просмотров

Какова относительная скорость сложения с плавающей запятой и умножения с плавающей запятой?

Десять или два года назад стоило написать числовой код, чтобы не использовать умножения и деления, а вместо этого использовать сложение и вычитание. Хорошим примером является использованиефорвардные ...

ЗаданJul 18, 2009, 6:40 AMотdlamblinJ. Peterson
  • 8голосов
  • 2ответа
  • 0просмотров

Любые IEEE754 (r) совместимые реализации для Java?

Существуют ли какие-либо полностью совместимые реализации IEEE754r для Java, которые предлагают поддержку всех функций, которые Java выбрала опустить (или, скорее, языки высокого уровня, как правило, опускают): * Traps * Sticky flags * ...

ЗаданJul 13, 2012, 4:33 PMотDurandal
  • 14голосов
  • 5ответов
  • 0просмотров

Haskell: Как проанализировать входную строку ввода-вывода в число с плавающей точкой (или Int или что-то еще)?

Я пытаюсь создать программу, которая принимает число с плавающей точкой, введенное пользователем через клавиатуру, и работает с ним. Однако каждый раз, когда я пытаюсь проанализировать введенную строку в число с плавающей точкой, я получаю ...

ЗаданFeb 26, 2017, 4:06 PMотnbroPhilip Eloy
  • 14голосов
  • 2ответа
  • 0просмотров

Как реализовать «быстрый обратный квадратный корень» в Java?

Я слышал о «быстром обратном квадратном корне»,обсуждается здесь [https://stackoverflow.com/questions/1349542/john-carmacks-unusual-fast-inverse-square-root-quake-iii] и я хотел включить его в свою Java-программу (только для ...

ЗаданMay 23, 2017, 12:17 PMотCommunityRiking
  • 5голос
  • 1ответ
  • 0просмотров

Локализуйте число с плавающей точкой и укажите количество десятичных знаков в iOS

У меня есть число с плавающей точкой, которое я хотел бы отобразить с точностью до одного знака после запятой. Например. 104.8135674 ... будет отображаться как 104.8 на английском языке. Обычно я использую: myString = [NSString ...

ЗаданJul 16, 2012, 5:04 PMотmskfisherMattyG
  • 39голосов
  • 5ответов
  • 0просмотров

Доступна ли произвольная точность Python с плавающей точкой?

Просто ради забавы и потому что это было действительно легко, я написал короткую программу для генерацииПрививка номера [http://math.wikia.com/wiki/Grafting_number], но из-за проблем точности с плавающей запятой он не находит некоторые из более ...

ЗаданJul 19, 2013, 9:41 PMотOmnipotentEntity
  • 4голосов
  • 2ответа
  • 0просмотров

Реализация Pow для двойного

Я разрабатываю код, который будет использоваться для управления движением, и у меня возникла проблема с функцией pow. Я использую VS2010 в качестве IDE. Вот моя проблема: Я имею: double p = 100.0000; double d = 1000.0000; t1 = ...

ЗаданJul 18, 2012, 2:59 AMотPaulo Sherring
  • 2голосов
  • 2ответа
  • 0просмотров

С какой стати PHP преобразовал бы результат (int) ((0.1 + 0.7) * 10) в 7, а не в 8?

Почему бы PHP преобразовать результат(int) ((0.1+0.7)*10) до 7, а не 8? Я знаю, что результат будет(float) 8 когда он приведен к(int) результат будет 7? Почему это происходит?

ЗаданJul 20, 2012, 5:45 AMотwalriiALH
  • 1голос
  • 1ответ
  • 0просмотров

Силовая точка, а не запятая для плавающей точки в Qt

У меня есть очень простой вопрос: как я могу принудительно использовать точки в числах с плавающей запятой вместо запятой (у меня французская версия моей ОС) в Qt? Другой вопрос: можно ли отображать числа с пробелами для разделителей тысяч?

ЗаданJul 22, 2012, 4:54 PMотBartVincent
  • 71голосов
  • 5ответов
  • 0просмотров

Работа с точностью с плавающей точкой в Javascript [дубликат]

This question already has an answer here: * How to deal with floating point number precision in JavaScript? [/questions/1458633/how-to-deal-with-floating-point-number-precision-in-javascript] 34 answers У меня большое количество ...

ЗаданSep 20, 2013, 2:11 AMотEric LeschinskiJeroen
  • 5голосов
  • 5ответов
  • 0просмотров

Как преобразовать или преобразовать число с плавающей точкой в его битовую последовательность, такую как long

Добрый день, Я работаю в 16-битной среде C и хочу преобразовать значение с плавающей запятой в его битовую последовательность, такую как целочисленное значение. Есть несколько способов, которыми я знаю, как этого добиться, один из них с помощью ...

ЗаданAug 06, 2012, 12:33 PMотuser1574047
  • 3голосов
  • 2ответа
  • 0просмотров

Javascript переводит числа с плавающей запятой в целые числа без причины

Я написал функцию, которая ведет себя по-разному в зависимости от числового типа ее параметров. Целое число или число с плавающей запятой. Используя некоторый код из этого вопросаКак я могу проверить, что число с плавающей запятой или целое ...

ЗаданMay 23, 2017, 12:12 PMотCommunitynaden
  • 4голосов
  • 5ответов
  • 0просмотров

Точность в значении с плавающей запятой при использовании Java

Ниже приведен код теста и его вывод. Когда я получаю значение с плавающей запятой из числового значения, точность теряется .. Кто-нибудь может сказать мне, почему это поведение, а также как с этим справиться? public static void main(String[] ...

ЗаданNov 11, 2015, 5:42 PMотpybuser1355253
  • 1голосов
  • 3ответа
  • 0просмотров

Беда с поплавками в Objective-C

У меня небольшая проблема, и я не могу найти решение! Мой код (это только пример кода, но мой оригинальный код делает что-то вроде этого): float x = [@"2.45" floatValue]; for(int i=0; i<100; i++) x += 0.22; NSLog(@"%f", x);выход 52.450001, а не ...

ЗаданMay 09, 2012, 2:10 PMотmskfisherBitDrink
  • 1голосов
  • 2ответа
  • 0просмотров

Как поплавок представлен в шестнадцатеричном формате?

Я передаю данные на подчиненное устройство с iPhone, где для передачи требуется 16-битное значение данных. Теперь у меня есть значение с плавающей точкой, которое мне нужно передать, но как узнать, насколько оно велико и как оно представлено в ...

ЗаданAug 15, 2012, 3:30 AMотPeter Ritchiechwi
  • 9голосов
  • 6ответов
  • 0просмотров

Как я могу определить, есть ли у поплавка повторяющееся десятичное расширение в C #?

Мне просто нужно знать, как я могу обнаружить повторяющееся десятичное расширение в числах с плавающей запятой. Пример: 0.123456789123456789 Повторяющаяся часть числа будет 123456789. Я хочу автоматизировать это в C #, есть ли разумное решение?

ЗаданAug 26, 2012, 12:29 AMотMichael AndersonAbi
  • 4голосов
  • 3ответа
  • 0просмотров

Как вы округляете десятичные разряды в C ++?

Мне нужна помощь для округления значения с плавающей запятой до одного десятичного знака. я знаюsetprecision(x) а такжеcout << precision(x), И то и другое работает, если я хочу округлить все числа с плавающей точкой, но меня интересует ...

ЗаданOct 18, 2015, 12:24 PMотMateusz PiotrowskiArminium
  • 2голосов
  • 3ответа
  • 0просмотров

Отправка числа с плавающей запятой с сервера на клиент

я используюTCP/IPпрограммирование сокетов. у меня естьfloating point value хранится в переменнойret_valв коде моего сервера, который я хочу отправить клиенту, который ожидает его получения. Как мне это сделать?

ЗаданJul 31, 2009, 11:58 AMотAdam RobinsonBiswajyoti Das
  • 14голосов
  • 2ответа
  • 0просмотров

1e-9 или -1e9, какой из них правильный? [закрыто]

Мне присваивается какой-то старый код, и когда я его читал, я заметил, что он имеет вид: float low = 1e-9; float high = 1e9; float lowB = 1e-9; float highB = 1e9; float lowL = 1e-9; float highL = 1e9;Итак, я вижу, что он пытается ...

ЗаданAug 26, 2012, 10:16 PMотJoan Venge
  • 3голосов
  • 4ответа
  • 0просмотров

Какое наименьшее ненулевое положительное число с плавающей точкой в Perl?

У меня есть программа на Perl, которая работает с вероятностями, которые иногда могут быть очень маленькими. Из-за ошибки округления иногда одна из вероятностей оказывается равной нулю. Я хотел бы проверить следующее: use constant TINY_FLOAT => ...

ЗаданAug 04, 2009, 2:38 AMотbrian d foyJames Thompson
  • 5голосов
  • 4ответа
  • 0просмотров

Какие значения не могут быть правильно представлены двойным

Тип данных Double не может правильно представлять некоторые базовые 10 значений. Это из-за того, что числа с плавающей запятой представляют действительные числа. Это означает, что при представлении денежных значений следует использовать ...

ЗаданSep 12, 2012, 12:10 PMотGillesGilles
Пред12...9След