Лучшие precision вопросы ИТ разработчиков

  • 89 голосов
  • 6 ответов
  • 0 просмотров
6 ответов

Сколько двойных чисел существует между 0,0 и 1,0?

Это то, о чем я думал в течение многих лет, но у меня никогда не было времени, чтобы спросить раньше.Многие (псевдо) генераторы случайных чисел генерируют сл...

Задан 05 Jun 2010, 02:51 от polygenelubricants
  • 14 голосов
  • 1 ответ
  • 0 просмотров
1 ответ

Исправление «сводки» в R с соответствующим количеством цифр точности

A просто вопрос попросто казалось бы, невинная функция:summary. Пока я не увидел результаты для Мин и Макса, которые выходили за пределы диапазона моих данных, я не знал, чтоsummary имеетdigits аргумент для указания точности результатов вывода. ...

Задан 20 Oct 2011, 17:54 от Iterator
  • 7 голосов
  • 1 ответ
  • 0 просмотров
1 ответ

Реализован ли numpy.sum таким образом, чтобы избежать числовых ошибок?

Хорошо известно, что сложение чисел может привести к числовым ошибкам (например, если первое число действительно большое, тогда как есть много других небольш...

Задан 07 Oct 2015, 23:17 от Nico Ponieman
  • 129 голосов
  • 10 ответов
  • 0 просмотров
10 ответов

В чем разница между операциями с плавающей запятой одинарной и двойной точности?

В чем разница между операцией с плавающей запятой одинарной точности и операцией с плавающей запятой двойной точности? Меня особенно интересуют практические термины в отношении игровых приставок. Например, есть ли в Nintendo 64 64-битный ...

Задан 29 Apr 2009, 06:30 от tweetypi
  • 49 голосов
  • 2 ответа
  • 0 просмотров
2 ответа

Конвертировать номер Java в BigDecimal: лучший способ

Я ищу лучший способ преобразовать число в BigDecimal. Это достаточно хорошо? Number number; BigDecimal big = new BigDecimal(number.toString());Можем ли мы потерять точность сtoString() метод?

Задан 25 Apr 2013, 13:36 от user1721413
  • 3 голосов
  • 3 ответа
  • 0 просмотров
3 ответа

 типа работает.

ал уравнение с использованием двойной точности, и я получил

Задан 28 Apr 2017, 10:53 от Random Tourist
  • 1 голос
  • 1 ответ
  • 0 просмотров
1 ответ

Достаточно ли указать тип с плавающей точкой, чтобы гарантировать такие же результаты?

Я пишу спецификацию, которая описывает некоторую арифметику, которая будет выполняться программным обеспечением. Предполагается, что я могу передать эту спецификацию двум разным программистам (которые используют потенциально разные языки и / или ...

Задан 10 Jun 2013, 18:14 от BabaBooey
  • 10 голосов
  • 6 ответов
  • 0 просмотров
6 ответов

Какова максимальная точность таймера в .NET?

Мне интересно, какова точность класса Timer в System.Timers, потому что он удваивается (что может указывать на то, что у вас могут быть доли миллисекунд). Что это такое?

Задан 02 Oct 2009, 23:36 от RCIX
  • 4 голосов
  • 1 ответ
  • 0 просмотров
1 ответ

Проверка на равенство с плавающей точкой и дополнительная точность: может ли этот код не сработать?

Обсуждение началось вмой ответ на другой вопрос, Следующий код определяетмашина эпсилон:

Задан 01 May 2013, 17:46 от Alexander Shukaev
  • 4 голосов
  • 1 ответ
  • 0 просмотров
1 ответ

@Zboson: GPU mandelbrot, вероятно, не о масштабировании или его полезности, а скорее о хорошо известной и простой проблеме с очень высокой вычислительной интенсивностью / низкой пропускной способностью памяти. (И цепочка зависимости данных, которая может ограничивать ILP). На этой странице были и другие ориентиры, но мне нравится Мандельброт.

ли выполнить арифметику с плавающей запятой половинной точности на чипах Intel? Я знаю, как загружать / хранить / преобразовывать числа с плавающей запятой половинной точности [1], но я не знаю, как добавить / умножить их без преобразования в ...

Задан 24 Apr 2018, 07:19 от Kadir
  • 3 голосов
  • 1 ответ
  • 0 просмотров
1 ответ

Синхронизация PTP на сервере Windows (по сравнению с Linux) - какая точность может быть гарантирована

Я хотел бы знать, если все знают, как точноPTP [http://en.wikipedia.org/wiki/Precision_Time_Protocol]синхронизация может быть гарантирована на Windows Server 2008. Я знаю об этой теме:Какое минимальное гарантированное время для процесса ...

Задан 30 Oct 2012, 09:46 от Stephan Ryer
  • 3 голосов
  • 1 ответ
  • 0 просмотров
1 ответ

Синхронизация PTP на сервере Windows (по сравнению с Linux) - какая точность может быть гарантирована

Я хотел бы знать, если все знают, как точноPTP синхронизация может быть гарантирована на Windows Server 2008.Я знаю об этой теме:Какое минимальное гарантиров...

Задан 30 Oct 2012, 08:46 от Stephan Ryer
  • 7 голосов
  • 4 ответа
  • 0 просмотров
4 ответа

Установить точность для числа с плавающей точкой в PHP

Я получаю номер из базы данных, и этот номер может быть либоfloat или жеint. Мне нужно установить десятичную точность числа3что делает число не длиннее (относительно десятичных дробей)5.020 или же1518845.756. Используя PHP round($number, ...

Задан 09 Nov 2013, 11:51 от Mostafa Talebi
  • 9 голосов
  • 1 ответ
  • 0 просмотров
1 ответ

Точка в алгоритме Polygon иногда дает неверные результаты [закрыто]

В StackOverflow я видел алгоритм трассировки лучей «точка в многоугольнике», который я реализовал в своем PHP-коде. В большинстве случаев это работает хорошо, но в некоторых сложных случаях, со сложными полигонами и порочными точками, он терпит ...

Задан 11 Feb 2013, 18:33 от user1527491
  • 190 голосов
  • 10 ответов
  • 0 просмотров
10 ответов

Получить DateTime.Now с точностью до миллисекунд

Как точно построить временную отметку реального времени с точностью до миллисекунд?Мне нужно что-то вроде 16.4.2013 9: 48: 00: 123. Это возможно? У меня есть...

Задан 16 Apr 2013, 06:41 от LuckyHK
  • 25 голосов
  • 3 ответа
  • 0 просмотров
3 ответа

Почему оператор приращения Java допускает сужение операций без явного приведения? [Дубликат]

Возможный дубликат:Java + = операторВ Java это недопустимо (некомпилировать), как и ожидалось:

Задан 19 Dec 2012, 09:04 от Cristi Diaconescu
  • 64 голосов
  • 5 ответов
  • 0 просмотров
5 ответов

Ты прав. Я мог бы использовать плохие критерии поиска, когда сам столкнулся с этой проблемой, и это результат. Некоторые другие могут искать эту же проблему, как я, и в конечном итоге здесь. Надеюсь, они найдут некоторое облегчение. :)

твуют ли типы данных с большей точностью, чем float?

Задан 12 Jul 2011, 11:09 от kravemir
  • 1 голос
  • 2 ответа
  • 0 просмотров
2 ответа

Получить точность cout

Я могу установить точностьcout вывод с использованием cout.precision(precision_value);как я могуполучить значение точности, которое используетсяcout уже? Я не могу найти другую связанную функцию вcout ...

Задан 04 Dec 2013, 11:28 от klm123
  • 1 голос
  • 3 ответа
  • 0 просмотров
3 ответа

Потеря точности при добавлении двойников?

люди! Я'мы столкнулись с небольшой проблемой: яЯ делаю простое сложение с тремя двойными значениями. Результат имеет меньшую точность, чем используемые з...

Задан 20 Jun 2013, 10:19 от XQDev
  • 20 голосов
  • 4 ответа
  • 0 просмотров
4 ответа

Показать две цифры после десятичной точки в c ++ [дубликат]

На этот вопрос уже есть ответ здесь: Печать правильного количества десятичных знаков cout [/questions/5907031/printing-the-correct-number-of-decimal-points-with-cout] 11 ответовПодобная тема уже обсуждалась на форуме. Но у меня есть другая ...

Задан 29 Apr 2013, 13:37 от DSKVP
  • 0 голосов
  • 2 ответа
  • 0 просмотров
2 ответа

Какая самая высокая шкала точности времени может быть достигнута через Python?

Рассмотрим очень простой таймер; start = time.time() end = time.time() - start while(end<5): end = time.time() - start print endнасколько точен этот таймер? Я имею в виду, по сравнению с часами реального времени, насколько это синхронизировано и ...

Задан 07 Dec 2012, 16:12 от y33t
  • 20 голосов
  • 5 ответов
  • 0 просмотров
5 ответов

Что такое стандартная (или лучше всего поддерживаемая) библиотека больших чисел (произвольная точность) для Lua?

Я работаю с большими числами, которые я не могу округлить. Используя стандартную математическую библиотеку Lua, кажется, нет удобного способа сохранить точно...

Задан 13 Nov 2008, 23:10 от Jon Ericson
  • 13 голосов
  • 3 ответа
  • 0 просмотров
3 ответа

Вот

могу реализовать четырехкратную точность (128-битную арифметику) в MATLAB при решении задачи о собственных значениях матрицы? Я пытаюсь решить задачу анализа линейной устойчивости для несжимаемого плоского потока Куэтта, и 64-битной точности по ...

Задан 06 Apr 2011, 15:29 от Dev
  • 55 голосов
  • 4 ответа
  • 0 просмотров
4 ответа

Установите точность отображения поплавка в Ruby

Можно ли установить точность отображения поплавка в Ruby? Что-то вроде: z = 1/3 z.to_s #=> 0.33333333333333 z.to_s(3) #=> 0.333 z.to_s(5) #=> 0.33333Или я должен переопределитьto_s методFloat?

Задан 19 Dec 2009, 19:49 от salt.racer
  • 8 голосов
  • 4 ответа
  • 0 просмотров
4 ответа

Точность в поплавках C

Обычно мы говорим, что число с плавающей точкой имеет точность 6 цифр после десятичной точки. Но если мы храним большое число порядка 10 ^ 30, мы не получим 6 цифр после десятичной точки. Так правильно ли говорить, что числа с плавающей точкой ...

Задан 19 Mar 2012, 06:09 от iceman_w
  • 1 голос
  • 3 ответа
  • 0 просмотров
3 ответа

Потеря точности при добавлении двойников?

люди! Я столкнулся с небольшой проблемой: я делаю простое сложение с тремя двойными значениями. Результат имеет меньшую точность, чем используемые значения. double minutes = 3; minutes = minutes / (24.0*60.0); // contains 0.00208333 double hours ...

Задан 20 Jun 2013, 12:19 от XQDev
  • 8 голосов
  • 7 ответов
  • 0 просмотров
7 ответов

ошибка точности gcc?

Я могу только предположить, что это ошибка. Первое утверждение проходит, а второе не проходит: double sum_1 = 4.0 + 6.3; assert(sum_1 == 4.0 + 6.3); double t1 = 4.0, t2 = 6.3; double sum_2 = t1 + t2; assert(sum_2 == t1 + t2);Если не ошибка, то ...

Задан 26 Aug 2009, 23:03 от Jesse Elliott
  • 14 голосов
  • 1 ответ
  • 0 просмотров
1 ответ

 как вы на самом деле строите эти алгоритмы

ель - решить: Kc=yс псевдообратным (т.е.минимальная норма решения): c=K^{+}yтакая, что модель является (мы надеемся) полиномиальной моделью высокой степениf(x) = sum_i c_i x^i, Меня особенно интересует недоопределенный случай, когда у нас ...

Задан 22 Oct 2017, 21:40 от Pinocchio
  • 3 голосов
  • 2 ответа
  • 0 просмотров
2 ответа

Можно ли использовать вычисления Пи Монте-Карло для мирового рекорда?

У меня есть эта случайная функция для расчета пиСтиль Монте-Карло [http://math.fullerton.edu/mathews/n2003/montecarlopimod.html]: max=10000000; format long; in = 0; tic for k=1:max x = rand(); y = rand(); if sqrt(x^2 + y^2) < 1 in = in + 1; ...

Задан 09 Aug 2013, 04:15 от 0x90
  • 0 голосов
  • 3 ответа
  • 0 просмотров
3 ответа

Просто остерегайтесь предостережения о том, что сохраненное значение может не остаться прежним, если оно будет загружено на другую архитектуру

исал несколько параметров (все типаdouble) в файл для использования при выполнении некоторых сложных вычислений. Я записываю параметры в файлы примерно так: refStatsOut << "SomeParam:" << value_of_type_double << endl; гдеrefStatsOut ...

Задан 18 Jul 2011, 12:43 от Sriram
Page 1 of 4
1 2 3 4