Вопросы по теме 'floating-point'
Любые библиотеки С++, доступные для преобразования между представлениями с плавающей запятой?
Недавно мне понадобилось интерпретировать 32-битное представление DEC с плавающей запятой. Он отличается от представлений с плавающей запятой IEEE количеством битов, выделенных для экспоненты и мантиссы.
Вот описание нескольких форматов с...
1569 просмотров
schedule
06.10.2022
Как проверить, имеет ли двойник не более n знаков после запятой?
В настоящее время у меня есть этот метод:
static boolean checkDecimalPlaces(double d, int decimalPlaces){
if (d==0) return true;
double multiplier = Math.pow(10, decimalPlaces);
double check = d * multiplier;
check =...
28495 просмотров
schedule
29.11.2023
Почему типы с плавающей запятой в c / c ++ так странно названы?
C ++ предлагает три типа с плавающей запятой: float, double и long double. Я нечасто использую в коде числа с плавающей запятой, но когда я это делаю, меня всегда ловят предупреждения в безобидных строках вроде
float PiForSquares = 4.0;...
8820 просмотров
schedule
23.10.2022
Как ускорить преобразование чисел с плавающей запятой в целые числа?
В нашем проекте мы делаем много преобразований чисел с плавающей запятой в целые числа. В принципе, примерно так
for(int i = 0; i < HUGE_NUMBER; i++)
int_array[i] = float_array[i];
Функция C по умолчанию, которая выполняет...
22689 просмотров
schedule
17.11.2022
странные результаты простых операций с плавающей запятой - плохое внутреннее состояние FPU?
У меня есть программный проект, в котором я иногда получаю странные результаты от небольших простых операций с плавающей запятой. Я предполагаю, что кое-что я упустил, и хотел бы получить несколько советов о том, как отладить следующие проблемы:...
839 просмотров
schedule
08.04.2022
Обработка переполнения при приведении удвоений к целым числам в C
Сегодня я заметил, что когда я преобразую число типа double, превышающее максимально возможное целое число, в целое число, я получаю -2147483648. Точно так же, когда я использую двойное значение, меньшее минимально возможного целого числа, я также...
13878 просмотров
schedule
15.02.2023
Реализация вычитания с плавающей запятой
все, что я пытаюсь реализовать арифметическую библиотеку с плавающей запятой, и мне трудно понять алгоритм вычитания с плавающей запятой. Я успешно реализовал сложение и думал, что вычитание — это всего лишь его частный случай, но, похоже, я где-то...
3629 просмотров
schedule
25.04.2022
Как преобразовать строку в число с плавающей запятой в JavaScript?
Я пытаюсь разобрать два значения из таблицы данных. Поля числовые, и когда в них есть запятая (например, 554,20), я не могу получить числа после запятой. Я пробовал parseInt и parseFloat . Как я могу это сделать?
472954 просмотров
schedule
16.04.2022
Почему 24.0000 не равно 24.0000 в MATLAB?
Я пишу программу, в которой мне нужно удалить повторяющиеся точки, хранящиеся в матрице. Проблема в том, что когда дело доходит до проверки, находятся ли эти точки в матрице, MATLAB не может распознать их в матрице, хотя они существуют.
В...
23896 просмотров
schedule
18.07.2022
Преобразование потока байтов в числовой тип данных
Допустим, у меня есть поток байтов, в котором я знаю расположение 64-битного значения (64-битный одноразовый номер). Порядок байтов — Little-Endian. Поскольку целочисленный тип данных PHP ограничен 32-битным (по крайней мере, в 32-битных...
2510 просмотров
schedule
25.11.2022
Почему printf показывает -1.#IND для результатов FPTAN?
Я работаю над программой, которая создает ассемблерный код из выражений. Одной из требуемых функций является tan(x), которая в настоящее время работает с использованием следующей последовательности кода (адреса заполняются во время выполнения):...
1178 просмотров
schedule
09.11.2022
Модульное тестирование операций с плавающей запятой в Visual Studio 2008 Pro
У меня есть несколько модульных тестов С#, которые выполняют некоторые операции с плавающей запятой/двойные, и я хотел бы их протестировать. Assert.AreEqual недостаточно из-за ошибок округления.
Возьмите преобразование единиц в качестве примера....
4851 просмотров
schedule
13.02.2023
Использование программного обеспечения с плавающей запятой в x86 linux
Можно ли (легко) использовать программное обеспечение с плавающей запятой в i386 linux без затрат на перехват ядра при каждом вызове? Я пробовал -msoft-float, но кажется, что обычные (ubuntu) библиотеки C не включают библиотеку FP:
$ gcc -m32...
7390 просмотров
schedule
04.10.2022
PHP - суммирование массива десятичных значений
Я пытаюсь вычислить сумму массива десятичных значений в PHP, но по какой-то причине он продолжает округляться до целых чисел.
Например:
$oldArray =...
5817 просмотров
schedule
26.07.2023
SQL Server: расчет с числовыми литералами
Я провел несколько тестов с вычислениями с плавающей запятой, чтобы свести к минимуму потерю точности. Я наткнулся на феномен, который хочу показать здесь и, надеюсь, получить объяснение.
когда я пишу
print 1.0 / (1.0 / 60.0)
результат...
6341 просмотров
schedule
30.01.2023
Что я должен использовать: double или float?
Каковы преимущества и недостатки использования одного вместо другого в C ++?
97859 просмотров
schedule
08.12.2022
Как мне ограничить значение с плавающей запятой только двумя знаками после десятичной точки в C?
Как округлить значение с плавающей запятой (например, 37,777779) до двух десятичных знаков (37,78) в C?
854446 просмотров
schedule
09.04.2022
Большие числа ошибочно округлены в JavaScript
Смотрите этот код:
var jsonString = '{"id":714341252076979033,"type":"FUZZY"}';
var jsonParsed = JSON.parse(jsonString);
console.log(jsonString, jsonParsed);
Когда я вижу свою консоль в Firefox 3.5, значение jsonParsed...
35455 просмотров
schedule
05.04.2023
Чтение поплавка из строки
У меня есть простая строка, которую я хочу преобразовать в число с плавающей запятой, не теряя при этом никакой видимой информации, как показано ниже:
s = ' 1.0000\n'
Когда я делаю f = float(s) , я получаю f=1.0
Как обмануть это,...
2328 просмотров
schedule
10.09.2022
У меня проблема с переполнением с плавающей запятой
Что ж, я новичок, это мой год по специальности информатика. Я пытаюсь выполнить упражнение из своего учебника, в котором я использую структуру с именем MovieData , в которой есть конструктор, который позволяет мне инициализировать переменные-члены...
1891 просмотров
schedule
02.06.2023
