Почему Calc не хочет преобразовывать числа в двоичный вид? (Excel тоже)

Модератор: /dev/random

MiK13
Сообщения: 1243
ОС: Linux Debian

Почему Calc не хочет преобразовывать числа в двоичный вид?

Сообщение MiK13 »

Есть в LibreOffice.Calc функции ШЕСТН.В.ДВ, ВОСЬМ.В.ДВ и ДЕС.В.ДВ и оказалось, что они преобразовывают в двоичное представление числа в диапазоне -512...511, то есть целые числа со знаком разрядностью только 10 бит. Если числа выходят за этот диапазон, выскакивает Ошибка:502.
Понадобилось побитово проанализировать значения сигнала. Начальник решил для этого использовать Excal. Но столкнулись с такой проблемой. В Excel. Решил проверить в Calc -- оказалось то же самое.
С чем это может быть связано?
Спасибо сказали:
Аватара пользователя
/dev/random
Администратор
Сообщения: 5398
ОС: Gentoo

Re: Почему Calc не хочет преобразовывать числа в двоичный вид?

Сообщение /dev/random »

Они так работают по спецификации. Для чисел больше 511 можно использовать функции DECIMAL/ДЕС (из любой системы в десятичную) и BASE/ОСНОВАНИЕ (из десятичной в любую). Осторожно: они не работают с отрицательными числами.
Спасибо сказали:
MiK13
Сообщения: 1243
ОС: Linux Debian

Re: Почему Calc не хочет преобразовывать числа в двоичный вид?

Сообщение MiK13 »

/dev/random писал:
06.05.2025 14:39
Они так работают по спецификации. Для чисел больше 511 можно использовать функции DECIMAL/ДЕС (из любой системы в десятичную) и BASE/ОСНОВАНИЕ (из десятичной в любую). Осторожно: они не работают с отрицательными числами.
Спасибо. Проверил в LO -- работает. Видимо и в MSO будет работать.
Спасибо сказали: