Есть в LibreOffice.Calc функции ШЕСТН.В.ДВ, ВОСЬМ.В.ДВ и ДЕС.В.ДВ и оказалось, что они преобразовывают в двоичное представление числа в диапазоне -512...511, то есть целые числа со знаком разрядностью только 10 бит. Если числа выходят за этот диапазон, выскакивает Ошибка:502.
Понадобилось побитово проанализировать значения сигнала. Начальник решил для этого использовать Excal. Но столкнулись с такой проблемой. В Excel. Решил проверить в Calc -- оказалось то же самое.
С чем это может быть связано?
Почему Calc не хочет преобразовывать числа в двоичный вид? (Excel тоже)
Модератор: /dev/random
-
- Сообщения: 1243
- ОС: Linux Debian
-
- Администратор
- Сообщения: 5398
- ОС: Gentoo
Re: Почему Calc не хочет преобразовывать числа в двоичный вид?
Они так работают по спецификации. Для чисел больше 511 можно использовать функции DECIMAL/ДЕС (из любой системы в десятичную) и BASE/ОСНОВАНИЕ (из десятичной в любую). Осторожно: они не работают с отрицательными числами.
Спасибо сказали:
-
- Сообщения: 1243
- ОС: Linux Debian
Re: Почему Calc не хочет преобразовывать числа в двоичный вид?
Спасибо. Проверил в LO -- работает. Видимо и в MSO будет работать./dev/random писал: ↑06.05.2025 14:39Они так работают по спецификации. Для чисел больше 511 можно использовать функции DECIMAL/ДЕС (из любой системы в десятичную) и BASE/ОСНОВАНИЕ (из десятичной в любую). Осторожно: они не работают с отрицательными числами.