Недавно столкнулся с такой проблемой, скорее всего из недостатка знаний по работе с OOo, но всё же спрошу
Есть табличка с расчетами неких величин. Расчеты простые - в деления и преобразования dec<->hex. Основные расчеты идут в десятичной системе, а потом результыт перегоняется в хексовые.
Так вот в одной ячейке задана некая константа (пусть R). В следующей 60/R. Далее (60/R)^-1. Дальше ((60/R)^-1)/145e-6. Затем 413793/(((60/R)^-1)/145e-6). Результат получается правильный. Но дальше непонятки. Это нужно перегнать в хекс. Первое значение в таблице получается 15 (та самая константа). В хексе это F. Я пишу в ячейке =base(N,16) где N - ячейка с десятичным результатом. Но вместо F оно считает E. Далее в таблице 16, а оно преобразует это в F, но это неверно. И так далее все числа на 1 смещены. Выкрутился из ситуации инкрементированим десятичного значения =base((N+1),16) и вроде верно решил поставленую задачу. но теперь хочется выяснить почему так. Причем если просто написать в произвольное число, то же 15 в произвольную ячейку и таким же образом его конвертнуть, то всё нормально. Видимо это связано как-то с округлениями, но ведь десятичное деление делается не цельночисленое, да и результат получается целым числом и как-бы нечего округлять при преобразовании Dec->Hex. В аттаче файл с примером. Вся канитель в столбцах "Measured cadence" (H,I)
И ещё вопрос до кучи, возможно ли в OOo calc оперировать с числами в произвольной системе? Т.е. задать что в такой-то ячейке у меня число 11010010011 и это двоичное число, а не 11 милиардов, а потом взять поделить его на хекс 5FAC и получить результат в двоичном виде, или в хексе, или в десятичном - как будет задано. В хелпе нашел только преобразования и всё, и с теми непонятки
