Расскажите как правильно всё рассчитать?

Добрый день.

Размер госпошлины (нотариального тарифа) за выдачу нотариусом свидетельства о праве на наследство:

• родным и усыновленным детям, супругу, родителям, полнородным братьям и сестрам наследодателя — 0,3% стоимости наследуемого имущества, но не более 100 000 руб.;
• другим наследникам — 0,6% стоимости наследуемого имущества, но не более 1 000 000 руб.

От уплаты госпошлины освобождаются, в частности, наследники, не достигшие совершеннолетия ко дню открытия наследства, а также лица при наследовании квартиры, если они проживали совместно с наследодателем на день его смерти и продолжают проживать в этой квартире после его смерти (пп. 22 п. 1 ст. 333.24, п. 5 ст. 333.38 НК РФ).

Я хотел отказаться от наследства в пользу дочери, но мне сказали нельзя, так как у меня есть обязательная доля в наследстве.

Право на обязательную долю в наследстве не означает обязанности получать ее, то есть от такой доли при желании можно отказаться. Существует лишь одно ограничение: от такой доли нельзя отказаться в пользу другого наследника. 

Отказ лишь увеличивает долю, которую получит наследник по завещанию или наследственному договору (п. 1 ст. 1118, ст. 1157, п. 1 ст. 1158 ГК РФ).

Нельзя отказываться от доли в пользу другого наследника, вам нужно было просто не заявлять о таком праве либо просто отказаться от такого права и тогда доля вашей дочери увеличилась бы.