Здравствуйте, Анна!
В соответствии с ч. 1 ст. 1283 ГК РФ, исключительное право входит в состав наследства. Как я понимаю, исключительное право автором не отчуждалось, а был заключен лицензионный договор (ст. 1286 ГК РФ).
новый договор о передаче неисключительных прав?
А здесь Вы, скорее всего, имеете в виду, что сейчас издательству предоставлена исключительная лицензия, а Вы хотите выдать неисключительную (ст. 1236 ГК РФ).
Расторжение договора, исходя из ст. 450 ГК РФ, возможно только по соглашению сторон. Если издательство не возражает, договор можно расторгнуть и заключить новый.
Если же издательство против, и с его стороны нет существенных нарушений, из-за которых можно было бы требовать расторжения договора в судебном порядке, придется ждать срока истечения договора.
При этом следует уточнить, что в нем говорится о пролонгации. Если он пролонгируется автоматически, то Вам нужно успеть направить письменное уведомление об отсутствии намерения пролонгировать старый договор.
Соответственно, если договор заключен на 5 лет посмотрите, есть ли условие о пролонгации договора и оформлены ли у вас права, как у наследников на исключительные права, чтобы перезаключить договор на неисключительную лицензию.В любом случае, если срок договора на исключительную лицензию истечет, лицензиат свободен в вопросе заключения, или незаключения нового договора.