Здравствуйте.
Мать могла подарить только свою половину квартиры - долю отца она распорядиться не могла, потому что эта доля вошла в наследственную массу в момент его смерти в силу ст. 1112 ГК РФ, независимо от того, что доли в квартире формально не выделены и она числилась единственным собственником в ЕГРН.
По ст. 209 и 168 ГК РФ никто не может передать больше прав, чем имеет сам. Договор дарения в этой ситуации ничтожен именно в той части, которая превышает долю матери - то есть в части доли отца (по общему правилу это 1/2, если квартира приобреталась в браке и не было брачного договора, ст. 34 СК РФ). То, что Росреестр зарегистрировал переход права на всю квартиру - не делает сделку законной в этой части, регистрация лишь техническая процедура, она не проверяет режим совместной собственности так глубоко.
Отказ нотариуса в такой ситуации закономерен: формально доля отца сейчас числится за старшим сыном, и нотариус не вправе выдавать свидетельство о праве на наследство на имущество, которое зарегистрировано за третьим лицом. Вопрос решается только через суд - признание сделки недействительной в части, включение доли отца в наследственную массу и признание прав младшего сына по завещанию на эту долю. Дальше уже можно исправлять запись в ЕГРН.
Ключевой момент, от которого всё зависит - была ли квартира совместно нажитым имуществом (приобретена в браке, не по безвозмездной сделке лично отцом, нет брачного договора). Если да - позиция сильная. Если квартира изначально была личной собственностью отца (например, унаследована или приватизирована до брака) - схема другая, и тут важно разбираться отдельно.
Получите конкретный план действий по ситуации: что сделать дальше, какие документы подготовить и на какие сроки ориентироваться.