Но увы, ни матери не брата ( был родительский дом, где она родилась и жила ранее ) Может ли она претендовать на долю с женой?

Умер брат, осталась родная сестра и жена. После смерти матери, она писала отказ.

 жена и мама — наследники 1 очереди.

ГК РФ Статья 1143. Наследники второй очереди
 1. Если нет наследников первой очереди, наследниками второй очереди по закону являются полнородные и неполнородные братья и сестры наследодателя, его дедушка и бабушка как со стороны отца, так и со стороны матери.

Сестра — наследница 2 очереди

То есть наследует наследники 1 очереди.

То есть жена.

( был родительский дом, где она родилась и жила ранее )

 факт рождения и проживания не имеет значения.

В большинстве случаев наследники родились и жили в жилом помещении, являющемся предметом наследования.

но это не отражается на отношениях связанных с этим.

Имеют значения очереди наследования, завещания, факт отказа и лишения наследства.

Если все так, то после смерти брата наследуют именно его наследники.В соответствии со ст.1142 ГК РФ наследниками 1 очереди являются родители, супруг и дети.У брата, как следует из вашего вопроса, есть только супруга как наследник 1 очереди.Значит, наследство принимает супруга брата.

Сестра является наследником 2 очереди.

Вывод: наследник-супруга.