Но если он был усыновлен он утрачивает свои права на наследство от биологического отца?

Здравствуйте! В вашей ситуации ключевым является установление факта усыновления (удочерения) сына вашего брата, поскольку от этого напрямую зависит его право наследовать после смерти биологического отца. Согласно статье 1147 Гражданского кодекса РФ, усыновленный ребенок и его потомство не наследуют по закону после смерти биологических родителей, а биологические родители не наследуют после смерти усыновленного ребенка, если только суд не сохранил между ними отношения в порядке, предусмотренном статьей 137 Семейного кодекса РФ. То есть если сын был усыновлен другим мужчиной (или удочерен другой женщиной), он утрачивает право на наследство после смерти биологического отца (вашего брата), за исключением случая, когда усыновление было произведено отчимом (супругом матери) и биологический отец участвовал в жизни ребенка, но даже тогда нужны веские доказательства.

Для проверки факта усыновления вам необходимо: 1) обратиться в орган ЗАГС по месту рождения сына брата (или по месту регистрации актовой записи о его рождении) с письменным запросом о предоставлении сведений о внесении изменений в актовую запись (смене фамилии и отчества). Если усыновление было, в актовой записи будут отметки; 2) если в ЗАГСе откажут, подать заявление в суд об установлении факта усыновления (удочерения) в порядке особого производства, приложив доказательства смены фамилии и отчества. Если суд установит, что усыновление состоялось, и при этом биологические отношения с вашим братом не сохранялись, племянник будет признан наследником только по отношению к усыновителям, а к наследству вашего брата не призывается. Если же усыновления не было, смена фамилии и отчества сама по себе не лишает его права наследования по закону. В любом случае, вы как родной брат умершего имеете право на наследство по закону, если нет наследников первой очереди (супруги, детей, родителей). Если племянник будет признан недостойным наследником (например, если вы докажете, что он злостно уклонялся от обязанности содержать отца, который находился на вашем обеспечении), он также может быть отстранен от наследства (ст. 1117 ГК РФ).
При необходимости готов вам предоставить весь алгоритм ваших действий или провести дополнительную консультацию. Если мой ответ был вам полезен — можете отблагодарить юриста — https://pravoved.ru/pay/lawyer-reward/id/4417895/
Буду благодарен за положительный отзыв — https://pravoved.ru/private/feedbacks/