Возможно ли как-то заставить его вступить в наследство через суд или принудительно выкупить у него всю долю наследства?

1) Кто сейчас собственник «проблемной доли» — правда ли, что она «никому не принадлежит»?
Нет. Возможны два варианта:

Наследник подал заявление нотариусу (или фактически принял наследство). Тогда он уже стал наследником этой доли со дня смерти наследодателя — даже без свидетельства и записи в ЕГРН. Свидетельство о праве на наследство — это доказательство, а не «создающий» право документ. Неплатёж госпошлины мешает выдаче свидетельства, но не отменяет принятие наследства. 
Наследник не подал заявление и не принял фактически в 6-месячный срок (и суд срок не восстанавливал). Тогда его доля приращивается к долям остальных наследников той же очереди, и нотариус должен выдать им свидетельства с учётом приращения. 
Важная деталь: свидетельство может выдаваться каждому наследнику отдельно — один «зависший» наследник не должен блокировать выдачу документов другим. Это прямо закреплено в Основах о нотариате. 
2) Можно ли «заставить» наследника вступить в наследство через суд?
Нельзя. Принятие наследства — это право, а не обязанность. Суд может:

признать факт принятия (если наследник доказывает фактическое принятие), или
восстановить срок (если у наследника есть уважительные причины).
Но обязать принять — нельзя. 
Если 6 месяцев прошли, а признаков принятия нет, добивайтесь у нотариуса выдачи вашим наследникам свидетельств с приращением долей (ст. 1161 ГК РФ). При отказе — жалоба в нотариальную палату/Минюст и исковое заявление о понуждении к совершению нотариального действия/обжалование отказа. 

3) Если наследник всё-таки подал заявление (или принял фактически), но принципиально не платит пошлину — что это значит для вас?
Его право на долю уже возникло; отсутствие свидетельства и записи в ЕГРН не лишает его статуса наследника. 
Нотариус всё равно обязан выдать вам ваши свидетельства; чужая неуплата не блокирует ваши действия. 
Продать всю квартиру без него вы не сможете (нужны подписи всех сособственников), но вы можете:

оформить и зарегистрировать свои доли и распоряжаться ими (в т.ч. продать долю с соблюдением преимущественного права покупки по ст. 250 ГК РФ);
через суд определить порядок пользования и/или взыскать с него расходы на содержание имущества пропорционально доле (ст. 247, 249 ГК РФ);
зафиксировать злоупотребление правом (он прямо говорит, что «вредить» — это аргумент для ст. 10 ГК РФ) — это не заставит его принять наследство или продать, но усилит позиции по компенсациям/расходам.
4) Можно ли «принудительно выкупить» его долю?
Иногда — да, но только в исключительных случаях.
Суд может без согласия сособственника прекратить его право на долю с выплатой ему компенсации, если одновременно доказано, что (ст. 252(4) ГК РФ):

Доля незначительна,
Её невозможно реально выделить в натуре,
У собственника нет существенного интереса в использовании квартиры.
Верховный суд подчеркнул: такие решения — исключение, применяются строго при наличии совокупности условий и для защиты баланса интересов остальных. На практике суды охотнее удовлетворяют такие иски при микродолях (например, 1/20, 1/30 и т.п.); по крупным долям (1/4, 1/3) шансы заметно ниже. 

Судебная линия: Обзор практики ВС РФ № 4 (2016) прямо разъяснил допустимость принудительного выкупа по п. 4 ст. 252 ГК РФ при наличии указанных условий; есть и примеры дел, где ВС направлял споры на новое рассмотрение именно из-за неверной оценки «незначительности» и интереса в пользовании. 
5) А если он вовсе не принял наследство и срок прошёл — можно ли «обойти» его?
Да. Тогда действует приращение долей (ст. 1161 ГК РФ), вам выдают свидетельства без него, вы регистрируете права и спокойно распоряжаетесь всей квартирой (или её большей частью, если есть другие наследники). 

6) Что делать прямо сейчас — практический план
Шаг 1. Выяснить статус «того самого» наследника.
Письменно запросите у нотариуса по наследственному делу: подано ли от него заявление о принятии/о выдаче свидетельства, есть ли признаки фактического принятия (нотариус обязан их проверять), нет ли его заявления о восстановлении срока. Одновременно подайте заявления о выдаче ваших свидетельств (на свои доли). Сошлитесь на ст. 1162 ГК РФ и ст. 71 Основ о нотариате: выдача возможна каждому наследнику отдельно. 

Шаг 2. Если 6 месяцев истекли, а доказательств принятия у него нет.
Просите нотариуса оформить приращение долей (ст. 1161 ГК РФ) и выдать вам свидетельства. При отказе — обжалуйте отказ (нотариальная палата, затем суд). 

Шаг 3. Если он принял наследство (заявление/фактическое принятие).

Получайте свои свидетельства и регистрируйте доли;
Направьте ему оферту о выкупе его доли (зафиксируйте в переписке/почтой);
Параллельно — определение порядка пользования квартирой в суде (ст. 247 ГК РФ) и взыскание расходов (ст. 249 ГК РФ), если вы платите коммуналку/ремонт;
Если доля у него действительно микроскопическая, соберите доказательства «неиспользуемости/невозможности выдела» и готовность внести компенсацию — и рассматривайте иск по п. 4 ст. 252 ГК РФ о прекращении его права на долю с выплатой ему стоимости доли (оценка независимым оценщиком). 
Шаг 4. Продажа вашей доли (если хотите выйти из конфликта).
Можно продать свою долю третьему лицу, соблюдая преимущественное право покупки сособственника(ов) (уведомление по ст. 250 ГК РФ, срок ответа, цена/условия идентичны). Рынок долей «проседает» по цене, но это рабочая тактика давления на упрямого совладельца. 

Шаг 5. Особые опции.

Если он уклоняется «назло», фиксируйте переписку/аудио-протокол переговоров (в рамках закона) — пригодится для аргумента об злоупотреблении правом (ст. 10 ГК РФ) и взыскания убытков/расходов.
Проверьте, нет ли у него льготы по госпошлине (инвалиды I–II групп — 50%, проживавшие совместно — льготы; для отдельных категорий есть полное освобождение): иногда просто разъяснение льгот тушит конфликт. 
7) На какие нормы и позиции судов ссылаться
Принятие наследства, сроки, последствия — ст. 1152–1154 ГК РФ; позиция Пленума ВС РФ № 9 от 29.05.2012 (ред. 24.12.2020). 
Приращение долей — ст. 1161 ГК РФ. 
Свидетельство каждому наследнику отдельно — ст. 71 Основ о нотариате; ст. 1162 ГК РФ. 
Пошлина за свидетельство — пп. 22 п. 1 ст. 333.24, порядок оценки — ст. 333.25 НК РФ; льготы — ст. 333.38 НК РФ. 
Принудительный выкуп «микродоли» — п. 4 ст. 252 ГК РФ; Обзор практики ВС РФ № 4 (2016). 
Порядок пользования, расходы, преимущественное право — ст. 247, 249, 250 ГК РФ. 
 
Если коротко: заставить принять наследство нельзя. Но и «поставить на вечную паузу» он вас не может: либо его доля к вам прирастёт (если срок прошёл и он не принял), либо вы оформляете свои доли и двигаетесь дальше — через порядок пользования, взыскание расходов, оферту на выкуп и, при редких но возможных условиях, принудительный выкуп микродоли через суд.