Магазин не отдает заказ из-за поставки не всей мебели, правомерно ли это?

Дело в том, что в договоре у Вас наверняка прописано, что обязанностью продавца является передача именно гарнитура, а не его отдельных частей, поэтому магазин не в праве передать Вам только 2 вещи. Однако, в договоре также должен быть прописан срок, в который продавец обязуется передать товар. По истечению этого срока за неисполнение этого обязательства начинает копиться сумма неустойки — по 1% от суммы товара за каждый день просрочки (если в договоре не прописан иной процент) или, если имелась залоговая сумма (по 0,5 от суммы залога). Данную денежную сумму (неустойку) Вы вправе потребовать с продавца, предъявив ему соответствующую претензию, описав ситуацию и Ваше прошение о выплате.
Так же Вы вправе расторгнуть договор и вернуть деньги.В случае расторжения договора купли-продажи магазин ОБЯЗАН вернуть покупателю первый взнос за товар, если таковой был. Все остальные средства торговая организация перечисляет на банковский (ссудный) счёт покупателя.
По поводу уплаченных процентов — их можно вернуть путём обращения в суд с соответствующим исковым заявлением. Так как Вы вообще товаром не пользовались — вам выплатить обязаны всю процентную сумму.