Скажите имели они на это право?

Здравствуйте, формально условия о том, что все внутренние вещи, в том числе и улучшения квартиры, которые сделал сам продавец, остаются в квартире — должны быть прописаны в договоре, поэтому необходимо в Вашем случае смотреть условия договора. Также значение имеет принимали ли Вы уже квартиру по акту приема-передачи. Согласно ст. 556 ГК РФ

Передача недвижимости продавцом и принятие ее покупателем осуществляются по подписываемому сторонами передаточному акту или иному документу о передаче.

Если в договоре имеется пункты о том, то продавец передает квартиру со всеми вещами, которые он впоследствии забрал или при приеме квартиры по акту квартира была принята с вещами, которые продавец впоследствии забрал, то в данном случае имеет место передача квартиры ненадлежащего качества. На основании ст. 557 ГК РФ  

 В случае передачи продавцом покупателю недвижимости, не соответствующей условиям договора продажи недвижимости о ее качестве, применяются правила статьи 475 настоящего Кодекса, за исключением положений о праве покупателя потребовать замены товара ненадлежащего качества на товар, соответствующий договору.

Согласно ст. 475 ГК РФ

1. Если недостатки товара не были оговорены продавцом, покупатель, которому передан товар ненадлежащего качества, вправе по своему выбору потребовать от продавца:
соразмерного уменьшения покупной цены;
безвозмездного устранения недостатков товара в разумный срок;
возмещения своих расходов на устранение недостатков товара.
2. В случае существенного нарушения требований к качеству товара (обнаружения неустранимых недостатков, недостатков, которые не могут быть устранены без несоразмерных расходов или затрат времени, или выявляются неоднократно, либо проявляются вновь после их устранения, и других подобных недостатков) покупатель вправе по своему выбору:
отказаться от исполнения договора купли-продажи и потребовать возврата уплаченной за товар денежной суммы;
потребовать замены товара ненадлежащего качества товаром, соответствующим договору.

Вам в таком случае необходимо составить составить акт о состоянии квартиры с подробным описанием состояния квартиры, подписанный не только Вами и членами его семьи, но также и представителями ЖЭКа, управляющей компании, соседями. Далее направить претензию продавцу с вышеуказанными, закрепленными в законе требованиями. Если передача квартиры уже прошла государственную регистрацию, то можно направить заявление в полицию о совершении кражи. Уголовное дело вряд ли возбудят, но это может сподвигнуть продавца вернуть всё, что он забрал. При невыполнении требований возможно обратиться в суд с требованиями, предусмотренными ст. 475 ГК РФ.