Если я не хочу менять свой телефон на другой, могут ли мне просто вернуть деньги?

Могут. Письменно обращайтесь. Статья 18 Закона о Защите прав потребителей.

1. Потребитель в случае обнаружения в товаре недостатков, если они не были оговорены продавцом, по своему выбору вправе:

потребовать замены на товар этой же марки (этих же модели и (или) артикула);
потребовать замены на такой же товар другой марки (модели, артикула) с соответствующим перерасчетом покупной цены;
потребовать соразмерного уменьшения покупной цены;
потребовать незамедлительного безвозмездного устранения недостатков товара или возмещения расходов на их исправление потребителем или третьим лицом;
отказаться от исполнения договора купли-продажи и потребовать возврата уплаченной за товар суммы. По требованию продавца и за его счет потребитель должен возвратить товар с недостатками.
При этом потребитель вправе потребовать также полного возмещения убытков, причиненных ему вследствие продажи товара ненадлежащего качества. Убытки возмещаются в сроки, установленные настоящим Законом для удовлетворения соответствующих требований потребителя.
В отношении технически сложного товара потребитель в случае обнаружения в нем недостатков вправе отказаться от исполнения договора купли-продажи и потребовать возврата уплаченной за такой товар суммы либо предъявить требование о его замене на товар этой же марки (модели, артикула) или на такой же товар другой марки (модели, артикула) с соответствующим перерасчетом покупной цены в течение пятнадцати дней со дня передачи потребителю такого товара. По истечении этого срока указанные требования подлежат удовлетворению в одном из следующих случаев:
обнаружение существенного недостатка товара;
нарушение установленных настоящим Законом сроков устранения недостатков товара;
невозможность использования товара в течение каждого года гарантийного срока в совокупности более чем тридцать дней вследствие неоднократного устранения его различных недостатков.