Что делать, если договор по кредиту не подписывал, но кредит дали?

Здравствуйте! В данном случае кредитный договор должен быть заключен в письменной форме.

ГК РФ Статья 161. Сделки, совершаемые в простой письменной форме
 
1. Должны совершаться в простой письменной форме, за исключением сделок, требующих нотариального удостоверения:
1) сделки юридических лиц между собой и с гражданами;
2) сделки граждан между собой на сумму, превышающую десять тысяч рублей, а в случаях, предусмотренных законом, — независимо от суммы сделки.
(в ред. Федерального закона от 07.05.2013 N 100-ФЗ)
(см. текст в предыдущей редакции)
2. Соблюдение простой письменной формы не требуется для сделок, которые в соответствии со статьей 159 настоящего Кодекса могут быть совершены устно.

Однако сумму которую Вам перечислили вернуть придется, так как имеет место неосновательное обогащение.

ГК РФ Статья 1102. Обязанность возвратить неосновательное обогащение
1. Лицо, которое без установленных законом, иными правовыми актами или сделкой оснований приобрело или сберегло имущество (приобретатель) за счет другого лица (потерпевшего), обязано возвратить последнему неосновательно приобретенное или сбереженное имущество (неосновательное обогащение), за исключением случаев, предусмотренных статьей 1109 настоящего Кодекса.
2. Правила, предусмотренные настоящей главой, применяются независимо от того, явилось ли неосновательное обогащение результатом поведения приобретателя имущества, самого потерпевшего, третьих лиц или произошло помимо их воли.