Дело здесь не в штрафе. Ваш дом, с точки зрения законодательства, является незаконной постройкой. Поэтому зарегистрировать право собственности Вы на него не сможете. Не сможете также прописаться в нем. Вам нужно через суд признавать данную самовольную постройку законной и признавать на нее право собственности. Для этого нужно сделать строительно-техническую экспертизу (насколько дом соответствует строительным нормам и правилам), предоставить правоустанавливающие документы на землю. на которой расположен дом, а также желательно предоставить в суд письменные доказательства, что Вы строили дом за собственные средства (товарные чеки на стройматериалы, договор подряда). Если суд признает за Вами право собственности на дом, то с этим решением суда, вступившим в законную силу, нужно будет обратиться в Росреестр и зарегистрировать свое право собственности на дом.