Должен ли я платить за этот товар в данной ситуации?

Здравствуйте. Конечно должны. во-первых Вы его заказали, во-вторых товар Вам отдали. Если не оплатите — это ст. 1102 ГК РФ

1. Лицо, которое без установленных законом, иными правовыми актами или сделкой оснований приобрело или сберегло имущество (приобретатель) за счет другого лица (потерпевшего), обязано возвратить последнему неосновательно приобретенное или сбереженное имущество (неосновательное обогащение), за исключением случаев, предусмотренных статьей 1109 настоящего Кодекса.

Если это именно тот товар, что Вы заказали, то Ваши действия относятся также к ст. 310 ГК РФ.