Здравствуйте! Да, можно. Главное въезд и выезд именно из России осуществлять на основании паспорта РФ, так как в иное случаи грозит административная ответственность, так как с точки зрения закона Вы являетесь исключительно гражданином РФ.
Статья 10. Особенности правового положения гражданина Российской Федерации, имеющего двойное гражданство или множественное гражданство Федеральный закон от 28.04.2023 N 138-ФЗ «О гражданстве Российской Федерации»
1. Гражданин Российской Федерации, имеющий двойное гражданство или множественное гражданство, рассматривается Российской Федерацией только как гражданин Российской Федерации вне зависимости от места его проживания,
Федеральный закон «О порядке выезда из Российской Федерации и въезда в Российскую Федерацию» от 15.08.1996 N 114-ФЗ
Статья 6. Выезд из Российской Федерации и въезд в Российскую Федерацию граждане Российской Федерации осуществляют по действительным документам, удостоверяющим личность гражданина Российской Федерации за пределами территории Российской Федерации, а в случаях, установленных международными договорами Российской Федерации, по паспорту гражданина Российской Федерации
В другом иностранном государстве гражданином которого Вы не являетесь вы можете использовать любой паспорт.
Теоретически такая схема вполне возможна, но есть нюансы.
Граждане России могут въезжать в Грузию без визы на срок до 1 года.
При этом на границе вы предоставляете только российский паспорт.
Вылет из Грузии в Латвию по азербайджанскому паспорту, тут важно, чтобы вы пересекали границу Грузии и Азербайджана с одним и тем же документом. Если при въезде вы использовали российский паспорт, то его же нужно будет предъявить при вылете из Грузии.
Латвия допускает граждан Азербайджана без визы, если у вас есть биометрический паспорт (в рамках безвизового режима с ЕС). Проверьте, чтобы ваш азербайджанский паспорт был биометрическим.
Если вы предъявите разные паспорта при въезде и выезде из Грузии, это может вызвать вопросы у пограничников. Поэтому на всякий случай нужно иметь с собой оба паспорта.