Проживая в Ставрополе со всем штабом, генерал выказывал много оригинального в своем характере. Так, он имел привычку говорить почти всем «дражайший», но видеть его можно было только тогда, когда он отправлялся в экспедицию против горцев, иначе он не выходил из комнат занимаемого им дома. Отправляясь в экспедицию, на вопрос подчиненных ему генералов - куда? - он обычно отвечал: «Дражайший! барабанщик вам это укажет!» В походе он ходил подобно Наполеону I в сером коротком сюртуке сверх мундира. У него был открытый стол, к которому приглашались все небогатые офицеры и штабные. Сам он никогда не выходил к столу, кушаний с этого стола не вкушал, а ему подавали в его кабинет одно особое кушанье - ужа под жёлтым соусом, так называемого желтобрюха, откормленного прежде молоком. Это кушанье он чрезвычайно любил. Вельяминов был одинок и умер от полной апатии ко всему