พระกรุณาโปรดเกล้าฯ ให้เป็นมหาดไทยมณฑลอยุธยาอยู่ปีหนึ่ง เวลานั้นกำลังจัดการปกครองจังหวัดสระบุรีให้เข้าระเบียบ จึงโปรดเกล้าฯ ให้ย้ายไปเป็นปลัดจังหวัดสระบุรี พ.ศ. ๒๔๔๓ ได้รับพระราชทานยศเป็นรองอำมาตย์เอก ถึง พ.ศ. ๒๔๔๔ โปรดเกล้าฯ ให้ย้ายไปเป็นปลัดจังหวัดปัตตานี พ.ศ. ๒๔๔๖ ย้ายไปเป็นปลัดจังหวัดสายบุรี พ.ศ. ๒๔๔๘ ได้รับพระราชทานสัญญาบัตรบรรดาศักดิ์เป็นพระพิพิธภักดี พ.ศ. ๒๔๕๑ ได้รับพระราชทานยศเป็นอำมาตย์ตรี ถึง พ.ศ. ๒๔๕๒ โปรดเกล้าฯ ให้เป็นมหาดไทยมณฑลปัตตานี พ.ศ. ๒๔๕๔ โปรดเกล้าฯ ให้เป็นปลัดมณฑลปัตตานีประจำจังหวัดยะลา ถึง พ.ศ. ๒๔๕๖ ได้รับพระราชทานสัญญาบัตรบรรดาศักดิ์เป็นพระยาพิพิธภักดี ต่อมาถึง พ.ศ. ๒๔๕๗ โปรดเกล้าฯ ให้ย้ายไปเป็นผู้ว่าราชการจังหวัดพังงาอยู่ ๒ ปี ถึง พ.ศ. ๒๔๕๙ จึงโปรดเกล้าฯ ให้ย้ายไปเป็นผู้ว่าราชการจังหวัดยะลา
ราชการเสือป่า พระยาพิพิธภักดีได้เป็นตั้งแต่พลเสือป่ามาแต่ พ.ศ. ๒๔๕๔ แล้วได้เป็นว่าที่นายหมู่ผู้บังคับกองร้อยที่ ๒ จังหวัดยะลา ถึง พ.ศ. ๒๔๕๘ ได้รับพระราชทานสัญญาบัตรเป็นนายหมวดตรีผู้บังคับกองร้อยที่ ๔ จังหวัดยะลา พ.ศ. ๒๔๕๙ ได้รับพระราชทานสัญญาบัตรเลื่อนขึ้นเป็นนายหมวดโทผู้บังคับกองพันที่ ๒ จังหวัดยะลา พ.ศ. ๒๔๖๑ ได้รับพระราชทานสัญญาบัตรเลื่อนขึ้นเป็นนายหมวดเอก
