สำนักงานตรวจสอบภายในทหาร มีการจัดหน่วยประกอบด้วย

๑. กองวิชาการและระบบงาน
๒. กองตรวจสอบภายในที่ ๑
๓. กองตรวจสอบภายในที่ ๒
๔. กองตรวจสอบภายในที่ ๓
๕. กองตรวจพิเศษ
๖.  แผนกธุรการ