Binh nhì, Binh nhất, Chiến sĩ Tiểu đoàn 4, Trung đoàn 677, Sư đoàn 346 (Chiến đấu tại tỉnh Cao Bằng).

Binh nhất, Chiến sĩ ôn văn hóa tại Trường Văn hóa Quân khu 1.

Đảng viên (12/1982), Hạ sĩ, Trung sĩ, Thượng sĩ, Học viên Trường Sĩ quan Chỉ huy kỹ thuật Tăng.

Trung úy, Trung đội trưởng Đại đội 3, Tiểu đoàn 1037, Sư đoàn 312, Quân đoàn 1.

Chi ủy viên, Trung úy, Thượng úy (6/1985), Đại đội phó Kỹ thuật Đại đội 1, Tiểu đoàn 1037, Sư đoàn 312, Quân đoàn 1.

Phó Bí thư Chi bộ, Đại úy (6/1988), Đại đội trưởng Đại đội 1, Tiểu đoàn 1037, Sư đoàn 312, Quân đoàn 1.

Đảng ủy viên Tiểu đoàn, Đại úy, Phó Tiểu đoàn trưởng - Tham mưu trưởng, Tiểu đoàn 1037, Sư đoàn 312, Quân đoàn 1.

Đại úy, Thiếu tá (7/1992), Học viên đào tạo Học viện Lục quân.

Thiếu tá, Trợ lý Phòng Tham mưu, Sư đoàn 312, Quân đoàn 1.

Thiếu tá, Trung tá (8/1997), Phó Tham mưu trưởng Trung đoàn 141, Sư đoàn 312, Quân đoàn 1.

Đảng ủy viên Trung đoàn, Trung tá, Phó Trung đoàn trưởng - Tham mưu trưởng Trung đoàn 209, Sư đoàn 312, Quân đoàn 1 (10/1998- 6/1999: Học viên đào tạo Đại học đại cương, Học viện Hậu cần)

Phó Bí thư Đảng ủy Trung đoàn, Trung tá, Trung đoàn trưởng Trung đoàn 209, Sư đoàn 312, Quân đoàn 1.

Trung tá, Thượng tá (9/2001), Phó Tham mưu trưởng Sư đoàn 312, Quân đoàn 1 (9/2001-7/2002: Học viên đào tạo Sư đoàn trưởng, học viện Lục quân).

Đảng ủy viên Sư đoàn, Thượng tá, Phó Sư đoàn trưởng - Tham mưu trưởng Sư đoàn 312, Quân đoàn 1.

Phó Bí thư Đảng ủy Sư đoàn, Thượng tá, Đại tá (9/2005), Sư đoàn trưởng Sư đoàn 312, Quân đoàn 1 (9/2006 - 8/2007: Học viên Lớp đào tạo Chiến dịch - Chiến lược, Học viện Quốc phòng).

Đảng ủy viên Quân đoàn, Đại tá, Phó Tư lệnh Quân sự Quân đoàn 1.

Đảng ủy viên Quân đoàn, Đại tá, Phó Tư lệnh - Tham mưu trưởng Quân đoàn 1.

Phó Bí thư Đảng ủy Quân đoàn, Đại tá, Thiếu tướng (8/2010), Tư lệnh Quân đoàn 1 (9/2007-12/2011: Nghiên cứu sinh, Học viện Quốc phòng).

Bí thư Đảng ủy Bộ Tổng tham mưu - Cơ quan Bộ Quốc phòng; Thiếu tướng, Trung tướng (9/2013) Phó Tổng Tham mưu trưởng Quân đội nhân dân Việt Nam.

Ủy viên Ban Chấp hành Trung ương Đảng khóa XII; Ủy viên Quân ủy Trung ương; Trung tướng, Tư lệnh Quân khu 1; (02-6/2014: Học viên dự nguồn cán bộ cao cấp Khóa 4, Học viện Chính trị Quốc gia Hồ Chí Minh).

Ủy viên Ban Chấp hành Trung ương Đảng khóa XII; Ủy viên Thường vụ Quân ủy Trung ương, Trung tướng, Thứ trưởng Bộ Quốc phòng.

Ủy viên Ban Chấp hành Trung ương Đảng khóa XII; Ủy viên Ban Thường vụ Quân ủy Trung ương; Trung tướng, Thượng tướng (9/2017), Tổng Tham mưu trưởng Quân đội nhân dân Việt Nam, Thứ trưởng Bộ Quốc phòng. Tại Đại hội đại biểu toàn quốc lần thứ XIII đồng chí được bầu tái cử Ban Chấp hành Trung ương và được Ban Chấp hành Trung ương bầu vào Bộ Chính trị khóa XIII.

Ngày 08/4/2021, tại kỳ họp thứ 11, Quốc hội khóa XIV được Quốc hội phê chuẩn giữ chức Bộ trưởng Bộ Quốc phòng nhiệm kỳ Quốc hội khóa XIV. Đại tướng (7/2021).