Tiền thân là Phòng Tổ chức cán bộ thuộc Ủy ban hành chính cách mạng tỉnh Thủ Dầu Một, Sông Bé vào những ngày đầu sau giải phóng, đến năm 1978 Ban Tổ chức chính quyền tỉnh Sông Bé được thành lập với chức năng là cơ quan tham mưu giúp Ủy ban nhân dân tỉnh quản lý công tác tổ chức bộ máy, biên chế hành chính sự nghiệp, công tác cán bộ thuộc khu vực nhà nước, tổ chức chính quyền các cấp và địa giới hành chính ở địa phương. Đến ngày 01/01/1997 tỉnh Bình Dương được tái lập trên cơ sở chia tách tỉnh Sông Bé, và cũng từ thời điểm này Ban Tổ chức chính quyền tỉnh Bình Dương được thành lập theo Quyết định số 80/1997/QĐ-UB ngày 01/01/1997 của UBND tỉnh Bình Dương. Đến cuối năm 2003 thực hiện Quyết định số 248/2003/QĐ-TTg ngày 20/11/2003 của Thủ tướng Chính phủ, Ủy ban nhân dân tỉnh Bình Dương đã ban hành Quyết định số 269/2003/QĐ-UB ngày 01/12/2003 đổi tên Ban Tổ chức chính quyền thành Sở Nội vụ và chính thức sử dụng tên gọi này kể từ ngày 01/01/2004.

Đến nay, Sở Nội vụ là cơ quan chuyên môn giúp Ủy ban nhân dân tỉnh quản lý nhà nước về: Tổ chức bộ máy; Vị trí việc làm, biên chế, cơ cấu ngạch công chức trong các cơ quan, tổ chức hành chính, cơ cấu viên chức theo chức danh nghề nghiệp, người làm việc trong các đơn vị sự nghiệp công lập; tiền lương đối với cán bộ, công chức, viên chức (CB,CC,VC), lao động hợp đồng trong cơ quan, tổ chức hành chính, đơn vị sự nghiệp công lập; Cải cách hành chính, cải cách chế độ công vụ, công chức; Chính quyền địa phương; Địa giới hành chính; Cán bộ, công chức, viên chức và cán bộ, công chức cấp xã; Đào tạo, bồi dưỡng CB,CC,VC và CB,CC cấp xã, những người hoạt động không chuyên trách ở cấp xã; Hội và tổ chức phi chính phủ; Văn thư, lưu trữ nhà nước; Tôn giáo; Thi đua - khen thưởng và Công tác thanh niên. Về tổ chức, Lãnh đạo Sở Nội vụ hiện nay gồm có Giám đốc và 4 Phó Giám đốc; Cơ cấu tổ chức Sở Nội vụ gồm 7 phòng thuộc Sở và 4 đơn vị trực thuộc: Ban Thi đua - Khen thưởng, Ban Tôn giáo, Chi cục Văn thư - Lưu trữ và Trung tâm Hành chính công; với tổng số CB,CC,VC hơn 80 người.

Suốt quá trình 20 năm xây dựng và phát triển, phát huy truyền thống “Trung thành - Tận tụy - Sáng tạo - Gương mẫu” nhiều thế hệ CB,CC,VC của Sở Nội vụ đã đoàn kết nhất trí, nỗ lực vượt qua mọi khó khăn, thách thức, ra sức thi đua lao động, học tập, nghiên cứu ứng dụng tiến bộ khoa học công nghệ vào hoạt động quản lý hành chính nhà nước, làm tốt chức năng tham mưu cho UBND tỉnh trong lĩnh vực quản lý nhà nước về công tác Nội vụ ở địa phương.

Với những thành tích xuất sắc đạt được trong quá trình 20 năm xây dựng và phát triển, Sở Nội vụ tỉnh Bình Dương đã vinh dự được Nhà nước trao tặng các hình thức khen thưởng như: Chủ tịch nước tặng Huân chương Lao động hạng Ba năm 2001, Huân chương Lao động hạng Nhì năm 2008; Cờ Thi đua của Chính phủ năm 2012, Bằng khen của Thủ tướng Chính phủ các năm: 2002, 2013, Cờ thi đua của Bộ Nội vụ vào các năm: 2005, 2006, 2007, Cờ thi đua của Ủy ban nhân dân tỉnh vào các năm: 2011, 2012, 2014 và nhiều Bằng khen của Bộ Nội vụ và Ủy ban nhân dân tỉnh.