Dựa vào điều lệ tổ chức và hoạt động của Ủy ban Thanh tra của Chính phủ và Quyết định của Thủ tướng Chính phủ quy định tạm thời về việc xây dựng đội ngũ cộng tác viên thanh tra các cấp, Ủy ban Thanh tra của Chính phủ đã phối hợp với các cấp ủy Đảng và chính quyền các tỉnh và thành phố trực thuộc Trung ương ở miền Nam lần lượt cho thành lập các Ủy ban Thanh tra. Ở nhiều địa phương (nhất là ở các tỉnh Nam Bộ cũ), cấp ủy và chính quyền đã phân công một đồng chí thường vụ hay Tỉnh ủy viên, Thành ủy viên là thành viên của Ủy ban nhân dân tỉnh, thành trực tiếp chuyên trách làm Chủ nhiệm Ủy ban Thanh tra. Thời gian này, đồng chí Trần Nam Trung, Ủy viên Trung ương Đảng được cử giữ chức Chủ nhiệm Ủy ban Thanh tra của Chính phủ.
Bên cạnh lực lượng thanh tra chuyên trách, từ đầu năm 1976, Đảng và Chính phủ chủ trương thiết lập tổ chức Thanh tra nhân dân tại các cơ sở nhằm kết hợp chặt chẽ giữa thanh tra của Chính phủ và hoạt động kiểm tra, thanh tra của nhân dân, tạo điều kiện cho nhân dân lao động thực hiện quyền làm chủ tập thể trong việc kiểm tra, giám sát các cơ quan, xí nghiệp Nhà nước, các hợp tác xã trong quản lý kinh tế, văn hóa, xã hội, trật tự và đời sống. Thể chế hóa quan điểm, đường lối của Đảng về công tác kiểm tra, thanh tra trong tình hình mới, ngày 9/1/1976, Thủ tướng Chính phủ ra Quyết định số 25/TTg về việc tổ chức Ban thanh tra nhân dân ở các đơn vị cơ sở chính quyền, kinh tế, sự nghiệp. Tiếp đó, ngày 17/3/1976, Ủy ban Thanh tra đã ban hành Thông tư số 02/TT-TTr hướng dẫn thi hành Quyết định số 25/TTg. Trên cơ sở đó, việc thành lập Ban thanh tra nhân dân đã được triển khai rộng khắp và hoạt động của các Ban thanh tra nhân dân đã đạt được nhiều kết quả tốt, đặc biệt là ở các tỉnh Thái Bình, Hà Nam Ninh, Nghệ Tĩnh, Hà Bắc, Thanh Hóa, Hà Nội, Vĩnh Phúc và trong các ngành nội thương, giao thông vận tải, điện than, lâm nghiệp, y tế...
Ngày 3/1/1977, Chính phủ đã ra Nghị định số 01/CP ban hành Điều lệ về tổ chức và hoạt động của Ủy ban Thanh tra của Chính phủ. Điều lệ gồm 3 chương, trong các chương đều nêu rõ chức năng, nhiệm vụ, quyền hạn và tổ chức, bộ máy của Ủy ban Thanh tra Chính phủ và Thanh tra các ngành, các cấp. Đây là văn bản có tính pháp lý để ngành Thanh tra mở rộng tổ chức trong cả nước, hình thành một hệ thống tổ chức bao gồm các cơ quan thanh tra chuyên trách của Nhà nước ở các cấp, các ngành và tổ chức thanh tra nhân dân tại cơ sở. Đến cuối năm 1977, trên 40 tỉnh, thành, đặc khu của cả nước và hầu hết các quận, huyện, thị xã đều thành lập xong cơ quan thanh tra.
Để tăng cường công tác thông tin, hướng dẫn và trao đổi kinh nghiệm, nghiệp vụ, ngày 19/7/1977, Ủy ban Thanh tra của Chính phủ ra quyết định thành lập Tạp chí Thanh tra. Ngày 18/10/1978, Chính phủ đã chính thức cho phép xuất bản Tạp chí Thanh tra. Tạp chí ra mỗi tháng một kỳ, trở thành diễn đàn trao đổi kinh nghiệm, nghiên cứu lý luận, hướng dẫn và tổng kết công tác thực tiễn của ngành, phổ biến những thông tin liên quan quan trọng của toàn ngành.
Cũng trong những ngày đầu giải phóng, Ủy ban Thanh tra của Chính phủ đã hoàn thành một khối lượng lớn các cuộc thanh tra kiểm tra theo yêu cầu của Đảng và Chính phủ, ngành Thanh tra đã bước đầu chủ động xây dựng chương trình hoạt động và phối hợp chặt chẽ với các ngành, các cấp để tổ chức thực hiện tốt nhiệm vụ được giao. Thời gian này, phần lớn các cuộc thanh tra đều tập trung vào những vấn đề kinh tế, đời sống như thanh tra việc chấp hành các chỉ thị, nghị quyết quan trọng của Đảng, Nhà nước về chống tham ô, móc ngoặc, chống quan liêu, cửa quyền gây phiền hà cho dân, về tăng cường và cải tiến quản lý, về mở rộng quy mô và đưa hợp tác xã nông nghiệp lên sản xuất lớn xã hội chủ nghĩa. Mặt khác, ngành Thanh tra còn tiến hành nhiều cuộc thanh tra về chấp hành chế độ quản lý, về thực hiện kế hoạch Nhà nước trong công tác thủy nông, phòng chống lụt bão, quản lý và phân phối vật liệu xây dựng, quản lý và phân phối vật tư, hàng hóa... Đi kèm theo đó là các cuộc thanh tra về chính trị, xã hội như thanh tra việc thực hiện chính sách hậu phương quân đội, chính sách đối với thương binh và gia đình liệt sỹ, việc tuyển sinh vào đại học và trung học chuyên nghiệp, vấn đề liên quan đến chính sách tự do tín ngưỡng, vấn đề phân phối nhà ở thành thị...
Trong lĩnh vực giải quyết khiếu nại, tố cáo, Ủy ban Thanh tra của Chính phủ luôn lưu ý các cấp, các ngành phải coi những đơn thư khiếu tố là nguồn thông tin phản ánh tương đối chính xác, kịp thời những hành vi sai trái của cán bộ quản lý chính quyền, quản lý kinh tế, cần coi trọng những thông tin, tư liệu có tính chất thời sự này để phục vụ cho nhiệm vụ chống tiêu cực và công tác xét giải quyết khiếu tố. Do đó, để đưa ra những kết luận xác đáng và đề xuất những giải pháp phù hợp thực tế, Ủy ban Thanh tra của Chính phủ cũng như cơ quan Thanh tra các cấp đã thực hiện hàng chục ngàn cuộc thanh tra khác nhau, xem xét và điều tra hàng chục ngàn đơn, thư với thái độ khách quan, trung thực, tổ chức tiếp hàng ngàn lượt người trực tiếp đến khiếu nại, tố cáo. Qua công tác xem xét và giải quyết đơn thư khiếu tố đã góp phần giải quyết những yêu cầu bức thiết của quần chúng, củng cố lòng tin của nhân dân đối với Đảng, với cơ quan, chính quyền Nhà nước, đồng thời giúp cho các cấp lãnh đạo thấy được những tồn tại, thiếu sót để kịp thời khắc phục và nâng cao trách nhiệm xét, giải quyết đơn thư khiếu nại, tố cáo. Với những thành tích xuất sắc trong công tác, ngành Thanh tra đã vinh dự được Chủ tịch nước Cộng hòa xã hội Chủ nghĩa Việt Nam tặng thưởng 2 Huân chương Lao động cho ngành Thanh tra (năm 1979, 1980).
Bên cạnh đó, những kết quả trong công tác thanh tra và các đề xuất của Ủy ban Thanh tra đã trở thành cơ sở nền tảng cho Hội đồng Nhà nước ban hành Pháp lệnh quy định việc xét và giải quyết các khiếu nại, tố cáo của công dân. Pháp lệnh gồm 6 chương, 43 điều, trong đó quy định vai trò, chức năng của ngành Thanh tra trong việc kiểm tra, quản lý công tác xét và giải quyết khiếu tố. Việc ban hành Pháp lệnh có ý nghĩa rất to lớn, vì đây là lần đầu tiên quyền và nghĩa vụ của công dân trong khiếu nại, tố cáo đối với các cơ quan nhà nước được xác định trong một văn bản pháp lý quan trọng.
Ngày 15/2/1984, Hội đồng Bộ trưởng ra Nghị quyết số 26/HĐBT về việc tăng cường tổ chức thanh tra và nâng cao hiệu lực thanh tra, trong đó nêu rõ về hệ thống tổ chức thanh tra Nhà nước và thanh tra nhân dân, quy định cụ thể những nguyên tắc, đặt cơ sở về nhận thức và về tổ chức thực hiện nhiệm vụ của ngành Thanh tra trong tình hình mới. Nghị quyết còn đổi tên gọi chính thức của hệ thống thanh tra là “Ủy ban Thanh tra Nhà nước”. Có thể coi đây là một bước ngoặt quan trọng, bước phát triển mới, khác hẳn trước đây trong quá trình phát triển và trưởng thành của ngành Thanh tra Việt Nam. Ngay sau đó, ngày 20/2/1984, Ban Bí thư Trung ương Đảng ra Chỉ thị số 38/CT-TW về việc tăng cường sự lãnh đạo của Đảng đối với công tác thanh tra, trong đó khẳng định “tổ chức thanh tra phải là một công cụ có hiệu lực của Nhà nước chuyên chính vô sản, đồng thời là một hình thức tổ chức của quần chúng để thực hiện quyền làm chủ tập thể của mình trong việc kiểm tra, giám sát hoạt động của các cơ quan nhà nước”. Tinh thần cơ bản của hai văn bản quan trọng này nhanh chóng được phổ biến rộng rãi trên các phương tiện thông tin đại chúng.
Để thực hiện nhiệm vụ thanh tra trong công cuộc đổi mới đất nước, đồng thời thực hiện việc tinh giản biên chế, ngành Thanh tra đã tổ chức sắp xếp lại bộ máy thanh tra trong toàn ngành theo hướng gọn nhẹ, giảm bớt đầu mối nhưng nêu cao tinh thần trách nhiệm và tính hiệu lực của bộ máy thanh tra. Với tinh thần đó, Ủy ban Thanh tra Nhà nước đã ra Quyết định số 39/QĐ-TTr về việc sắp xếp lại bộ máy cơ quan Ủy ban Thanh tra Nhà nước. Bộ máy giúp Chủ nhiệm Ủy ban Thanh tra Nhà nước thực hiện chức năng quản lý nhà nước gồm: Văn phòng, Vụ Tổ chức cán bộ, Cục Thanh tra kinh tế - xã hội và Cục Thanh tra xét khiếu tố. Đi đôi với sắp xếp tổ chức, Ủy ban Thanh tra Nhà nước và một số tỉnh, thành phố đã tổ chức một số lớp bồi dưỡng nghiệp vụ cho cán bộ thanh tra. Nhìn chung, đa số cán bộ thanh tra có phẩm chất tốt, bản lĩnh vững vàng, có lối sống trong sạch, giản dị.
Có thể nói, trong những năm đầu đất nước thực hiện sự nghiệp đổi mới, được sự quan tâm của Đảng và Nhà nước, ngành Thanh tra đã xác định đúng chức năng, vị trí và vai trò đặc biệt quan trọng của mình. Những hoạt động phong phú đa dạng và những thành tích mà ngành Thanh tra đạt được trong thời gian này không chỉ có tác dụng quan trọng, góp phần trực tiếp đối với việc thực hiện đường lối, chính sách của Đảng, giữ gìn pháp luật Nhà nước, tăng cường trách nhiệm quản lý kinh tế, quản lý xã hội của bộ máy Nhà nước, phát huy quyền làm chủ tập thể của nhân dân lao động, mà còn góp phần thúc đẩy quá trình đổi mới tư duy của Đảng và các cơ quan nhà nước các cấp./.
Theo Lịch sử Thanh tra Việt Nam 1945 - 2005