Tuy mới được thành lập và đang từng bước ổn định tổ chức, Ban Thanh tra Trung ương của Chính phủ đã bắt tay ngay vào công tác kiểm tra, phục vụ yêu cầu của đất nước lúc này. Trong 2 năm 1956-1957, nhiệm vụ của ngành Thanh tra nói chung và Ban Thanh tra Trung ương của Chính phủ nói riêng đã gắn với nhiệm vụ trọng tâm của đất nước là tập trung vào thực hiện công cuộc phục hồi kinh tế sau chiến tranh, phát triển kinh tế văn hoá. Ban Thanh tra Trung ương của Chính phủ đã tiến hành một số cuộc thanh tra trên nhiều lĩnh vực tại các địa phương và các ngành như: Cuộc kiểm tra tại Tổng Công ty Bách hoá; kiểm tra công tác sửa sai trong cải cách ruộng đất ở các tỉnh Nam Định, Hà Đông, Nghệ An, Hà Tĩnh, Vĩnh Linh và 6 xã ngoại thành Hà Nội, kiểm tra tình hình lãnh đạo của các cấp và những vướng mắc chính ở nông thôn tại tỉnh Thái Bình, tìm hiểu xây dựng cơ bản tại 5 nhà máy thuộc Bộ Công nghiệp, một số cuộc kiểm tra đột xuất như vụ vỡ đê Mai Lâm, các vụ vi phạm trật tự trị an ở Cao Bằng, Hải Ninh, Nam Định. Qua các cuộc kiểm tra, đã phát hiện được một số lệch lạc và một số thiếu sót của các cơ quan và cán bộ cấp dưới trong việc chấp hành chính sách, đặc biệt là việc thực hiện sửa sai trong cải cách ruộng đất.

Từ khi phát hiện những sai lầm trong cải cách ruộng đất và chỉnh đốn tổ chức, thư khiếu nại của cán bộ và nhân dân ngày càng nhiều. Trước tình hình đó, tháng 07/1956, Ban Thanh tra Trung ương của Chính phủ đã thành lập Phòng xét khiếu tố. Tính đến cuối năm 1957, riêng Ban Thanh tra Trung ương của Chính phủ nhận được 3.998 thư khiếu tố, chưa kể 2.037 người trực tiếp đến Ban Thanh tra khiếu nại. Ban Thanh tra Trung ương đã cử các cán bộ đi điều tra, xác minh và góp ý kiến với các cơ quan có trách nhiệm giải quyết khoảng 290 vụ, còn phần lớn các vụ khiếu nại khác đã chuyển đến các cơ quan và địa phương để xem xét, giải quyết. Tháng 04/1957, Hội nghị cán bộ thanh tra toàn miền Bắc đã được triệu tập tại Hà Nội. Hội nghị đã vinh dự được Chủ tịch Hồ Chí Minh tới dự và nói chuyện. Đây là Hội nghị cán bộ thanh tra đầu tiên được triệu tập kể từ khi Ban Thanh tra Trung ương của Chính phủ được thành lập.

Tháng 03/1959, Hội nghị cán bộ thanh tra toàn miền Bắc lần thứ III đã họp bàn về vấn đề kiện toàn tổ chức các Ban Thanh tra địa phương. Hội nghị đánh dấu một bước tiến mới trong việc xây dựng và củng cố các Ban Thanh tra khu, thành phố, tỉnh. Nhờ Hội nghị này, tư tưởng dao động, không yên tâm công tác trong một số cán bộ thanh tra trước việc một Ban Thanh tra tỉnh bị giải thể bước đầu được giải quyết.

Ngày 29/02/1960, Hội nghị cán bộ thanh tra toàn miền Bắc lần thứ IV đã khai mạc tại Hà Nội. Hội nghị đã nhất trí đề nghị Trung ương Đảng và Chính phủ thành lập Uỷ ban Thanh tra của Chính phủ và Uỷ ban Thanh tra các khu, tỉnh, thành phố cho đến các cấp huyện, thay cho Ban Thanh tra Trung ương của Chính phủ và Ban Thanh tra các cấp. Hội nghị đã vinh dự được Chủ tịch Hồ Chí Minh đến thăm và nói chuyện. Sau khi biểu dương những thành tích của ngành Thanh tra trong những năm qua và chỉ ra những thiếu sót cần khắc phục, Người chỉ rõ “Nạn lãng phí, tham ô là do bệnh quan liêu, mệnh lệnh trong công tác của các cấp lãnh đạo ở các cơ quan Nhà nước gây ra... Nếu không kiên quyết chống bệnh quan liêu, mệnh lệnh, lãng phí, tham ô, thì nó sẽ cản trở, phá hoại ta tiến lên chủ nghĩa xã hội”.

Quán triệt tinh thần và nhiệm vụ chung của Đảng và Nhà nước trong kế hoạch 3 năm cải tạo và phát triển kinh tế, phát triển văn hoá (1958 - 1960), ngành Thanh tra đã họp bàn và thông qua kế hoạch của ngành trong giai đoạn này là tập trung chống tham ô, lãng phí, quan liêu, mệnh lệnh, kém tinh thần trách nhiệm, kém ý thức tổ chức kỷ luật trên các mặt kiến thiết cơ bản, sản xuất và kinh doanh. Trong thời gian này, Ban Thanh tra Trung ương của Chính phủ đã tiến hành thanh tra các kho tàng thuộc các Bộ Thương nghiệp, Công nghiệp, Kiến trúc, Giao thông và các kho thóc ở một số tỉnh. Đồng thời, tiến hành kiểm tra một số công trường xây dựng cơ bản thuộc các Bộ Kiến trúc, Công nghiệp, Giao thông - Bưu điện, Thuỷ lợi, Nông lâm, Tổng Cục hậu cần, tiến hành kiểm tra phong trào đổi công tại hai tỉnh Phú Thọ và Hà Nam, tình hình sản xuất nông nghiệp ở các tỉnh Nam Định, Hải Dương, Ninh Bình, Nghệ An...

Đi đôi với công tác thanh tra, việc xét và giải quyết khiếu tố cũng được đẩy mạnh và đạt được những kết quả đáng kể. Chỉ tính riêng năm 1960, Vụ thanh tra xét khiếu tố của Ban Thanh tra của Chính phủ đã nhận được 1984 đơn thư, trực tiếp giải quyết 72 vụ, số còn lại chuyển cho các cơ quan, các địa phương trực tiếp liên quan để giải quyết. Tính chung trong 19 đơn vị khu, thành, tỉnh và 9 bộ cùng với Vụ Xét khiếu tố đã nhận được 21.082 đơn thư, trong đó có 10.035 thư khiếu nại về cải cách ruộng đất và 2.050 thư của thương binh, bộ đội, phục viên, còn lại là về các vấn đề khác. Toàn ngành đã giải quyết được 13.533 vụ.

Cùng với việc thực hiện các cuộc thanh tra, xét và giải quyết đơn thư khiếu tố, Ban Thanh tra Trung ương của Chính phủ còn hướng dẫn nghiệp vụ cho các Ban Thanh tra bộ, ngành và các địa phương phối hợp cùng các Ban Thanh tra tiến hành thanh tra những vụ việc lớn ở các cơ sở.

Hoạt động thanh tra của các Ban Thanh tra địa phương được đẩy mạnh. Các Ban Thanh tra các tỉnh từ khu IV đến khu tự trị Thái - Mèo, khu tự trị Việt Bắc đã tiến hành hàng chục cuộc thanh tra về tình hình sản xuất, về phong trào đổi công, chống tham ô lãng phí, về việc sửa sai trong cải cách ruộng đất, việc xây dựng cơ bản, về kho tàng... Trung bình hàng năm các Ban Thanh tra địa phương tiến hành được từ 10 đến 20 cuộc thanh tra tại địa phương mình. Công tác tổ chức và nghiệp vụ của Ban Thanh tra Trung ương của Chính phủ nói riêng, của toàn ngành Thanh tra nói chung từng bước được ổn định và tăng cường.