เดิมสำนักงานที่ดินจังหวัดมุกดาหาร มีฐานะเป็น สำนักงานที่ดินอำเภอมุกดาหาร ตั้งอยู่บริเวณ ที่ว่าการอำเภอมุกดาหาร ขึ้นอยู่ในเขต การปกครองของจังหวัดนครพนม ต่อมาปี พ.ศ.2525ได้มีพระราชบัญญัติจัดตั้งจังหวัดมุกดาหาร พ.ศ.2525 ประกาศใน ราชกิจจานุเบกษาฉบับพิเศษ เล่ม 99 ตอนที่ 121 ลงวันที่ 27 สิงหาคม 2525 ยกฐานะอำเภอมุกดาหาร ขึ้นเป็นจังหวัด ตั้งแต่ วันที่ 27 กันยายน 2525 เป็นต้นไป โดยให้แยกอำเภอมุกดาหาร อำเภอคำชะอี อำเภอดอนตาล อำเภอนิคมคำสร้อย กิ่งอำเภอ ดงหลวง และกิ่งอำเภอหว้านใหญ่ ออกจากการปกครองของจังหวัดนครพนม รวมตั้งขึ้นเป็นจังหวัดมุกดาหาร สำนักงานที่ดินอำเภอมุกดาหาร จึงได้ยกฐานะเป็น “สำนักงานที่ดินจังหวัดมุกดาหาร” ตั้งแต่นั้นเป็นต้นมา รับผิดชอบพื้นที่ในเขตอำเภอเมือง อำเภอหว้านใหญ่ อำเภอดอนตาล อำเภอนิคมคำสร้อย อำเภอดงหลวง อำเภอคำชะอี และอำเภอหนองสูง

ต่อมาปี พ.ศ. 2534 ได้มีการจัดตั้ง สำนักงานที่ดินจังหวัดสาขาคำชะอี โดยรับผิดชอบเขตอำเภอคำชะอี และอำหนองสูง