Arsitektur Masjid Jami’ terinspirasi oleh arsitektur Masjid Agung Demak.
Berdiri di tengah kota Merauke tepatnya di jalan raya Mandala. Masjid jami' merupakan masjid tertua di kota Rusa, Merauke.
Pada jaman penjajahan belanda tahun 1940 silam masa itu belum tersedianya sarana beribadah atau masjid untuk Muslim yang tinggal di kota Merauke.