Masjid ini hanya tinggal reruntuhannya saja, yang terlihat hanya mihrab dan sisa bangunan menara yang berdenah bujur sangkar. Menara ini terbuat dari bata dan dengan pondasi dan bagian bawahnya terbuat dari batu karang, bagian atas menara ini sudah hancur.
Menurut catatan sejarah yang ada, para pedagang Cina mulai memasuki Banten pada tahun 1522. Pada awalnya orang Cina ini datang ke Banten dengan tujuan untuk berdagang. Mereka membawa barang-barang khas dari negaranya untuk diperdagangkan di pasar Karangantu. Antara lain, orang Cina berdagang sutera, beludru, porselin, peti yang indah, kertas emas, kipas. Barang-barang tersebut ditukarkan dengan rempah-rempah. Orang Cina membutuhkan rempah-rempah untuk dijadikan bumbu, campuran minuman dan obat-obatan.
Karena proses bongkar muatan kapal yang membutuhkan waktu yang lama, akhirnya pedagang Cina tersebut, tinggal di Banten. Lambat laun terbentuklah perkampungan Cina atau lebih dikenal dengan Kampung Pacinan. Dalam kehidupan bermasyarakat para pedagang Cina tersebut berbaur dengan penduduk Banten, sehingga banyak diantara orang Cina yang menikah dengan penduduk setempat. Kemudian dibangunlah Masjid Pacinan Tinggi, yang dibangun pada masa Sultan Syarif Hidayatullah. Masjid ini dibangun di tengah perkampungan Cina. Masjid Pacinan Tinggi dibangun pada tahun 1523-1524, Masjid Tinggi ini berfungsi sebagai sarana ibadah dan musyawarah.
Tak jauh di sebelah kanan terdapat makam suami-istri yang berasal dari Desa Yin-Shao dan batu nisan tersebut didirikan tahun 1843, mungkin keduanya pemuka agama (saat itu) sehingga dimakamkan di dalam area masjid.