En el decimocuarto año del reinado de Khitan (Año 996), el árabe Shaykh Nalu Ding llegó a Beijing y construyó un templo en los suburbios del sur de la aldea de Liuhe, que es la Mezquita de Niujie. Los edificios principales del templo incluyen el Salón de Plegarias, también conocido como Yaodian, el Edificio Bangge, el Pabellón Bei, Edificio Wangyue, el salón de visitas (conocido también como siete cuartos), entre otros. El Salón de Plegarias es la construcción principal de toda la Mezquita, está orientado hacia el este y puede albergar a miles de personas al mismo tiempo. Al oeste del Salón hay una construcción en forma de pabellón con techo de seis esquinas de aguja hexagonal. Los nichos del Salón están llenos de flores y tallados árabes. Hay un escritorio de misiones en el lado noroeste del salón. Es el lugar donde los maestros dan conferencias sobre Juliah o festivales. El edificio Bangge está arriba para informar antes del culto de la hora a los creyentes y llamarlos. Se utiliza para el culto, por lo que también se le llama Edificio de Xuanli o Edificio de Convocación. A ambos lados de la plataforma del Salón de Plegaria hay dos pabellones cuadrados simétricos, en los cuales está un monumento construido en 1496, en el noveno año del reinado Hongzhi de la dinastía Ming. El edificio está entre las dos puertas del templo, en forma de hexágono, los religiosos lo usaban para observar la luna antes de la fiesta de Eid al-Fitr, y es una construcción única de los templos de adoración musulmán.

El diseño del Templo de Plegarias es regular, el salón principal es simple y magnífico, y todos los detalles arquitectónicos principales son ricos en estilo decorativo árabe y extremadamente exquisitos. Después de la fundación de la República Popular China, muchos dignatarios y amigos de países árabes vinieron a visitar la Mezquita.