伊斯蘭教育伴隨著伊斯蘭教的傳播而開始，回族穆斯林的伊斯蘭教育伴隨伊斯蘭教的傳入而開始了?；刈宓南容吺侵袊浬痰陌⒗?、波斯斯、哈里發帝國派來華的官方使節、唐時來華幫助平安史之亂的阿拉伯、波斯軍隊、元初大批來華的阿拉伯、波斯、中亞各信仰伊斯蘭教的少數民族中的軍隊、工匠、商人、學者?；鼗厥瞧渲幸恢?。元末明初，即回族成之前，這些外來的穆斯林說的基本上是阿拉伯語和波斯語，而波斯語更流行。無時回回政治地位優越，國家設“回回國子監”。教授“亦思替非”文（阿拉伯文）和波斯文，從回回中培養國家公務員和翻譯人才，但“回回國子監”是否講授伊斯蘭知識，無從考查，我們可能把它算作公辦的回族穆斯林普通教育。那么，這個時期的伊斯蘭教育是如何進行的呢？穆斯林要做“五時拜功”，要舉行其宗教儀式，必須學會通讀《古蘭經》，要學習基本的教義、教法，所以，必須接受伊斯蘭教育。這段歷史時期中國穆斯林的伊斯蘭教育，根據資料和推斷，有以下幾種：
　?、倌滤沽衷谧约旱募抑邢蜃约旱淖优托氯虢痰哪滤沽挚陬^教授阿拉伯語音、讀法，教會他們誦讀《古蘭經》，過宗教生活，口頭教授基本教義、教法知識。

　?、趤砣A傳教的“答什蠻”（阿訇、宗教學者，波斯語，元朝官方稱“答什蠻”）向穆斯林群眾口頭傳授伊斯蘭知識，傳誦《古蘭經》、教授他們生活中的語言――波斯語和阿拉伯語。

　　③“答什蠻”在各地設“回子房”，作為宗教教育和宗教活動的中心。

　　以上形式，可以說是中國回族穆斯林定居的內地經堂教育的雛形，后來成為胡太師創立經堂教育的基礎。而新疆地區伊斯蘭教育的情況和內地略有不同，它近似阿拉伯伊斯蘭國有的情況。早在10世紀，喀喇汗伊斯蘭王朝在喀什建立官方薩吉耶經文大學；在10世紀中葉，建立軍里克王室經學堂。