广州大寺也被称之为“怀圣寺”，即怀念先知穆罕默德圣人之意，又因寺内有一光身柱形塔，故又称“光塔寺”。怀圣寺位于光塔路，及人民中路以东。

公元500年之前，即伊斯兰兴起之前，阿拉伯航海家们就已经同“中央帝国”[1] （中国）建立了贸易关系。阿拉伯商船从阿拉伯海湾顶端的巴士拉出发，又说是从地处波斯湾的盖斯镇（西拉夫）。他们航行至印度洋，途径锡兰岛（斯里兰卡），横穿苏门答腊岛和马来西亚半岛之间的马六甲海峡，到达中国南海。他们在东南沿海港口的泉州、广州建立了商栈，其中一些阿拉伯人在中国定居，或许这就是在中国的首批穆斯林，因为在先知接受启示期间（公元610-32年），阿拉伯半岛的居民大多已经归信了伊斯兰。

广州，早期阿拉伯人称之为广府（Khanfu），后来建立了穆斯林商业区，成为远近闻名的商贸中心。广州，凭借自身优越的地理位置成为最古老的交易及国际港口城市，在中国扮演重要的角色，它见证了一系列的历史事件，它使中国在历史上的地位举足轻重，它也成为世界上发展最快的一个地区，享有前所未有的繁荣。

当先知穆罕默德（愿主福安之）建立麦地那穆斯林公社之时，中国进入了长期的统一和防御时期。早期的中国编年史就有阿拉伯穆斯林的记载，并称之为“默德那国”。伊斯兰在中国古代被称之为“清真教”（意为“纯洁的宗教”）。一中国官员曾描述麦加为摩诃末圣人（即先知穆罕默德）的出生地。

有关伊斯兰在中国的出现有几个历史版本。一些史料记载，首次到达中国的穆斯林是来自当时迁往阿比西尼亚（埃塞俄比亚）的两伙穆斯林中一部分，他们历经数月来到中国。

埃塞俄比亚是一些早期穆斯林为逃避麦加古来氏部落的迫害选择的第一个避难之地。先知穆罕默德的女儿鲁卡娅，女婿奥斯曼·本·阿凡，还有著名的赛尔德·本·艾比·宛葛斯，及其他一些杰出的圣门弟子曾奉先知穆罕默德之命迁往当时的阿比西尼亚。他们成功地获得了阿比西尼亚尼加斯国王在阿克苏姆城镇的政治庇护（公元615年）。

然而，一些圣门弟子一直没有返回阿拉伯半岛。他们或许旅行到了他们希望获得生计的其他地方，或许通过陆路或海路最终到达了中国，当时中国正处于隋王朝统治时期（公元581-618年）。据一些史料记载，赛尔德·本·艾比·宛葛斯和其他三位圣门弟子在阿比西尼亚国王的支持下于公元616年从阿比西尼亚（埃塞俄比亚）航行来到中国。赛尔德后来返回阿拉伯，21年后带着一本《古兰经》又回到广州，同刘智在《天方至圣实录》（第12卷）中所记述的基本吻合。

据说，其中一位生活在中国的圣门弟子于公元635年归真，并葬于中国西部城镇哈密市郊。他的陵墓被称之为盖斯麻扎[2]，受到周边许多地区民众的敬仰。它位于中国西北的新疆维吾尔自治区首府乌鲁木齐市以东约400英里处。新疆是日本国土的四倍，处于中国的西北边陲，有八个少数民族，最大的为操突厥语系的维吾尔族。同样因它是中国最大的伊斯兰化地区，从而也占有十分重要的战略地理位置。

《古兰经》中明确阐述，穆罕默德被派遣，只为怜悯全世界的人（21:107），在另外一段经文中又提到：

“我只派遣你为全人类的报喜者和警告者，但世人大半不知道。”（34:28）

伊斯兰的这种普及性促使了它被所有种族和民族的人民接受，这在中国也得到了充分的证实。今天在中国各个少数民族的穆斯林人口，已远远超过了包括沙特阿拉伯在内的许多阿拉伯国家的总人口。

怀圣寺见证着公元7世纪中叶唐王朝时期（公元618-907年）——“中国历史上的黄金时代”伊斯兰文化在中国数百年的岁月。正是在这一时期，先知穆罕默德归真18年后，伊斯兰上的第三任正统哈里发奥斯曼·本·阿凡（公元644-656年/伊历23-35年）第一次派使节到中国。

奥斯曼是最早归信伊斯兰并能背记《古兰经》的圣门弟子之一。他性格温和、腼腆，先同鲁卡娅结婚，鲁卡娅归真后，又同乌姆·库勒苏姆结婚（两个都是先知的女儿）。因此，被授予“祖·努莱尼”（Dhu-n-Nurayn，意即“具有两道光”的人）的别号。奥斯曼对伊斯兰最大的贡献是搜集和整理《古兰经》，并统一定本，避免传述之误和读法分歧，史称“奥斯曼定本”，他还命令复制标准本分送至伊斯兰帝国的四周。

奥斯曼派遣由赛尔德·本·艾比·宛葛斯（卒于公元674年/伊历55年）为首的使团来到中国，他是最著名圣门弟子之一，17岁时归信伊斯兰。他曾参加先知领导的所有战役，是先知以乐园相许诺的十大圣门弟子之一。

在麦地那，赛尔德利用自己的建筑学技能为礼拜大厅增设了拱顶（波斯帝国曾使用的拱形门厅）。后来，他按照早期伊斯兰建筑风格，并结合中国建筑风格，在中国建立了第一座清真寺。

根据古代唐朝史书记载，由赛尔德·本·艾比·宛葛斯和其他圣门弟子为首的麦地那国使团，于公元650年前往中国，途经印度洋和中国南海，到达著名港口广州，又陆路北上至长安（今西安），后来被称之为“丝绸之路”。