Suku Hui sendiri adalah hasil asimilasi dan merupakan keturunan dari suku Han dengan bangsa Persia dan Arab sejak zaman Dinasti Tang. Sekitar abad ke-7, para pedagang Persia dan Arab mulai memenuhi kantung-kantung perdagangan Tiongkok. Yang datang melalui Jalan Sutra, biasanya menetap di Chang'an dan sekitarnya, sedangkan yang datang melalui jalan laut menetap di daerah Quanzhou dan Zhangzhou di pesisir Fujian. Mereka inilah kemudian berasimilasi dengan suku Han dan menurunkan suku Hui yang sekarang tersebar di seluruh Tiongkok ini.

Secara fisik, suku Hui tidak berbeda dengan suku Han; yang berbeda hanya cara hidup mereka yang beragama Islam, menjalankan syariah Islam namun bergaya Konfusianis. Hal ini membedakan mereka daripada suku Uygur, yang sama-sama memeluk agama Islam namun lebih bernafaskan Islam Asia Tengah.