应该说它受到多次严重的挑战。在意识形态上，它至少受到两次重要挑战。用现在比较时髦的话来说，这两次挑战都和“丝绸之路”有关。“丝绸之路”最早形成在汉朝，武帝打通西域后，可以说汉朝给西域输出大量的商品，而西域在贸易中还给汉朝送来了佛教。佛教在东汉后对儒学思想和基于儒学产生的政治体制形成了很大的冲击。这个冲击一直延续到中唐—北宋时期，直到新儒学的兴起和佛教的本土化后才走向稳定。这可以说是第一次高潮（挑战）。
第二次高潮发生在唐朝。中国同样向西方输送货物，而西方在贸易中还从海陆两路给我们带来了伊斯兰教。伊斯兰教在唐朝发展的最大阻力是逐渐走向强势的儒学，特别是新儒学，以及与新儒学相伴的两大制度基础——科举制和以村落为基础的宗法制度。伊斯兰教徒在生存和发展中不得不面对两个压力。其一是要想混出一个社会地位就必须考科举，其二是要想被更多的人接受就必须在伊斯兰教义中融入儒学的伦理。这两个几乎无形的压力给伊斯兰教徒安了一颗“中国心”，促进了伊斯兰教的本土化和伊斯兰教徒的族群化。古代社会的主流价值观都是宗教或类宗教的价值观，不论它是儒学、佛教、伊斯兰教，还是基督教。前现代各个文明区别如此之大，一个重要原因就是因为它们有着不同的宗教。宗教出自人惧怕死亡和夸大自我意义的本性，但是宗教同时也需要回应当地的问题，并且宗教想象也离不开本土的经验。不同地区因此会出现不同的宗教。宗教往往不是为统治者专门打造的，但是一个宗教发展到一定程度后，统治者就想利用它，以加强自身统治的意识形态合法性。宗教人士也会试图利用国家权力来扩大自己的力量以及打击其他宗教。宗教和国家政权因此有很深的关系。不同宗教由于其性质不同会与国家政权建立不同的关系，其后果之一就是不同文明形态的产生。相较于其他宗教，儒学作为国家统治工具有着特殊的“优越性”。如果统治者可以理性地自由选择一个宗教来作为自己统治的合法性基础的话，只要该统治者不是呆子，他很可能会选儒学。为什么？儒学讲三纲五常，它把社会不平等看作正常，只不过要求在社会上位的人做出与之地位相称的行为即可。用孔子的话说，这就叫“正名”。爸爸是可以主宰小孩的，但爸爸要做出爸爸的样子来；皇帝可以高高在上，但要做出皇帝的样子来，那这个皇帝就当得比较舒服。不像基督教，讲上帝面前人人平等，国君地位总是有点危险。印度教给一个没有流动的种姓社会以合法性和功能性，使得国家几乎成了多余，所以印度长期不能统一。对于社会精英来说，以儒学为主导的国家也是一个可被接受的选择。这样的国家为社会精英提供了一个可以通过读书来获取功名的渠道。虽然说臣子面对皇上时必须顺服，但是臣子可以通过儒学伦理来规范皇帝的行为，还能用孔孟之道来教育将来的皇帝。儒学因此就成了国家与知识精英结盟的基础。这种结盟虽然受到了许多方面的挑战，特别是思想方面的挑战，但是它不断发展，并且维持了两千多年。儒学的存在使得其他宗教进入中国后慢慢地被边缘化，并被迫走向本土化。儒学的这个性质也使得它在古代中国政治领域所起的作用越来越重要，并在宋朝以后逐渐深入民间，中国社会成了“儒家社会”。中国特殊的国家与宗教关系，还使得古代中国成了世界主要文明中最具有“宗教自由”的国土。这并不是说中国文化有什么特别的优越性。古代西方国家与基督教的关系较之中国的诸多朝代与儒学的关系要来得平等，但是这种平等却给西方国家和宗教之间带来了很大的紧张：统治者想摆脱教会的控制，而教会对其他宗教或者是不同教义的教会都具有很低的容忍度，因为教会怕国家支持其他宗教或具有不同教义的教会。基督教世界于是就充满了宗教战争和迫害。古代中国，国家与宗教的关系有点像传统中国的夫妻关系。统治者是丈夫，下面有着一大堆老婆（宗教），儒学的地位就相当于大老婆。大老婆在传统中国家庭中的特殊地位使得其他妻妾无法与之抗衡。儒学精英因此对其他宗教并不怎么嫉妒，而国家也因此能对宗教采取实用主义态度。你爱信什么教，就信什么教，只要该教的伦理体系不和儒学产生严重冲突并且不会成为造反武器即可。这一机制给了传统中国宗教生态的高度多样性，但同时也促进了其他宗教的儒学化。
