1928年4月下旬，孙禄堂应国术研究馆（后改称中央国术馆，下同）张之江、李景林之聘担任该馆主任，孙禄堂先由天津乘船走海路到上海，再由上海乘火车到南京赴任。
孙禄堂到上海后受到上海诸多国术机构的热烈欢迎并极力挽留。
4月29日，致柔拳社举行欢迎孙禄堂的大会，到者400余人。5月1日，中华体育会欢迎孙禄堂，郑怀贤再次见到了孙禄堂。据周剑南对笔者讲，孙禄堂很关心郑怀贤在上海的情况以及打算，嘱郑怀贤专心任事，广结善缘，切勿急名近利，并将在场的一些上海文化界及商界有影响的人士介绍给郑怀贤认识，为郑怀贤在上海的进一步发展接通人脉。
周剑南讲，郑怀贤对他说：“老先生（指孙禄堂先生）给我们打下一定的武功基础后，下面我们学什么、干什么，他只提建议，具体他听我们的想法，他不是只从武艺上考虑我们应该学什么，他是从我们未来生活打算上为我们安排。真是待徒如子。”
其实不仅是对郑怀贤，孙禄堂对前来投师的曹晏海等也是如此。1928年虽然开始建立了国术馆体系，但对于大多数习武者而言，这时已不是仅仅靠着拳头就能安身立命的年代，既要在武艺上有真功，所学的功夫也要能够适应那个时代的需求以符合个人的生存与发展。
当代很多人包括一些所谓的专业研究者看待武术史、武术人物的视角始终停留在武侠小说虚构的框架中，在认知上这是十分可悲的。在这些人的认知里，人一旦练的武术，这个人的行为逻辑就脱离了现实的人间社会，生活在了一个虚幻的想象的空间中。
1928年7月，上海法租界举行中华义勇团游艺大会，声势浩大，引起媒体的广泛关注，其中有国术表演单元。国术组由李景林领衔，国术表演从7月20日——22日，连续表演三天，开始郑怀贤没有报名表演，孙禄堂问郑怀贤为何不报名表演，郑怀贤认为当时上台展示孙氏形意拳、孙氏八卦拳的李玉琳、萧格清这几位师兄的功夫都比自己好，所以就不报名上台表演了。孙禄堂对郑怀贤讲：“你的飞叉是他们比不了的，你可以表演飞叉。”于是郑怀贤上台表演了飞叉，结果一炮走红，引起轰动。郑怀贤的飞叉成为当时上海武术界几乎无人不知的一项绝技。其实，郑怀贤更擅长的是那种无限制的实战格斗，不久被杜月笙看中，在杜月笙的建议下，郑怀贤与杜月笙结为金兰兄弟。
1928年9月，经孙禄堂介绍，郑怀贤去中央国术馆进修了3个月，进一步增广见识。①
1929年11月到1929年12月，郑怀贤先后参加了浙江国术游艺大会的武术表演和上海国术大赛的擂台比赛，郑怀贤在上海国术大赛上连胜两场后因遇同门师弟张熙堂，郑怀贤主动退出了竞争。
自1929年1月至1936年底，郑怀贤先后在中华体育会、两江体育师范学校和交通大学教授国术。②
1932年6月以后，因1．28事变日军进攻上海，东南涂炭，阴云密布，使江苏省人心浮动，经济上元气大伤，导致江苏省国术馆关闭。这时原江苏省国术馆教务长孙存周受聘于中国银行国术部（上海）、上海市公安局消防处和铁道部两路路局国术部等几个机构，教授武术，又因孙存周是中华体育会的董事，那里师兄弟们总邀请孙存周去那里走走，郑怀贤得以进一步向孙存周请教武艺，于是技击功夫大进，逐渐成为中华体育会在上海的代表性人物之一。
如：
1933年7月，中华体育会开设暑期班，该班是作为体育教师的专业进修班，主要教授各学校的体育教师，其中作为教授国术的号召性人物是郑怀贤和萧格清。③
1933年7月4日《申报》
翌年即1934年7月，教育部体育班同学会与中华体育会合办暑期体育讲习会，由国民政府行政院秘书长、全国国民卫生建设委员会委员长褚民谊讲授【健康教育】，由南京体育师范学校创办人、校长邵汝干讲授【体育原理】，由两江女子体育师范学校创办人、校长陆礼华讲授【小学体育教学法】，由日本关西大学毕业的《申报》体育编辑阮蔚村讲授【体育行政】，此外，讲授运动生理、丹麦操、舞蹈、田径、篮球、游泳的薛学海、黄胜白、吴渭水、章文元、周鼎昌、任劲华、余荣邦、张嘉咸等皆为当时著名的体育家，国术方面，由中华体育会总干事章启东讲授【国术要义】，由郑怀贤讲授【形意拳、八卦拳、武当剑】，由李新华讲授【女子国术】，由杨孝文讲授【吴氏太极拳】，④其中章启东、郑怀贤、李新华等皆为孙禄堂的弟子，杨孝文是吴鉴泉的弟子即褚民谊的师兄弟。这个暑期体育讲习会的师资专业性突出，阵容华丽，具有相当高的规格。而在国术方面，以郑怀贤讲授的内容最多、份量最重。
此时郑怀贤已经成为上海地区最有影响力的国术家之一。
1935年，第六届全国运动会在上海举行，郑怀贤被聘为这次运动会国术部拳术器械组的16位裁判员之一。这16位裁判员是孙存周、郑怀贤、靳云亭、陈微明、萧格清、姜容樵、吴俊山、吴鉴泉、吴翼翚、武汇川、华翔九、赵连和、翁耀衡、郑灼辰、叶良、龚润田。其中孙存周是孙禄堂的儿子，郑怀贤、靳云亭、陈微明、萧格清皆为孙禄堂的弟子。⑤
由此标志着郑怀贤此时已经成为了在全国国术界具有相当声望的武术家。
1936年，国民政府经过层层选拔，组建了一个100多人的参加柏林奥运会的代表团。此前1932年国民政府参加洛杉矶奥运会时运动员只有刘长春一人。而这次由于经过1933年第五届全国运动会以及1935年第六届全国运动会的促进，各项体育竞技在全国获得了空前的发展。
此次国民政府选拔参加柏林奥运会运动员的选拔赛自然影响空前，国术虽然属于此次奥运会的表演项目，但同样竞争激烈。选拔国术选手经过了预选和决选两次选拔。既要求在武术表演方面有独到的技艺，同时也要具有相当的技击对抗能力，因为倘若遇到有人提出挑战或切磋，也要具有一定的战而胜之的能力，不能让外国人认为中国武术是花拳绣腿。而且对国术选手的年龄也有要求，规定选手的年龄在20岁到35岁之间。⑥最终国术选手，男选手正选4人，张文广、温敬铭、郑怀贤、金石生，备选2人，张尔鼎，寇运兴。女选手正选2人，翟涟沅、付淑云，备选1人，刘玉华。共有9名入选。⑦全体入选人员集中在南京进行训练，队员中在技击对抗方面，以郑怀贤的散手、张文广的摔跤最为突出。
1936年2月2日《时事新报》
斯时郑怀贤已经39岁，超出规定年龄上限4岁，但因郑怀贤不仅在武术表演方面水平高，而且散手功夫出众，因此是被破格录取的唯一一人。郑怀贤参加选拔决试的武艺是：形意拳、飞叉、六合刺枪、昆仑刀、双刀进枪。⑧
关于郑怀贤等人当年在柏林奥运会上的表现，因笔者不懂德文，因此没有收集当时柏林报纸的相关报道。故不妄议。但根据郑怀贤参加柏林奥运会后回到国内的行状表明，柏林奥运会后，郑怀贤的武功声望达到了一个新的高度，可以说是所有参加这次奥运会的国术选手中之翘楚。
如——
1937年1月24日，南京“公余联欢社”邀请中华体育会一行六人，由该会总干事章启东领队，郑怀贤、翟涟沅、萧仲清、刘文友、萧德全去表演国术，引起了轰动，其中尤对郑怀贤与翟涟沅师徒的表演最受欢迎，认为二人“技术精深老辣”。⑨
1937年2月15日，应国民政府军事委员会及其励志社邀请，章启东、郑怀贤、翟涟沅、高君珠、萧仲清、刘文友、董恩钧、萧德全等一行8人在国民大会堂表演国术。自2月16日至2月20日每日下午5时在国民大会堂表演国术，连日表演，以供陆军大学、中央军校、航空学校及各军事机关长官、学员等前往参观，每日均有三千余人前往参观，观众掌声欢呼之声震屋瓦。⑩
2月20日，国民政府主席林森、中政会主席汪精卫等在励志社大礼堂欢宴章启东、郑怀贤一行，军乐队奏欢迎曲，在京全体中央委员出席，郑怀贤等人的国术表演得到林森暨各中央委员和参会者一致的高度称赞。⑪
1937年2月21日《神州日报》
章启东、郑怀贤等人此行在当时国术界影响空前。不久郑怀贤被调入中央军校担任国术教官。⑫
①《四川地方志》1989年第4期“郑怀贤”。
②同①。
③1933年7月4日《申报》“中华体育会设暑期班”。
④1934年7月21日《申报》“暑期体育讲习会近讯”。
⑤1935年9月18日《时事新报》。
⑥1936年2月2日《时事新报》“参加世运举重比赛及国术表演选拔简则”。
⑦1936年5月14日《大公报》“参加世界运动会国术代表昨产生”。
⑧1936年5月13日《申报》“参加世运举重代表选定三名”。
⑨1937年1月25日《神州日报》。
⑩1937年2月21日《神州日报》。
⑪同⑩。
⑫同①。
