1929 年夏，颜福庆赴檀香山出席泛太平洋外科学术会议，紧接着考察了美国旧金山、芝加哥、波士顿、纽约等地的医学事业。美国医学发展日新月异，在哥伦比亚特区，医学院、医院和研究所紧挨在一起，建成了规模巨大的医学中心。美国之行使颜福庆大开眼界，同时也深受刺激，感到中国医学与美国的巨大差距。颜福庆向北京协和医学院代理院长顾临（R. S. Gneene）通报美国之行的成果时表达了这样的观感：“中国距离美国的最低医学标准还有很大的距离。”

　　经过近一年的反复思考和论证，颜福庆于 1930 年 8 月正式向世人发出创建“上海医事中心”的倡议。计划的核心是创建一家规模宏大、设备齐全的国人医院，“注重平民，普及卫生教育”，集分科诊治、精密研究、医学教育为一体，这就是中山医院的雏形。根据《筹设上海中山医院计划概要》，中山医院“依照各国最新式医院”设计。颜福庆心目中的医院是美国哥伦比亚的医学中心。

　　1931年1月17日，中山医院发起人会议在上海银行公会召开。时任国民政府中央银行行长孔祥熙，孙中山之子孙科，以及沪上政、学、商、医各界名流王一亭、刘鸿生、余日章、王晓籁、赵晋卿、史量才等 27 人与会。会议宣告，上海中山医院筹备会成立，颜福庆被推举为总干事。

　　经过6年多的筹备，1937 年4月1日下午，枫林桥边，中国医务界迎来了一场盛会。国立上海医学院、上海中山医院新院舍落成典礼暨中华医学会第四届年会同时举行。中山医院和上海医学院新大楼是典型的中西合璧的多层建筑。建筑体量庞大，呈左右对称布局。汉白玉栏杆、红柱、金黄色琉璃瓦歇山顶。屋脊兽吻、檐下架上彩画图案颇显中国明清宫殿建筑特色。楼前，是西方园林巴洛克式风格的庭院绿化和喷水池。参加这场盛会的来宾有时任国民政府行政院副院长孔祥熙、卫生署长刘瑞恒、教育部次长段锡朋、驻美大使王正廷、财政部次长徐堪、淞沪警备司令部司令杨虎、中央银行副总裁陈行、银行公会秘书长林康侯、中华医学会会长朱恒璧、上海市各界名流和中华医学会会员数千人。

　　在中山医院大门前举行的揭幕礼上，孔祥熙、段锡朋、朱恒璧先后致辞，接着颜福庆作了《国立上海医学院落成、中山医院开幕报告》。在报告中，颜福庆总结了上海医学院创办10年成功的奥秘：“第一，同人认定医事为社会所需之事业，只要大家埋头苦干，不必多事宣传，定能博得社会的同情。如果能得社会上多数人的同情，则物质上精神上的帮助，自然源源而来。第二，我们认定医事为关系人生的科学，医师操人命生杀之权，所以延聘教员及医师的时候，必先注意其人选，学识经验，皆经严格的审查，极端慎重，因此博得各界信仰。第三，我们认定做医师的人，须有牺牲个人，服务社会的精神，服务医界，不存在升官发财的心理。如在学院或医院服务的同人，皆有此种决心，则医事事业，定有相当进步。”

　　随后，孔祥熙偕夫人宋蔼龄及各界来宾，围成半圈站在大门前。宋蔼龄手持剪刀，将彩带剪断。中山医院的大门缓缓开启，“上海医事中心”成立了，颜福庆的理想化为现实。