酒店坐落于享有「东方香榭丽舍大街」之美誉的衡山路，沿着茂密的梧桐林荫，周边散布着各式咖啡馆、酒吧、名品店以及风格迥异的花园和各式老洋房。绿意盎然的步行径两端分别延伸至国际旅游购物区——徐家汇和淮海路商圈。酒店地处申城繁华的餐饮、购物、娱乐聚集地，徒步即可到达久负盛名的衡复风貌区。
贵宾楼和行政楼的交相辉印组成了现在的酒店。
贵宾楼始建于上个世纪30年代，由法商上海万国储蓄会下属的中国建业地产公司投资建造，法商米纽弟建筑技术艺术事务所设计，为上海市优秀历史建筑和市级文物保护单位，亦是具有文化特色的地标性酒店。2020年底，衡山宾馆启动第五次修缮改造，力求恢复历史建筑原貌。如今，89岁的老建筑打开围墙，融入衡山路梧桐林荫。贵宾楼除了新增部分餐饮、会议设施，其更多地体现在对建筑细节和风格氛围的还原上，其大量运用了经典的ARTDECO（装饰艺术设计）风格、指针式电梯、复古木地板、按原样恢复的阳台栏杆、带限位器的法式钢窗、复古摩登的用料配色等，酒店客房力求复刻1930年代公寓的建筑细节，并注入现代工艺提升品质。
行政楼高22层，拥有多间设备齐全的客房，并配有4间餐厅及酒吧、以及1间衡山饼店。位于2楼的无柱式大型宴会厅面积达575平方米，可分割成3个独立隔音宴会厅，并配有中央舞台及大型LED显示屏，毗连为10个大小迥异的多功能会议厅。酒店还拥有规模庞大，设施齐备的健身俱乐部，满足宾客运动健身需求，营造舒适温馨的入住氛围。
酒店拥有一处面积近一万平方米的景观花园，无论是住店客人还是前来用餐的宾客，都可近距离享受这片市中心难得一见的花园美景。一半是西式大草坪，一半是中式小桥流水，4A级景区风貌的风雅园林、东方情韵的亭台矗立水榭和西式花园小径，中西元素相互辉映堪称优美。可享花园下午茶，亦可举办浪漫的草坪婚礼和各式户外活动。酒店还用心打造了一块小朋友的专属天地，大人们在这边享用花园下午茶，孩子在那边尽情玩耍，一派其乐融融的美好景象。