文山寺为南宋古寺，迄今已有八百余年的历史。南宋德祐元年（1275年）十月，元兵南侵，宋恭宗急命时任兵部尚书的文天祥改任浙西、江西制置史兼平江知府，在苏州组织抗元事宜。文天祥在苏州，将家属安置在潮音庵内。40天后，文天祥又奉命移守临安，文天祥离开苏州3天后，苏州就落入元军手中。后来，文天祥奉命出使与元军谈判，为元军扣押北上，途经镇江时，文天祥趁机逃脱南下，又路过苏州，见到苏州军民百感交集，写下了“楼台俯舟楫，城郭满干戈，故吏归心少，遗民出涕多。鸠居无鹊在，鱼网有鸿过，使遂睢队志，安危今若何”。明正德十年（1515年）苏州人为纪念文天祥建忠烈祠于此，又称文山祠或文丞相祠。嘉靖二十年（1541年）迁祠于旧学前，此处遂改为文山寺。清同治十一年（1872年）重修。民国十四年（1925年）心传法师以1500大洋购下殿宇，将文山寺与潮音庵、云林庵合并为文山潮音禅院，当时有殿宇65间。1958年改为尼众丛林。文革中，寺舍被指甲钳厂、华通电子设备厂、桃坞街道文化站、街道编织社等六家单位占用。1988年，寺舍归还佛教协会。1989年4月，文山寺开始重修。1990年9月恢复宗教活动。1990正式经批准开放，成为苏州古城区唯一一座尼众道场。
整修后的文山寺占地面积2206.19平方米。寺门前有黄墙照壁，进山门是韦陀殿，其后为大殿。大殿为硬山顶，梁架扁作，外檐列桁间牌科，殿前有冲天香炉。殿后为净业堂，楼上是藏经楼。东路有文山厅、念佛堂、观音殿、云山无恙堂。西路为散点式布局，有斋堂、五观堂、厨房、花圃、回廊，并设有客房。花圃曲廊中建“如山亭”，挂有楹联：“云山千载终无恙，潮音一苇信有凭”。寺内尚存清道光十八年（1838年）《重建潮音禅院记》碑，同治十三年（1874年）《潮音庵增置屋宇记》碑等七方。
文山寺布局严整，殿宇宏伟，佛像庄严。中国佛教协会副会长明法师题写了“大雄宝殿”、“藏经阁”匾额，市佛教协会副会长性空、妙生法师分别题写了“文山禅寺”、“净业堂”匾额。大雄宝殿内供奉着重塑的释迦牟尼佛像、西方三圣像，净业堂内供奉着一尊观世音玉佛（立像），藏经楼内珍藏一部新修大正藏。大雄宝殿为庑殿重檐，楠木金柱，内外柱等高，脊桁下用叉手，建筑技法为元代以前常见手法，斗拱为明式做法，天花上用草栿作，梁枋上彩绘二龙戏珠和唐三藏师徒西天取经以及动、植物图案，襻间枋下有明代天顺、清代道光以及1957年修建的文字记载。殿面阔五间，进深六间，瓦当、滴水上饰有龙凤图案。从大殿的整体风格来看，属于明代中期风格，屋面则继承了唐代的建筑手法。庑殿重檐屋顶式样一般用于皇宫的主要建筑，以示尊崇或隆重。
　文山寺主殿坐西朝东，平面呈不规则的“十”字形。原高三层，现仅存一层，其他两层在十年浩劫时被毁。主殿为石墙，整齐美观。主殿前面左右两墙角上部各镶有一尊半身木狮、龅牙咧嘴，雕刻细腻。寺外墙上还镶有石刻佛教图案和人物造像等。第一层主要由门廊、经堂、佛殿、回廊等组成。门廊有方柱2根，面积34.2平方米（南北长17.1米，东西宽2米）。壁画有四大天王及动物鹿、象等。门廊左右两边还各设有一小门，这种现象甚为少见。文山寺佛殿大门为三拱形木门，总宽6米，高5.8米。门扇中间装有铁丝编织网，下边木板上绘有菩萨、四大天王像，上边镶有三对铜狮。门楣之上有斗栱承托房顶。围绕佛殿有一周转经回廊，廊两壁满饰壁画，内容以释迦牟尼本生故事为主，千佛像次之，还有无量寿佛、供养人、观音菩萨、兽头四大天王、护法金刚、大胡子鱼、牛皮船等，尤以护法神像最有特色：红脸、长白须、绾髻，袒裸上身，腰间系短裙，并系一周人头，左弓右箭而立；左手持火团，并夹长柄法器，右手持人头骨并抱长柄法器；两足各踩一人，两人右仰左覆，右边的长法器还插入足下人的胸部。