香林寺位于南京市玄武区佛心桥一带，一度与鸡鸣寺、古林寺并称南京三大寺。红学专家曾考证出香林寺清朝时是江宁织造府曹家的家庙，曹雪芹在《红楼梦》中写到的铁槛寺就是以香林寺为原型。
香林寺始建于萧梁天监（502-519年），香林寺始建于南京湖熟镇杜桂村（今南京市江宁区湖熟街道），当时名为杜桂院。
宋代改名香林寺。南宋《景定建康志》引《庆元志古钟记》云：“梁天监中，杜桂二卿平章朝政，舍所居以为寺，故从其姓以旌名。”
元代《至正金陵新志》对香林寺的记载：“杜桂院在上元县丹阳乡。”该志引用比《景定建康志》早的《乾道志》云：“香林寺在城东南六十里，南唐保大六年（949年）建，在杜桂村，因为院额。今名香林寺，又名香林院，在赤山西。”
明洪武元年（1368年）香林寺迁入城内，即南京城东明故宫北，成化十五年（1479年）重修。在当时为“中刹”，归灵谷寺管辖，但下领“小刹”观音庵一所。其规模为“山门一楹、天王殿三楹、正佛殿三楹、左伽蓝殿三楹、右祖师殿三楹、大悲殿三楹、藏经殿三槛、基址十亩”。
民国初年，南京文史专家陈诒绂的《钟南淮北区域志》记载：“西北有香林寺，在厚载门后,明时所建。梁庆云寺佛牙流传在此；又有大藤，结成自然椅，容坐数人。”
香林寺旧址现存大殿一座、古银杏三株以及碑刻若干方，位于佛心桥37号，现为南京玄武区房产局。1992年，列为南京市文物保护单位。大殿坐东向西，南北长24米、东西宽18米，5楹，进深4间；墙用大城砖经水磨砌成；硬山顶，四角上翘，屋脊两端置吻兽。柱础华丽，肩、腹、胫三层均作浮雕；图案为吉祥纹饰，有八卦、如意、方胜、龙凤、花卉及蝠（福）、鹿（禄）、兽（寿）等谐音图案，为一般寺庙所少见。在厢房内有《香林寺庙产碑》，记载了曹雪芹祖父一次施舍四百二十亩香火田之事。