日本驻中华民国大使馆旧址位于北京西路1号、3号，紧邻鼓楼西南角。--约建于20世纪二三十年代，占地面积12.7418亩，约8494.53平方米。现仅剩3号院内的一幢点式楼。该楼为砖混结构，高四层，建筑面积540平方米。
抗战胜利后，日本驻中华民国大使馆旧址作为敌伪财产被国民政府没收，用作外交部的宿舍。原有西式楼房三幢，西式平房四幢。平房被陆续拆除。1976年，3号院内的一幢两层楼房被拆除；1992年，为了建设消防大楼，1号院内的一幢楼房也被拆除。现存建筑房屋坐南朝北，大楼正面设有八字形砖砌楼梯，直通二楼。在八字形楼梯正中下方，设有一门。各层布局大致相同：中部右侧为木制楼梯，厕所、盥洗室、客厅、卧室、办公室分布在楼梯四周。房间内为木质条形地板、墙裙、板条天花及隔断，北立面建有外走廊。每层设四根砖砌方柱，屋顶为木结构人字屋架，立面砌女墙，外墙面用水泥砂浆粉刷，门窗外侧加水泥装饰护套。外廊柱面、挑梁头、门头塑花及栏杆的细部设计，受巴洛克风格的影响。该建筑有改建加层的痕迹。
旧址现为南京武警支队和南京武警消防总队驻地。
2019年10月7日，日本驻南京大使馆旧址入选第八批全国重点文物保护单位名单。