下关火车站初称为沪宁铁路南京车站，国民政府定都南京后，改称南京下关车站；汪伪时期，一度称为南京车站；1968年底，位于玄武湖北侧的南京火车站建成后，更名为南京西站。
下关火车站初建于清光绪三十一年（1905年）。按当时统一规格“一等站屋”设计，有大小平房18间，建筑面积520平方米。有大厅、票房、电报房、站长房、邮政房、货物经理人房等建筑设施。候车室仅有两小间，木结构屋顶，屋面铺盖瓦楞白铁皮。共有站台三道，分别长216米、229米和203米。1930年，国民政府铁道部对车站进行重建。重建的车站为中间3层、两侧2层的建筑，中部为椭圆形车站大厅，车站站台上盖有雨篷。1947年，国民政府对下关火车站进行扩建。扩建工程由基泰工程司杨廷宝建筑师设计，徐顺兴营造厂建造，当年完工。扩建后的车站，增建了一座呈“U”字形围住原车站的大楼，南北两翼为2层，正面为高架拱形大厅，门高15米。建筑全部采用钢筋混凝土结构，面积1.87万平方米，可容纳4000余名旅客候车。大厅南侧设置行包房、售票处，还有检票口及辅助出入口各1个；北侧为贵宾室、邮件用房以及出入口。由于扩建施工逐段进行，原有站房设备得到保留和利用，故对车站正常运营无甚影响，并且节约了工程投资。1948年，又增建站台1座。1949年，国民党军队溃败时，车站中央大厅遭到毁坏。新中国建立后，南京市人民政府重新修复，建成1800平方米的候车厅。2006年6月被列为市级文物保护单位。
1912年元月1日，孙中山由上海到南京就任中华民国临时大总统，便是经过下关火车站进人南京城的。1946年6月23日，上海市各界群众10余万人举行反内战、要和平的群众大会，推选出以马叙伦、胡厥文、阎宝航、雷洁琼等9人为代表的上海人民和平--团，前来南京向国民政府--。当--团于当晚到达下关火车站时，担任津浦铁路调查统计室主任的中统特务头子陈叔平，纠集一批暴徒，伪装成苏北难民，对--代表大打出手，殴伤包括代表团团长马叙伦在内的代表团成员多人。前往欢迎代表团的民盟代表叶笃义、现场采访的《大公报》记者高集、《新民报》记者浦熙修也遭毒打，酿成了震惊世界的“下关惨案”。暴徒们行凶闹事5个多小时后，军警方才到车站维持秩序，用卡车将代表押往南京警备司令部。在代表强烈-及多方努力下，直到深夜，受伤代表才被送往中央医院救治。正在南京与国民党谈判的中共代表团周恩来、董必武、邓颖超闻讯后，即前往医院慰问，并向当局提出强烈-。