清朝时，五台山为丛葬地，山上有着名文学家袁枚之墓。民国初年，山下有关帝庙，香火旺盛；同时，五台山成为西方人聚居地之一。日军侵占南京时，此处为难民区，后改建为居民区，以近五台山得名。建国前夕即有五台山（居民区）名，沿用至今。

南京五台山旧影

清《江宁省城图》、清同治《上江志》均载有五台山名。清代有山，名五台山，至今。