有一种传说，早在周初，有一位匡俗先生,在庐山学道求仙。据说匡俗字君孝,有的书称匡裕,字子孝,也有称为匡续的。俗字是误传，俗、续二字罔音，也是传闻之悦。但现在普遍流传的名字是称他匡俗，匡裕很少有人知道了。为了方便,这里依照人们熟悉的称呼。此外，还有称匡俗为庐俗的。据说，匡俗在庐山寻道求仙的事迹，为朝廷所获悉。于是，周天子屡次请他出山相助，匡俗也屡次回避，潜入深山之中。后来，匡俗其人无影无踪。有人说他成仙去了。后来人们美化这件事把匡俗求仙的地方称为“神仙之庐”。并说庐山这一名称，就是这样出现的。因为“成仙”的人姓匡，所以又称匡山，或称为匡庐。到了宋朝，为了避宋太祖赵匡脱匡字的讳，而改称康山。
　　另一种传说，在周武王时候，有一位方辅先生。同老子李耳一道，骑着白色驴子，入山炼丹，二人也都“得道成仙”，山上只留下一座空庐。人们把这座“人去庐存”的山，称为庐山。“成仙”的先生名辅，所以又称为辅山。
　　第三种传说，说是匡俗的父亲东野王，曾经同都阳令吴芮一道，辅佐刘邦平定天下，东野玉不幸中途牺牲。朝廷为了表彰他的功勋，封东野玉的儿子匡俗于邬阳，号越庐君。越庐君匡俗，有兄弟七人，爱好道术，都到都阳湖边大山里学道求仙。这座越庐君兄弟们学道求仙的山，被人们称为庐山。