关于真实的丐帮的起源，众说纷纭，所谓丐帮，实际上就是要饭的组织，由于要饭的人多了形成的联盟，所以没有历史记载是很正常的。民间传说的丐帮最早的祖师爷是孔子，相传孔夫子周游列国的时候，粮食已用完，便派弟子们到处借粮，才不致饿死，因此后世的乞丐供奉孔子为祖师爷。此外还有伍子胥、朱元璋、秦琼等拜孔子为祖师爷，因为这些人都曾经有过行乞的经历。
真正记载丐帮的，是唐代元结著《丐论》，里面记载：他们穿着制服，在特定地区，对特定对象行乞，受到金老大的约束。《丐论》还对乞丐头目金老大进行了描述，说他手中的杆子就是丐帮领袖的标志，可以统领全城的乞丐，而这个杆子就是打狗棒的历史原型，不仅象征权力，还可以执行帮规，惩戒违规触犯。
清末民初，丐帮组织更趋发达，几乎在每一地区，都有相应的乞丐组织，尤其大城市更是十分明显，比如“蓝杆子”“黄杆子”。黄杆子是由破落的八旗子弟所组成，属于高级乞丐组成的组织；“蓝杆子”是由普通乞丐所组成的组织，而这“黄杆子”和“蓝杆子”就是金庸小说中丐帮的净衣派和污衣派的原型。
结合武侠剧中的丐帮来看，不管是《天龙八部》，还是《射雕英雄传》《神雕侠侣》《倚天屠龙记》等，基本上有丐帮盛行的年代，都是处在乱世之中，尤其从清末民初丐帮现象，更能反应社会现实，那就是战乱滋生了丐帮，毕竟当乞丐实际上就是出售人格尊严，当们生存问题解决了，谁还愿意当乞丐呢