在中央红军长征的队伍中，有一支由上百人组成的特殊编队，他们肩挑金银资财、背驮印钞机器，在征途中积极服务于党中央财政需求，保障红军物资供给。这个被誉为“扁担上的银行”的编队，实际上就是流动着的中华苏维埃共和国国家银行。
编队由银行14位同志和上百名运输员组成。
1934年11月中旬，中央红军突破国民党军第三道封锁线后，由湖南省南部向广西省北部前进。蒋介石为将中央红军歼灭于湘江以东地区，任命何键为“追剿”军总司令，指挥16个师共77个团分五路专事“追剿”；并令桂军5个师在全州、兴安、灌阳等地阻击红军；令粤军4个师北进粤湘桂边，阻止红军南下；令贵州省“剿共”总指挥王家烈派有力部队到湘黔边堵截，总兵力近30万人。
当时，中共中央和中央革命军事委员会领导人博古和共产国际派来的军事顾问李德一味退却逃跑，消极避战，为实现到湘西与红2、红6军团会合的计划，决定中央红军分两路前进。
其部署是：红3、红8军团为右纵队，经保和圩、青和圩向嘉禾方向前进；红1、红9军团为左纵队，经梅田向临武、蓝山前进；军委第1、第2纵队及红5军团为中央纵队，随后跟进。至25日，红军从道县和水口间全部渡过潇水，随后为了调动敌人，寻机渡过湘江，以一部兵力西进永明。
桂军副总司令白崇禧为防红军攻取桂林，令其主力南移至龙虎关、恭城一带，阻止红军西进，并防止蒋军乘机进入广西。这样，全州、兴安一线守军兵力比较薄弱。据此，中革军委于25日决定，中央红军分四路纵队从全州、兴安间抢渡湘江，突破国民党军第四道封锁线，前出到湘桂边境的西延地区。当日，红1、红3军团击破桂军的阻击进入桂北。27日，红1军团先头第2师渡过湘江，控制了脚山铺至界首间30千米的湘江两岸渡口；次日，红3军团第4师先头第10团也渡过湘江，进至界首以南光华铺、枫山铺地区。红5军团扼守蒋家岭、永安关、雷口关地域，迟滞追击的国民党军，掩护后续部队。此时，后续部队距湘江渡口仅80余千米，但因辎重过多，道路狭窄，行动迟缓，未能及时赶到渡口。此时，国民党“追剿”军第1路进至全州、咸水一线；第2路进至零陵、黄沙河一线；第3路进至道县；第4、第5路进至东安地区；桂军5个师开至灌阳、兴安一线。为掩护中央、军委纵队及后续军团渡过湘江，红1、红3军团奉命在桂北湘江两岸的新圩、脚山铺、光华铺等地区，构筑工事，阻击国民党军。
28日，桂军第44师在炮火掩护下，从灌阳向新圩之红3军团第5师（欠第13团）前沿阵地发起进攻。第5师凭借有利地形沉着应战，奋勇抗击。桂军正面进攻受阻，遂以一部兵力从侧翼迂回，第5师被迫退至第二道防线。29日，桂军第24师及第7军独立团投入战斗，并有飞机支援，战斗更加激烈。红军与桂军展开白刃战，但终因力量悬殊，第二道防线被突破。30日，红5师奉命撤出战斗，新圩由红6师第18团接防。
在新圩阻击战开始的当日，“追剿”军第1路（湘军）3个师从全州南下，企图控制湘江各渡口，将红军拦腰截断。傍晚，红1军团第2师警戒部队在鲁板桥与湘军第16师交战，随后退至脚山铺阵地。29日，红2师与湘军激战。30日，红1师赶到脚山铺，与红2师一起打退湘军数次进攻，予以重大杀伤，红1、红2师也遭严重损失，部分阵地被湘军攻占。入夜，湘军迂回侧击，红1、红2师为避免被分割包围，先后退至夏壁田、水头、赤兰铺、白沙铺一带。12月1日凌晨，中革军委命令红1军团不惜任何代价守住阵地，以开辟西进的道路。拂晓，湘军在飞机掩护下，采取正面攻击与迂回包围的战术发动猛烈进攻。红1、红2师奋力拼杀，掩护中央机关和红军主力于17时前渡过湘江，向西延地区前进。29日晚，驻兴安县光华铺之桂军第43师和地方民团向红3军团第4师第10团飞龙殿等阵地发起进攻。第10团凭借居高临下的有利地形，打退桂军多次冲击，并趁夜暗主动出击，守住了阵地。30日，桂军改变战术，在正面进攻的同时，主力沿湘江西岸向界首之红4师第11、第12团侧后攻击。经过激战，第11、第12团于12月1日中午撤离界首渡口。
12月3日，中央红军主力渡过湘江，进入西延地区。脚山铺至界首间湘江两岸被湘、桂军控制。此间，红3军团第6师第18团在由新圩向湘江撤退中，被桂军分割包围大部牺牲。在新圩、脚山铺、光华铺阻击战的同时，担任红军总后卫的红5军团，在永安关、水车一带阻击“追剿军”第3路的追击，掩护中央、军委纵队及红军主力渡过湘江。该军团第34师和红3军团第18团余部被阻于湘江东岸，转战于灌阳、道县一带，虽经英勇战斗，予敌重大杀伤，终因寡不敌众，弹尽粮绝，包括师长陈树湘在内的绝大多数指战员牺牲。
为了轻装前进，他们在山坡上挖了一个大坑，将许多从苏区带出来的钞票以及印钞机焚烧掉。之后，他们随同红军一路征战，向北挺进。1935年10月，当中央红军到达陕北时，银行14名干部中只剩下了8人，另外6人则长眠于长征途中。