1860年，外国列强守卫上海，对付李秀成的太平军。尽管他们为了使清政府遵守天津条约，而同时采取军事行动。1860到1861年间，中国开始谈判购买西方船只枪炮，以及正式和非正式地雇佣外国陆军和海军人员。到1862年初，不但清朝中央政府已经答应购买一支配备英国军官的海军用于长江防务，而且江苏和浙江地方官员也已开始招募像常胜军这样，由中外雇佣兵组成的军队全力对付太平军持续不断的威胁。而作为署理江苏巡抚的李鸿章，一开始支持常胜军， 后来却要解散常胜军?
李鸿章在他的军队实施近代化的早期阶段，深深依赖常胜军管带，以及引人注目的美国人华尔的个人帮助。他利用华尔的关系，取得枪炮、船只和其他军需品，他设法赢得这个美国指挥官的友谊，以博取列强的欢心。实际上，李鸿章更加把握住国内的政治现实。例如，他深知华尔同贪赃舞弊，但却与有权势的当地道台吴煦私交密切，他认为如果做出试图削弱其中一人地位的任何努力，势必招来另一个人的敌意。李鸿章心里知道华尔至少参与了吴煦的某些非法活动，然而他在这个美国管带生前并没有对他或他们两人公开采取行动。而是他继续同华尔密切共事，在获取武器方面互相建议和帮助，并且在对太平军的军事行动中，同淮军密切合作。他在华尔身上看到一个“奋勇攻打”，“能倾服于上海众洋人”的西方领袖人物，他认为其武器极有威力，他的中国士兵“与洋人是一是二”，没有什么区别。
1862年，在抵达上海后两个星期内，他看到了用近代西方武器直接对抗太平军的效果，开始为他的淮军购买这些武器。随后，他很自然地雇佣了常胜军中的西方教练。到1862年末，李鸿章的军队已经有一千余支来复枪，雇佣了六七名常胜军的西方教练，不及一年，淮军已扩充到4万余人，这时他已拥有1万余支来复枪、若干门太炮以及十几个新来的外国教练而感到自豪，这些教练大多数来自常胜军。
然而，华尔于1862年9月末在慈溪战役中不幸遇难，这给李鸿章同时带来了机会和困难。一方面，这帮助李鸿章削弱了吴煦的势力，因为这个上海道台对华尔十分依赖。另一方面，这又使这个江苏巡抚失去了一个重要的外国顾问，并且把大量军事管理上的难题带到了他的面前。而这些都不得不涉及替代华尔充任常胜军管带问题的政治军事策略。虽然英国人和法国人都提出了他们自己领导这支部队的候选人，但是李鸿章坚定主张，如果外国人要带领中国军队，他们必须像华尔那样呈请成为中国臣民，受中国节制。
华尔的得力助手白齐文看来是符合这样的要求，他和华尔一样，是一个勇敢的军官，曾经要求成为中国的臣民，娶了中国妻子，全心全意献身于反太平军的事业。不过和华尔不同的是，他性子鲁莽暴躁，言行放肆，做事情不负责任，与其难以共事。1863年1月初，白齐文为了常胜军的饷给问题，在同中国当局连续争吵几个月以后。同杨坊有过一次特别严重的争吵，他打了杨坊，并且夺走4万元。此时，李鸿章立即要求将这个美国指挥官撤职，指责他抢夺、叛逆和不忠。
直到1864年2月常胜军恢复战斗以后，在收复太平军几个主要据点中起了重大的作用，但是到5月，李鸿章清楚地意识到这支部队已经走过了它的全盛时期，他因此匆忙之下作出了裁撤的计划。在他看来，常胜军过于“靡费”，也过于无能，而且更多的财政证明他们过分忠于“地方”，他相信淮军是保卫江苏省卓越的足以胜任的工具。
这一计划让赫德和上海英国提出非议，他们认为这支中外合作的部队不应当太早贸然做出解散的决定，而是常胜军至少有一部分应作为地方防卫力量和训练项目而“永予保留”。随后，在赫德、英国领事巴夏礼、戈登以及李鸿章等人进过了广泛却很艰难的谈判之后，各方达成了折衷的方案：常胜军中大约有一千人保留下来，由戈登指挥，作为上海西南约25英里小镇凤凰山的外国训练项目的核心。
总之，在李鸿章对常胜军的态度上来看，他前期先是利用常胜军攻打太平军，后期由于常胜军领导的去世，其作用大大降低，李鸿章对其的态度转为解散，所以常胜军只是李鸿章的一个棋子罢了。
