四月，劉銘傳率領「銘字營」和張樹聲的「樹字營」等淮軍一起，從安慶乘坐外國商船馳往上海駐防。五月二十日劉銘傳率部與太平軍初次接戰，先後佔領杭頭和新場兩地，直迫南匯城下。此時，南匯太平軍守將吳建瀛和劉玉林發生動搖，通過當地團練頭目前來乞和。

因吳建瀛還有所猶豫，劉銘傳一面派部將前往劉玉林處聯絡勸降，一面與潘鼎新率部進逼城下，劉玉林乘機挾持吳建瀛出城投降。吳建瀛是安徽人，部下士卒也多是皖北籍，劉銘傳以鄉情、高官厚祿相引誘，將吳部駐南匯太平軍1萬多人中老弱裁剪淘汰，收編為8營，大大擴充了自己的實力。

五月三十一日，劉又率部擊退從川沙方向來攻的太平軍，於第二天乘勝攻佔川沙。劉銘傳因此升遊擊，並獲賞頂戴花翎。