1944年夏，隐藏在上海的共产党物资站“51号兵站”由于叛徒程路出卖，被汉奸马浮根迫害，运往苏中新四军的物资渠道被掐断。为了尽快恢复苏北新四军的后勤供给，中共华东局委派新四军某部作战科长梁宏(本名范云洪)，以青帮“小老大”的身份前往上海重建51号兵站。
 
　　梁宏的父亲是上海帮会“义展堂”的堂主，家境显赫。此次回来他正是以范家“小老大”的身份作掩护，一边了解上海复杂环境，一边设法联系51号兵站幸存的同志。“小老大”的突然出现，不仅让范家大管家李墨林颇感惊讶，同时也引起了大特务马浮根和黄元龙乃至日本宪兵队队长田中敏行的疑虑，梁宏一回到上海就被马浮根派人盯上。黄云龙在吴淞口截获了一批盘尼西林，正准备送出上海的时候被马浮根派人抢走，而这批药主人是和马浮根关系亲密的国民党军统女特务徐曼丽。为了摆脱特务的跟踪，梁宏借着拜访在日本留学时候的老师凇原教授同时，和田中见上了一面，镇住了他周围的特务，暂时打消了马浮根的怀疑。老师盘尼西林的出现使得上海几股大势力都蠢蠢欲动，梁宏和助手胡阿强几经周折终于和51号兵站的同志杨显庭、宋振中取得上了联系，并制定好了抢药计划，准备在马浮根卖药的时候夺走药品。

　　大管家李墨林按照青帮的规矩为小老大拉场子，请来同是青帮弟子的马浮根和黄云龙。宴会上，马浮根用帮会行话试探梁洪，梁宏沉着冷静，应对如流，使马浮根虽有疑虑却无可奈何。同时在马浮根卖药的树林里，黄云龙的手下打退了马浮根的侦缉队，而真正的盘尼西林却被老杨他们从徐曼丽手里抢走。梁宏在青帮的亮相，不仅赢得了李墨林的信任，还和黄云龙拉近了关系，打开了吴淞口通往苏中根据地的交通要道。叛徒程路在身份被暴露后，依仗日本人和马浮根在上海大肆实施恐怖活动，梁宏利用程路和黑帮的矛盾，不动声色地干掉了他。程路的死使得田中和马浮根察觉到了共产党的存在，又开始把怀疑的目光集中在梁宏身上。

　　梁宏伪装成日本人从马浮根手里抢走了无缝钢管，狡猾的田中知道这批必然会从吴淞口运走，就让马浮根包围住吴淞口，结果从梁宏的船上只搜出一台渣油机。马浮根的几次失败让田中脸面尽失，一怒之下把马浮根贬到了吴淞口。马浮根表面上被处分，实际上在暗中监视着吴淞口。徐曼丽发现田中时刻在阻碍她和马浮根的物资交易，派杀手在田中和龟田的交接宴会上锄掉了田中，马浮根却因祸得福又重新回到了上海。

　　马浮根利用他的吴淞口买通的特务提供的情报，在吴淞口抓住了老杨。龟田和马浮根在日本宪兵队摆下“鸿门宴”宴请梁宏……