双方发生争执，加上语言不通，蛮横的二人居然拔出手枪来威胁，中国士兵当然不能示弱，当即对天鸣枪警告。二人见硬闯无效，便赶紧驾车逃跑，沿途有些警戒的中国士兵听到枪声不明所以，又见日方车辆飞驰而过，爱国情绪顿时上涌，于是开枪朝大山、斋藤二人射击。车辆被击毁后，二人弃车而逃，结果大山被一名出来观察、不明情况的炊事员炸死，惊慌失措的斋藤，则被正在一旁秘密构筑工事的中国士兵击毙。
事件发生后，上海警备司令部为将影响降到最低限度，试图制造假现场以掩人耳目，可是由于处置草率，结果被日方识破，充满好战分子的日方因此抓住不放，如愿以偿地以此为理由，粗暴认定中国方面是有意挑衅。此后，日军乘机在上海集中兵舰，以陆战队登陆，第三舰队司令长官长谷川清中将要求南京政府撤走停战协定区域内的中国军队及军事设施。
10日，在日本内阁会议上，海相米内光政大将在说明了上海情况后提出：虽须查明真相，进行妥善处理，但在当前希望陆军做好动员准备。陆相杉山元对此表示同意，内阁会议再次确认了就地保护侨民的方针，并同意陆军做好派兵准备。
此前的8月6日，身为京沪警备总司令的张治中在对管区官兵训示时说道：“以彻底之长期抵抗歼灭日军，目前乃最好时机。据专家估计，日本的作战仅能维持6个月。”（当时日方的弹药储备量确实有限，15个师团仅够维持8个月。）
就在大山勇夫事件之后，张治中在向蒋介石呈报时称，日本海军武官已急电要求东京向上海增兵一个陆军师团及一个舰队。张治中此前已经分析过，假如出现日陆军师团来沪等几种危急情况，中方就应该先机制敌，以处于主动的有利地位。
当时，在上海防守的只有日本海军陆战队约5000人，各舰上可随时登陆支援的水兵约3000人，对比中国的几个精锐整编师，力量自然非常有限。蒋介石虽然也明白先发制人的道理，但是他认为此中的利害关系重大，在得知日本将要向上海增兵的消息之后，他仍然费了一番踌躇，把战火引向上海，实在是一个非常痛苦和无奈的抉择。
假如答应日方要求，也许上海将与北平一样，被日军迅速占领。为了确保大上海，8月11日，蒋介石终于在电话中密告张治中，中央已经决心围攻上海日军。
同时蒋介石又命张治中率所部八十七、八十八师立即进占吴淞及大场、江湾、真茹、闸北一带，构成对沪日军的围攻线；与此同时，蒋介石又令原驻安徽蚌埠的五十六师和嘉兴炮二旅一部分别赶往苏州，并调夏楚中九十八师、宋希濂三十六师增援上海，统归张治中指挥，组成第九集团军。九十八师是陈诚“土木系”的骨干部队，战斗力较强；三十六师则是八十七、八十八两师的姐妹师，战斗力自然也不弱。
张治中在接到命令后，赶紧命所属王敬久八十七师、孙元良八十八师自苏州等地推进至上海围攻线，准备一举扫荡在吴淞和上海的日军，并拔除其据点。
同日，蒋介石得悉日舰集中沪滨，决定封锁吴淞口。12日，国民党中常会秘密决定，自本日起，全国进入战时状态，一贯主和的何应钦也不得不转变态度，他秉承蒋的意旨在会上表示：和平已经绝望，如果日方稍有动作，我们就应该先打他；否则，等他兵力集中，再打就困难多了。
不过上海的战争不光是中日两家的事，此时，列强见上海将起战火，于是由英、美、法、意、德五国驻华使节等出面进行调停，不管调停的结果如何，蒋介石总要拿出些诚意出来。张治中原定于8月13日拂晓前开始攻击，可是蒋介石命他将攻击暂时延迟下来，并一厢情愿地命令张“等候命令，并须避免小部队之冲突”。
在这个调停计划中，提议日本撤回派往上海的增援部队，只留下一支警备队保护侨民；中国也将正规军撤至战前的驻地，保安团也撤至租界两英里外，只留驻警察。当天，日本以保护侨民为借口拒绝，中国则宣告调停各国必须先保证日本履行协议，否则不予接受，结果这一调停宣告失败。
当时，日方大使的答复是，只要中方遵守停战协定，日方则同意不采取战斗行动，但他们却并没有完全制止海军的敌对行动。所以中方暂时是消停了，而日方竟顿时猖狂起来。13日上午9时15分，日海军陆战队士兵冲出租界，公然袭击了守卫横滨路东宝兴路段的中国保安队，中国军队被迫还击。10点半，商务印书馆附近的中国军队与日军又发生了一次小冲突。黄昏，八字桥附近日军炮击中国军队，中国军队以迫击炮还击；日军又以坦克掩护步兵攻击八十七师阵地，日舰还连续炮击上海市中心。
眼见调停并不奏效，蒋介石于是命令张治中于14日拂晓发起总攻。同日，中国空军出动，轰炸了日第三舰队旗舰“出云号”及在虹口的海军陆战队本部。在这一天的空战中，中国空军首战告捷，击落了日军3架飞机，而自己无一损伤。
随后的几天，中国空军依然表现出色，令日本同行刮目相看。据说确实炸沉了“出云号”，只是由于“出云号”有一艘姐妹舰，日方为振作士气，才故意掩人耳目。自然，劣势的方面也有，中国毕竟不能自产飞机，所以飞机的消耗一时很难补充，而且像高志航等优秀的飞行员也不易培养，一旦牺牲，影响很大。尤其开战前统计有300多架作战飞机，可是等到开战后一核查，却只有50多架勉强可以作战，可谓势单力孤（这多是拜不负责任的意大利教官们所赐）。
总之，淞沪之战就这样爆发了，它意味着中国在华北之外，又开辟了第二战场。
就是在14日晚上，国民政府正式发布了《自卫抗战声明书》，宣布中方决心要在上海方向实施作战。在声明中，中方详尽解释了无法依照1932年上海停战协定规定的（回避与日军接触的）种种不得已，并严正表态称：
中国之领土主权，已横受日本之侵略；国联盟约、九国公约、非战公约，已为日本破坏无余……吾人此次非仅为中国，实为世界而奋斗；非仅为领土与主权，实为公法与正义而奋斗。
再让我们来看看日方。
8月11日以后，中国方面拒绝了长谷川清就大山事件所提出的无理要求，并向上海集结军队。12日，据日方估计，上海方面的中国总兵力已达5万人，其中中央直系3万。而日方当时仅有陆战队4000余人。日方当夜进行了紧急“戒备”。13日，双方终于发生冲突。14日，日方受到略占优势的中国军队的包围攻击，“局势发展到双方空军互相反复轰炸的地步”。
杉山陆相在10日阁议时同意了陆军部队动员出兵的原则后，便找来总部部长中岛与第一部长石原，向他们通报了有关情节。石原莞尔仍然坚决反对，还是坚持出兵仅限于华北而不扩及青岛、上海的方针，尤其反对向上海进攻或攻取南京。他当时主张陆军总之是不能出兵，上海的侨民可由海军保护；但是考虑到陆相的面子，决定陆军最好只派遣一支最小限度的兵力。
陆军次官梅津美治郎也在座，他对于石原的主张表示赞同，结果陆军方面决定派出两个师团前往上海。其实此时无论投入多少兵力，都无异于往火堆上再添一把柴火，使之越烧越旺。
关于出兵上海的经过，石原莞尔是这样追忆的：
由于在华北第一线发生战斗，终于同意了动员，但当时的作战科长武藤大佐竭力将最强大的战斗力量派出，因而决定了军的编成。
一般气氛认为，仅在华北即可解决。但我则认为战火必将蔓延到上海。因为在长江有我海军舰队。而该舰队为在过去中国软弱时期所派。在中国军事上已经发展到现时情况下，再以之保护侨民终难胜任，一旦情况紧急，将不能漂浮于长江。然而由于军令部在事变前未能将舰队撤退，事变后命军舰向下游返航时并使汉口日侨撤退。
本来，汉口侨民的撤退是前所未有的事，如果长江沿岸竟然平静无事，则丢了海军的面子，因为这次出兵上海，可以说是海军硬把陆军拉来的。我想其中颇有微妙之处。
其次，我绝对不愿向上海出兵，但因为以前曾和海军订有出兵协定……（《长编》）
米内海相先前认为陆军派兵需要相当时日，而目前日本并未完全准备好，暂时不宜开战。但有了陆军的支持，以及海军内部强硬派的怂恿，一度犹豫的他不得不下定决心：“事到如今，必须采取最后的手段！”
以上海现有的力量，假如中国军队展开全面攻击，日军是坚守不了几天的，所以在陆军动员的间隙（约一星期），海军力量便不得不先期投入。
从8月10日开始，日本海军第三舰队所属青岛、台湾、旅顺、广州等基地分舰队接到命令，紧急开赴淞沪海域待命；第二、第三舰队的战列舰、巡洋舰、驱逐舰和第一、第二航空战队的母舰30多艘，执行封锁长江口及其南北海岸、切断中国海上交通的任务。
另外，驻守国内的海军第八战队、第一水雷队、第一航空队，驻佐世保的海军第一特别陆战队、吴港的第二特别陆战队，也奉命向上海开拔。海军还决定，为了充分展示日本的强大武力，将仅有的6艘航空母舰中的4艘，紧急派往上海海域执行战斗任务（参见《灾难与转折1937》）。
日军已磨刀霍霍向上海。
6.增兵上海
淞沪之战初起，中国方面以优势兵力对日军在沪各据点展开全面进攻，在上海虹口、杨树浦等处双方发生了激烈的巷战。
到黄昏时分，中国军队已多有进展，可是这时张治中又突然接到上级命令：“密。今晚不可进攻。另候后命。”结果攻击不得不停止下来。蒋介石之所以喊停，有一部分原因是对张治中不能迅速解决战斗的不满，也有部分原因是南口作战的失利，不过主要还是得知英国政府有将上海作为中立区、中日双方军队撤出上海的建议。
“十五日、十六日都是奉令作攻击准备，并没有实行全线攻击，仅将五洲公墓、爱国女学、粤东中学各点攻占。其中以第八十七师第二五九旅第八连与第七连合力突入敌阵地，占领敌海军俱乐部一役为最壮烈、最英勇。”张治中回忆道。
可是，现实令蒋介石不得不再次失望，只得选择再战。
陈诚是蒋介石的亲信嫡系大将之一，曾有“小委员长”之称，“土木系”的首领。抗战爆发时，陈诚正在庐山举办军官训练团，因战事日紧，训练团不得不于8月中旬提前结束。他受召回到南京后，于8月16日被蒋介石委托前往淞沪前线进行视察。
到达前线后，陈诚注意到日军登陆部队已经被我军包围，可是我军只有八十七、八十八两师，兵力不敷分配，而且预备队很少。陈诚认为这不符合“十则围之”的用兵之道，因此提议正要加入淞沪战场的三十六、九十八两师加入攻击，先将敌方中央阵地突破，再向两方席卷而扫荡。陈诚的建议被采纳，可是由于将领们建功心切，攻击开始过早，三十六师已迫近汇山码头，九十八师尚未开到，致使进攻部队反陷于被动地位。
18日，陈诚回到了南京，向蒋介石报告。当时与陈诚同行的，还有江西省主席熊式辉，他向蒋报告道：“不能打！”陈诚则报告道：“不是能不能打的问题，而是要不要打的问题。”
蒋介石要陈诚仔细说说自己的见解，已经深思熟虑过的陈诚于是说道：“敌对南口在所必攻，同时亦为我所必守，是则华北战事扩大，已无可避免。敌如在华北得手，必将利用其快速部队，沿平汉路南犯，直趋武汉；如武汉不守，则中国战场纵断为二，于我大为不利。不如扩大淞沪战事，诱敌至淞沪作战，以达成（民国）二十五年所预定之战略。”
陈诚话音刚落，蒋介石立即回应道：“打！打！一定打！”
既然战争已经不可避免，那么就需要考虑了：在华北大打对我更为有利，还是在上海大打对我更为有利呢？
此前，蒋介石是不重视非嫡系的北方防务的，他最初对于华北的得失看得并不是那么严重，甚至是可有可无的。有一次，蒋对于来华的德国顾问、前德国国防军司令塞克特就说：国民政府只有16%的军事预算投入于长江以北。可是与此同时，在国民政府的政治、经济、军事重心的华南地区，尤其是长三角一带却做了一些力所能及的国防准备。
而且，华北路程较远，不利于中国军队的后勤补给，假如战场在上海，中国军队的补给线就大大缩短了；尤其京沪杭一带交通较为便利，也利于补给。最为重要的是，上海是列强在华利益最为集中的地区，是国际观瞻的所在，一旦上海爆发战事，必然能够引起列强的干涉——这可能是蒋介石最最希望看到的。
蒋介石在淞沪会战初期答记者问时，便说道：现在所从事的战争，不仅是中国自己的战争，而应是一切委托其生命于条约的神圣和不可侵犯的国家的战争，尤其是那些在中国有广大的商业利益，而目下利益正在被破坏，代表正在被驱逐的国家的战争。上海是国际贸易港，海口的破坏于任何国家无益。南京国民政府希望并且认为，美、英、苏等大国必能在其郑重签订之国际条约下各尽其所负之义务，因此，“在上海和敌人用全力火拼一番，不特转变西人一向轻华之心，且可能引起欧美国家居间调停，甚或武装干涉”。
一番综合考虑后，蒋介石由此决定在上海动手。
陈诚建议：“若打，须向上海增兵。”
蒋介石赞同了陈诚的提议，随后便任命陈诚为第三战区前敌总指挥兼第十五集团军总司令，增调部队，开赴上海参战。自从九一八事变以来，陈辞修一直怀抱着为抗战效命的愿望，至此才终于如愿以偿。
第三战区司令长官为向来主战最力的冯玉祥，司令长官部设在苏州，冯玉祥是老西北军统帅，旧底子都在华北，蒋介石如今安排他这个差事，不过是要结拜大哥面子上好看。直到8月26日，为了统筹第三战区事宜，蒋介石才加派了嫡系爱将、时任西安行营主任的顾祝同，担任第三战区副司令长官。
在日本援军登陆以前，张治中认为对虹口、杨树浦的攻击非常必要，这是日军坚守待援的所在，所以到了17日拂晓，张治中奉令继续开始全线总攻击。
经过了两天的调整补充，中国军队攻势凌厉，上午9时许，经过一番激烈的较量，八十七师二五九旅攻克了日海军俱乐部与海军操场。不过日军虽然已有所不支，但他们在俱乐部旁四层的油漆公司大楼内仍然凭坚据守，并连续发起反冲击；双方激战竟日，中国军队仍不能突破日军在公大纱厂的防御。
就是在公大纱厂，还出现了非常悲惨的一幕：整整一个营的中国军队冲入厂内，结果中了阴险的日本人的电网，导致全营士兵阵亡。
与此同时，八十八师主力由北侧向日军盘踞的坟山、八字桥、上海法学院、虹口公园等处进行攻击，双方拼命死战，均伤亡甚重。虽然中国军队素质、装备较优，可是由于严重缺乏攻坚作战的经验训练，技术手段也非常缺乏，结果在进攻中显得勇气有余而章法不足，乃至于牺牲远大于日军，且往往无法突破敌人的核心阵地。
