1926年中共中央调罗到上海，担任中共江浙区委书记。为迎接革命浪潮到来，罗组织工人从经济罢工入手，进而准备武装起义。其积极于各种行业中发展党员，建立党的基层组织，恢复各种产业工会，组织和训练工人纠察队，为起义作各种准备。
赵世炎于中共在广州召开的第三次全国劳动代表大会后，被任命为江浙区委兼上海区委组织部长和上海总工会党团书记，其抵上海后，即深入到工人之中，组织罢工斗争，准备武装起义，迎接北伐。
5月，江浙区委决定组织“五卅”周年纪念日示威活动。这天，赵亲自在南京路上指挥6万多工人群众举行了示威游行，此举震惊了帝国主义，租界的巡捕开来铁甲车，并用高压水龙头喷射。游行工人奋力相抗。事后，赵发表了《五卅周年纪念的教训和上海民众的责任》一文。
5月之后，帝国主义及资本家向工人进行反扑，他们任意开作、逮捕和处死工人群众。赵及时分析了形势，认为罢工时机已经成熟，上海的工人运动应由防御转入进攻。在赵世炎和总工会其他同志的具体组织和指挥下，上海工人大罢工序幕拉开。