由于家贫不能继续上学,马叙伦开始走上社会。他深知学问和知识的重要性,走出校门后仍然艰苦自学,致力六法训诂、经史、韵文、兼治新学,宏深渊博,无所不精,经友人推荐到上海任商务印书馆担任《东方杂志》编辑、《新世界学报》主编以及《政艺通报》的主笔等。
当时的上海,是维新派云集,革命党活跃的场所,各种思潮不断涌入。孙中山的革命思想和活动,也经常通过革命党在日本出版的刊物介绍进来。社会上的人们日益同情革命党,强烈要求改革政治。
担任报刊编辑的马叙伦,比较广泛地接触了社会。除接触当时的革命党人、维新派人物外,他还接触了社会上各种各样的人物。马叙伦读了很多进步书刊,深受日本人所著《孙逸仙》一书的影响,决心追随孙中山,走上“驱除路虏,恢复中华,建立民国”的革命道路。
上海的革命党人除了文字宣传外,每逢发生帝国主义欺凌我国的事件时,都会举行盛大集会,抨击清朝政府,鼓吹社会革命。对于这些爱国活动,马叙伦都积极参加,每会必到,而且由始至终。他倾心蔡元培、章太炎等革命党人的主张,并时常与他们讨论国事,受到许多教益。
章太炎也是余杭人,民国初期的国学大师,算是马叙伦的同乡。章太炎有一个外号,叫章疯子,意即他个性孤傲狂狷,难得有人能入他的法眼。不过,他也有几个知己,马叙伦就是其中一个。在以后的岁月里,他俩有过渊源颇深的交往。