由于家贫不能继续上学，马叙伦开始走上社会。他深知学问和知识的重要性，走出校门后仍然艰苦自学，致力六法训诂、经史、韵文、兼治新学，宏深渊博，无所不精，经友人推荐到上海任商务印书馆担任《东方杂志》编辑、《新世界学报》主编以及《政艺通报》的主笔等。
当时的上海，是维新派云集，革命党活跃的场所，各种思潮不断涌入。孙中山的革命思想和活动，也经常通过革命党在日本出版的刊物介绍进来。社会上的人们日益同情革命党，强烈要求改革政治。
担任报刊编辑的马叙伦，比较广泛地接触了社会。除接触当时的革命党人、维新派人物外，他还接触了社会上各种各样的人物。马叙伦读了很多进步书刊，深受日本人所著《孙逸仙》一书的影响，决心追随孙中山，走上“驱除路虏，恢复中华，建立民国”的革命道路。
上海的革命党人除了文字宣传外，每逢发生帝国主义欺凌我国的事件时，都会举行盛大集会，抨击清朝政府，鼓吹社会革命。对于这些爱国活动，马叙伦都积极参加，每会必到，而且由始至终。他倾心蔡元培、章太炎等革命党人的主张，并时常与他们讨论国事，受到许多教益。
章太炎也是余杭人，民国初期的国学大师，算是马叙伦的同乡。章太炎有一个外号，叫章疯子，意即他个性孤傲狂狷，难得有人能入他的法眼。不过，他也有几个知己，马叙伦就是其中一个。在以后的岁月里，他俩有过渊源颇深的交往。