1916年，17岁的诸暨人俞秀松考入杭州省立第一师范，课余经常阅读《新青年》、《民国日报》副刊《觉悟》等传播新思想、新文化的报刊。1919年五四运动爆发后，他积极投身到反帝爱国的热潮中，为浙江学生运动的领导人之一。为了“打破知识分子的观念”，俞秀松主动到上海虹口区厚生铁工厂做工。1920年3月底，俞秀松接受陈独秀、沈玄庐的意见，留在上海《星期评论》社工作。5月1日，俞秀松在《星期评论》专号上发表了《“工读互助团”的实践和教训》的附记，彻底抛弃了无政府主义的思想，为接受科学社会主义打下坚实的思想基础。

上海共产主义小组成立后，为团结和教育革命青年，成立了社会主义青年团（筒称S·Y），作为党的后备军。党在上海正式成立后，租下新渔阳里6号作为青年的住所。并先后介绍他们参加社会主义青年团，委派党的发起人之一的俞秀松主持这项工作，首批入团青年约有20人，由俞秀松担任青年团书记，作为历史上首位团的领导人，陈独秀、邵力子也常去指导工作。

1921年7月，在青年共产国际第一次代表大会上，22岁的俞秀松代表中国代表团作了报告，以最年轻的中国共产党人的身份在国际舞台上首次亮相。