中国共产党发起组为了培养革命干部，于1920年9月在新渔阳里6号开设外国语学社，由杨明斋负责，俞秀松担任秘书。1920年9月28日，上海《民国日报》头版登载《外国语学社招生广告》：“本学社拟分设英法德俄日本语各班，现已成立英俄日本语三班。除星期日外每班每日授课一小时，文法课本由华人教授，读音会话由外国人教授，除英文外各班皆从初步教起。”其实，这只是以公开办学作为掩护，学员主要由各地进步团体推荐。外国语学社的学员，少时为二三十人，多时达五六十人，其中有刘少奇、罗亦农、任弼时、任作民、萧劲光、李启汉、李中、谢文锦、庄文恭、许之桢、梁柏台、曹靖华、韦素园、雷晋笙、陈为人、汪寿华、王一飞、彭述之、柯庆施、蒋光慈等。曹靖华在《关于上海外国语学社》回忆：“我们在上海外国语学社学习，地点是渔阳里6号。我同刘少奇、任弼时、萧劲光、蒋光慈(那时叫蒋侠僧)、王一飞等都是同班同学。那时，我们几十人在一个大教室上课。课外分成三个小组，即安徽、湖南、浙江等。刘少奇、任弼时等是湖南的，王一飞是浙江的。我是河南的，只我一个，不能成组，所以编入安徽小组。”在授课老师中，教俄文的是杨明斋、库兹涅佐娃(维经斯基的夫人)，教法文、日文、英文的分别是李汉俊、李达、袁振英；后来，库兹涅佐娃随丈夫回国，又聘老同盟会员王维祺之女王元龄(也是张作霖派驻苏俄公使李家鳌之外甥女)教俄文。学员们一般半天上课，半天自修或做工。在外国语学社，上海社会主义青年团吸收了不少团员。1921年春，刘少奇、任弼时、萧劲光等30多名学员先后离开外国语学社，分三批被派往苏联莫斯科东方大学中国班学习。外国语学社使许多学员确立了马克思主义信仰，走上了革命道路。这是一所群英荟萃的学校，在现知姓名的学员中，既有早期党的重要领导人罗亦农（历任中共上海区委书记、江西省委书记、湖北省委书记、中央临时政治局常委，1928年4月牺牲），也有早期党的重要干部谢文锦（曾任中共上海区委委员、南京地委书记，1927年4月牺牲）、王一飞（曾任中共上海区委书记、湖南省委书记，1928年1月牺牲）、吴芳（曾任中共上海闸北部委书记、山东省委书记，1930年9月牺牲）、雷晋笙（曾任中共河南省委秘书长、山东省委书记，1931年4月牺牲）、梁柏台（曾任中华苏维埃共和国司法人民委员部部长、最高特别法庭临时监察长、内务部代部长，被誉为“红色法律专家”，1935年3月牺牲）、陈为人（曾任中共满洲省委书记，后在沪管理中央文库数载，因劳累于1937年3月病逝）、任作民（曾任中共山东省委书记，1933年2月被捕，后经党组织营救获释，因在狱中遭酷刑身体受摧残，1942年2月在延安病逝，时为中共中央西北局秘书长）、傅大庆（曾任中共南洋临时委员会常委兼宣传部长，知名的“红色翻译家”，1944年7月在北京从事党的秘密电台工作时被捕，抗战胜利前夕牺牲）等，还有早期青年运动、工人运动领导人俞秀松、李启汉、汪寿华等，以及翻译家、作家、诗人曹靖华、韦素园、蒋光慈和经济学家周伯棣等；中华人民共和国成立后，刘少奇、任弼时、萧劲光等担任重要职务。