陈独秀在发起建党的同时，又酝酿建立一个群众性的社会主义组织。1920年8月22日，上海社会主义青年团在霞飞路渔阳里6号成立，共产党早期组织成员俞秀松任书记。上海社会主义青年团实际上起了中国社会主义青年团发起组的作用。

1920年9月，上海的共产党早期组织在霞飞路渔阳里6号公开开办了一所“外国语学社”，校长是杨明斋，教员大多是上海的共产党早期组织成员，学生主要由各地进步组织介绍而来，其中约半数是社会主义青年团团员。他们主要学习俄语，为到苏俄留学作准备。

上海的共产党早期组织成立后，非常注重开展工人运动，不但创办了《劳动界》周刊，向工人进行马克思主义启蒙教育。又派李中、李启汉等深入工厂和工人居住区发动群众，开办工人学校，先后建立上海机器工会、印刷工会等工会组织。

《新青年》自第8卷起，由陈独秀一人主编，李汉俊、李达等参加编辑工作，实际上已成为共产党早期组织的机关刊物。共产党早期组织还创办理论刊物《共产党》月刊，由李达主编，对早期党员马克思主义理论水平的提高极有帮助。

上海的共产党早期组织以社会主义研究社等名义公开出版马克思主义著作。1920年8月，由早期组织成员陈望道翻译的马克思、恩格斯经典名著《共产党宣言》出版，以后多次再版。

上海的共产党早期组织以社会主义研究社等名义公开出版马克思主义著作。1920年8月，由早期组织成员陈望道翻译的马克思、恩格斯经典名著《共产党宣言》出版，以后多次再版。

陈独秀在上海发起建立共产党组织后，写信给李大钊通报建党情况，建议北京尽快成立共产党组织。此外，上海的早期组织成员还直接推动或联系了武汉、广州、长沙、济南等地建党建团的工作，并在日本、法国的中国留学生中开展建党活动。

1921年6月，肩负推动东亚各国革命运动任务的共产国际代表马林，和共产国际远东书记处代表尼克尔斯基分别到达上海。他们在与上海的共产党早期组织负责人李达、李汉俊建立工作联系后，建议尽快召开中国共产党第一次全国代表大会。

李达、李汉俊与共产国际代表议定，由上海的共产党早期组织具体负责会议筹备工作，写信给北京的李大钊和广州的陈独秀通报情况，通知各地的共产党早期组织推派两名代表到上海参加会议，并安排代表食宿和开会地点等。

限于当时国内落后的交通条件，各地代表到上海的时间先后不一。至1921年7月23日，各地的共产党早期组织代表全部抵达上海。当晚，中国共产党第一次全国代表大会开幕。