各地共产主义小组又创办了一批面向工人的通俗刊物，在上海有《劳动界》，北京有《劳动音》和《工人月刊》，济南有《济南劳动月刊》，广州有《劳动者》等，对工人进行阶级意识的启蒙教育。在此基础上，各地共产主义小组积极深入工人群众，举办工人夜校，建立工会组织。各地还建立了社会主义青年团，发展了一批团员，青年团成为党的有力助手和后备军。
1921年3月，在俄共远东局和共产国际的建议和支持下，召开了各共产主义小组的代表会议，发表了关于党的宗旨和原则的宣言，并制定了临时性的纲领，确立了党的工作机构和工作计划，表明了党组织对社会主义青年团、工会、行会、文化教育团体和军队的态度。
这次会议为党的成立作了必要的准备。维经斯基回国不久，1921年6月，共产国际派马林等到上海。他们建议召开党的全国代表大会，正式成立中国共产党。上海党的发起组在李达的主持下进行了全国代表大会的筹备工作，并向各地党的组织写信发出通知，要求各地选派两名代表出席大会。来自北京、汉口、广州、长沙、济南和日本的各地代表7月23日全部到达上海。
1921年7月23日—31日，在上海召开了中国共产党的第一次全国代表大会。这次全国代表大会，前后共开了7次会议。共产国际代表马林和尼克尔斯基出席了第一天的会议（马林后来又出席了第六次会议）。他们代表共产国际对会议的召开表示热烈的祝贺，马林还介绍了共产国际的情况。接着拟定了会议日程。在24日的会议上，各地代表汇报了工作，并交流了经验。
25日至26日，大会休会，由党纲起草委员会起草党的纲领和今后工作计划。27日至29日，大会继续进行，连续3天详细讨论了党的纲领和工作计划。各地代表在党的性质、纲领和组织原则等主要问题上取得了基本一致的意见。30日晚，举行第六次会议时，突然有一陌生男子闯进了会场，当询问他时，他答称走错了地方。
其实这个人是法租界巡捕房的一个暗探。他的行动引起了与会人员的警觉。会议立即中断，代表们迅速分头离开。十几分钟后，法国巡捕赶来，包围并搜查了会场，但一无所获。当晚，代表们商量改换会议地点，在李达夫人（她是浙江嘉兴人）的提议下，决定到嘉兴南湖去开完最后一次会议。
7月31日，代表们来到南湖，在一艘游船上举行了第七次会议。会议通过了《中国共产党党纲》、《关于当前实际工作的决议》，选举了党的领导机构。至此，党的第一次全国代表大会胜利闭幕。大会通过了中国共产党的第一个纲领和决议。纲领规定：党的名称是“中国共产党”；党的性质是无产阶级政党；党的奋斗目标是推翻资产阶级，废除资本所有制，建立无产阶级专政，实现社会主义和共产主义；党的基本任务是从事工人运动的各项活动，加强对工会和工人运动的研究与领导。大会选举产生党的领导机构——中央局，陈独秀为书记，张国焘负责组织，李达负责宣传。
党的一大宣告了中国共产党的正式成立。从此，中国诞生了完全新式的、以共产主义为目的、以马列主义为行动指南的、统一的工人阶级政党。中国共产党的成立，给灾难深重的中国人民带来了光明和希望，给中国革命指明了方向。正如毛**所说的那样，中国共产党的成立，是一个开天辟地的大事变。中国共产党成立后，中国革命的面目就为之一新了。
由于党的“一大”召开于7月，而在战争年代档案资料难寻，具体开幕日期无法查证，因此，1941年6月在党成立20周年之际，中共中央发文正式规定，7月1日为党的诞生纪念日。
1920年8月，陈独秀在上海发起成立了中国共产党的第一个早期组织。1920年9月1日，陈独秀在《新青年》发表的《对于时局之我见》一文中，曾称“吾党”为“社会党”，后来才改称为“共产党”。
最早提出“中国共产党”这一名称的是蔡和森。1920年8月13日和9月16日，正在留法勤工俭学的他，在给毛**写的两封信中，详细地研讨了共产党问题，提出：“先要组织党——共产党，因为它是革命运动的发动者、宣传者、先锋队、作战部。”他在对西欧各国共产党特别是俄国共产党考察的基础上，提出了具体的建党步骤，其中包括“明目张胆正式成立一个中国共产党”。
在此前后，陈独秀在上海，李大钊、张申府在北京也通过信函讨论了党的名称问题，决定采用“共产党”作为中国无产阶级政党的名称。</div>