1920年初，李大钊和陈独秀等人开始酝酿建党的问题。在法国留学的蔡和森则明确提出应该建立“中国共产党”。在共产国际代表的帮助下，上海、北京、武汉、广州、长沙、济南等地的先进知识分子，建立了党的早期组织。在法国和日本留学的青年学生，也成立了党的早期组织。

1921年7月23日，中国共产党第一次全国代表大会在上海举行。参加会议的各地代表有：李达、李汉俊、张国焘、刘仁静、毛泽东、何叔衡、王尽美、邓恩铭、陈潭秋、董必武、周佛海、陈公博，包惠僧受陈独秀派遣参加了会议。他们代表着全国50多名党员。共产国际代表马林和尼科尔斯基列席了会议。在会议进行过程中，突然有法租界巡捕闯进了会场，会议被迫中断。于是，最后一天的会议，便转到了浙江嘉兴南湖的一艘游艇上举行。经过讨论，大会通过了中国共产党的第一个纲领和决议，并选举产生党的领导机构——中央局。党的一大宣告了中国共产党的正式成立。