Chen Kaige naît à Pékin. Il est le fils du réalisateur Chen Huaikai et d'une rédactrice littéraire. Il grandit avec le futur réalisateur Tian Zhuangzhuang comme ami d'enfance. Il subit les travaux forcés à la campagne lors de la Révolution culturelle de 1965 et entre peu après dans l'Armée populaire de libération en 1971.
En 1978, il entre dans la section réalisation de l'Université de cinéma de Pékin dont il sort diplômé en 1982. Il travaille alors aux Studios de Pékin comme réalisateur adjoint avant de tourner son premier film en 1984.