Il écrit ensuite pour différentes revues, et fonde La Gazette du cinéma où il fait la connaissance de Jean-Luc Godard, Jacques Rivette, François Truffaut, ou encore Claude Chabrol - avec lequel il signe en 1955 un livre sur Alfred Hitchcock. Ce groupe de futurs réalisateurs intègre rapidement les Cahiers du cinéma, dont Rohmer devient rédacteur en chef de 1957 à 1963. Aîné de la bande, il est le premier à passer à la mise en scène, en 1950, avec le court-métrage Le Journal d'un scélérat.

Mais c'est seulement en 1959 qu'il réalise son premier long-métrage, Le Signe du lion, sorti sans grand succès trois ans plus tard. En 1962, il crée avec Barbet Schroeder, la société Les Films du Losange, qui produira la majorité de ses films. La même année, il entame un cycle de six films baptisé Contes Moraux. Viendront ensuite Ma nuit chez Maud (1969), et Le Genou de Claire (1970, Prix Louis-Delluc), particulièrement remarqués.

Aux Contes moraux succède une autre collection, les Comédies et proverbes, qui couvre les années 80. On peut citer parmi les œuvres de cette série Pauline à la plage (1982) ou Le Rayon vert (1986), film en partie improvisé qui obtient le Lion d'Or à Venise. La décennie suivante est marquée par les Contes des quatre saisons, dans lesquels le cinéaste poursuit son exploration des jeux de l'amour et du hasard.

En construisant une œuvre cohérente et exigeante, Rohmer s'est vite attiré les faveurs de la critique internationale, et s'est constitué au fil des années un public fidèle et fervent. "Auteur" français par excellence, Rohmer écrit seul les scénarios de ses films, même s'il s'est aussi essayé à l'adaptation littéraire: La Marquise d'O (1976), Perceval le Gallois (1978).

Il a par ailleurs écrit un essai musicologique sur Mozart et Beethoven, et s’est intéressé aussi à la dramaturgie scénique : il a adapté et traduit Catherine de Heilbronn, une pièce de Heinrich von Kleist qu’il a mise en scène en 1979.

Il écrit en 1987 son unique pièce pour le théâtre : Le trio en mi bémol qui fut créé en 1988 au Théâtre du Rond Point avec Pascal Grégory et Jessica Forde dans une mise en scène de l’auteur.