L'ancienne abbaye de Pontigny fut donc établie aux confins des anciens diocèses de Sens, d'Auxerre et de Langres, entre Champagne et Bourgogne. Contrairement à la plupart des églises de l'ordre naissant, celle de l'abbaye de Pontigny est entièrement conservée et c'est maintenant la plus grande église cistercienne de France.
Longue de plus de cent mètres, l'édifice montre le dépouillement caractéristique de l'art cistercien. L'ensemble date du 12e siècle, mais on distingue clairement deux campagnes de construction.
Les parties les plus anciennes sont romanes et datées vers 1140-1150. Il s'agit du porche ouest, de la grande nef et du transept saillant. Le porche ou narthex, l'un des seuls conservés de l'art cistercien, se dresse devant la large façade à tourelle latérale, à l'extrémité du chemin d'entrée.
Il est remarquable pour ses arcatures avec colonnettes et baies géminées, ses voûtes d'arêtes sur deux colonnes et son portail avec tympan à croix et pentures en fer forgé d'origine.
En pénétrant dans la nef, on est saisi par l'harmonie des proportions, la blancheur de la pierre et la puissance de l'architecture du milieu du 12e siècle. On y retrouve encore les caractéristiques de l'art roman bourguignon : les sept travées s'élèvent sur deux étages (comme à Vézelay), les grandes arcades brisées sont supportées par des piliers cruciformes, les bas-côtés sont voûtés d'arêtes sur doubleaux brisés.
Cependant, une innovation gothique a vraisemblablement changé les projets de construction, car la nef centrale est couverte d'une voûte d'ogives portée par des doubleaux brisés. C'est l'une des plus anciennes voûtes de ce type en Bourgogne, réalisée vers 1160-1170. Les chapiteaux très sobres de la nef sont décorés de motifs géométriques et de feuilles d’eau.
Une ogive couvre la croisée du transept, tandis que les croisillons, les plus anciennes parties de l'église, sont encore voûtés en berceau brisé sur doubleaux, type de voûtement propre aux premières églises cisterciennes. Les croisillons, d'une architecture particulièrement sobre, également sur deux étages, sont percés de larges roses et flanqués sur chaque face de deux chapelles rectangulaires.
A l'origine, un choeur court à chevet plat terminait cette église à l'est. A la fin du 12e siècle, celui-ci est remplacé par le grand chœur actuel, d'un style gothique primitif excellent. Trois travées droites sont suivies par une abside sur colonnes monolithes entourée d'un ample déambulatoire s'ouvrant sur 11 chapelles rayonnantes, le tout voûté d'ogives.
Cette construction abondante marque la prospérité de l'abbaye pendant les 12e et 13e siècles, quand elle accueille trois fameux évêques de Canterbury (Angleterre), dont saint Edme qui est vénéré dans l'église. Cependant, le déclin de l'abbaye commence et elle est pillée pendant les guerres de religion. A la Révolution, l'abbaye est supprimée, ses bâtiments sont en grande partie vendus et détruits, et l'abbatiale, épargnée, devient paroissiale.
De l'abbaye n'est conservé aujourd'hui que le bâtiment des convers du 12e siècle, qui contient le cellier voûté d'ogives, le réfectoire des convers et l'ancien dortoir des convers à l'étage. Le bâtiment s'ouvrait à l'origine sur le cloître du côté nord de l'abbatiale, dont subsiste seulement l'aile sud, reconstruite au 17e siècle. Malgré la perte des parties de l'abbaye, Pontigny reste l'un des plus beaux exemples de l'art cistercien en France.