Du XIIIe siècle au XVIIIe siècle, une construction gothique à deux étages et un comble existait sur le flanc nord du chœur de la cathédrale. Cet édifice fut démoli pour partie en 1759, lors de sa transformation en sacristie, laquelle fut intégralement détruite en 1855. On y accédait depuis une porte, qui existe encore, percée dans le soubassement de la troisième travée du bas-côté du chœur. L’étage inférieur était occupé par la trésorerie basse, salle voûtée parfois dénommée chapelle Sainte-Ulphe, où était conservée une partie du trésor. On accédait à la trésorerie haute par un escalier de quarante-cinq marches au-dessus du sol de la cathédrale. C’est dans cette salle également voûtée, éclairée par des vitraux narrant la vie du Précurseur, et ornée de nombreux ex-votos, qu’était conservée le reliquaire de la face du Baptiste. Lors de son passage à Amiens en 1495, le médecin nurembergeois Jérôme Münzer décrit le lieu comme une « jolie chapelle bien gardée » où sur quatre colonnes est posée une châsse en vermeil dans laquelle est placé le chef-reliquaire de saint Jean, bien éclairé par les cierges. La gravure de Scotin, publiée en 1757 dans l’Histoire de la ville d’Amiens du Père Daire, et le dessin des Duthoit (Musée de Picardie, MP Duthoit IV fol. 34), permettent d’appréhender les volumes et élévations de ce monument à deux travées, aujourd’hui totalement disparu.