Het New College, dat in 1636 ten noordwesten van Boston werd opgericht, werd drie jaar later hernoemd naar weldoener John Harvard. Het oudste deel en het symbolische hart van de campus is Harvard Yard, een 25 hectare grote pastorale groene ruimte die een tegenwicht vormt voor het stedelijke karakter van het aangrenzende Harvard Square. De Yard bestaat uit bescheiden gebouwen van verschillend karakter, maar vergelijkbaar in grootte en omvang, georganiseerd rond binnenplaatsen en vierhoeken. Deze structuren en het bladerdak van volwassen bomen creëren een gevoel van omheining, terwijl geplaveide, diagonale paden het open grasveld doorsnijden en schuine en weidse uitzichten omlijsten.

Oorspronkelijk een koeienweide, begon de Yard vorm te krijgen in het begin van de 19e eeuw. Tijdens zijn presidentschap tussen 1810 en 1828 bracht John Thorton Kirkland er verbeteringen aan: hij legde een gazon aan, legde paden aan en plantte iepen en een dennenbosje. In 1813 ontwierp architect Charles Bulfinch de University Hall, die zo werd gesitueerd dat hij de schaal en visuele samenhang van de Yard bepaalde en de openbare ruimte veranderde in een naar binnen gerichte, waardige arena voor sociale interacties. Onder president Charles W. Eliot, tussen 1869 en 1909, werd er uitgebreid gebouwd waardoor de Yard zijn logische organisatie kreeg. Rond de eeuwwisseling van de 20e eeuw werden de verbindingen en zichtlijnen naar Harvard Square en Cambridge Common geblokkeerd door gebouwen aan de rand van de campus. Het decoratieve smeedijzeren Memorial Fence omsloot de campus, ontworpen door McKim, Mead & White en gebouwd tussen 1890 en 1930. Drie gebouwen in de Yard zijn aangewezen als National Historic Landmarks, en de Yard zelf werd in 1987 opgenomen in het National Register of Historic Places.