A New College-ot 1636-ban alapították Boston északnyugati részén, és három évvel később a jótevő John Harvardról nevezték el. A kampusz legrégebbi része és szimbolikus szíve a Harvard Yard, egy 25 hektáros pásztori zöldterület, amely ellensúlyozza a szomszédos Harvard Square városi jellegét. A Yard különböző jellegű, de hasonló méretű és tömegű, szerény épületekből áll, amelyek udvarok és négyszögek köré szerveződnek. Ezek az építmények és az érett fák lombkoronája a zártság érzetét keltik, míg a burkolt, átlós utak a nyílt pázsitot tagolják, és ferde és tágas kilátásokat kereteznek.

A Yard eredetileg tehénlegelő volt, és a 19. század elején kezdett formát ölteni. Az 1810 és 1828 közötti elnöksége alatt John Thorton Kirkland fejlesztéseket kezdeményezett, pázsitot telepített, utakat épített, valamint szilfákat és fenyőligetet ültetett. 1813-ban Charles Bulfinch építész megtervezte a University Hallt, amelyet úgy helyeztek el, hogy megteremtse a Yard léptékét és vizuális koherenciáját, és a nyilvános teret a társadalmi interakciók befelé forduló, méltóságteljes színterévé alakítsa át. Charles W. Eliot elnök alatt, 1869 és 1909 között kiterjedt építkezések történtek, amelyek logikus szerveződést adtak a Yardnak. A 20. század fordulóján a Harvard Square és a Cambridge Common felé vezető összeköttetéseket és látóvonalakat a campus peremén álló épületek elzárták. A McKim, Mead & White által tervezett és 1890 és 1930 között épített díszes kovácsoltvas emlékkerítés zárta körül a kampuszt. Az udvar három épületét nemzeti műemlékké nyilvánították, és maga az udvar 1987-ben felkerült a Nemzeti Műemléki Nyilvántartásba.