Bostonin luoteispuolella vuonna 1636 perustettu New College nimettiin kolme vuotta myöhemmin uudelleen hyväntekijä John Harvardin mukaan. Kampuksen vanhin osa ja symbolinen sydän on Harvard Yard, 25 hehtaarin kokoinen laidunmainen viheralue, joka tasapainottaa viereisen Harvard Squaren urbaania luonnetta. Yard koostuu vaatimattomista, luonteeltaan erilaisista mutta kooltaan ja massoiltaan samankaltaisista rakennuksista, jotka on järjestetty sisäpihojen ja neliöiden ympärille. Nämä rakenteet ja varttuneiden puiden katos luovat sulkeutuneisuuden tunnetta, kun taas päällystetyt, vinot polut halkovat avointa nurmikkoa ja kehystävät vinoja ja laajoja näkymiä.

Alun perin lehmien laitumena toiminut Yard alkoi muotoutua 1800-luvun alussa. John Thorton Kirkland aloitti vuosien 1810-1828 presidenttikaudellaan pihan parantamisen asentamalla sinne nurmikkoa, rakentamalla polkuja sekä istuttamalla jalavia ja mäntymetsää. Vuonna 1813 arkkitehti Charles Bulfinch suunnitteli University Hallin, joka sijoitettiin siten, että se määritteli Yardin mittakaavan ja visuaalisen yhtenäisyyden ja muutti julkisen tilan sisäänpäin suuntautuneeksi, arvokkaaksi sosiaalisen kanssakäymisen areenaksi. Presidentti Charles W. Eliotin aikana vuosina 1869-1909 rakennettiin paljon, mikä antoi pihalle sen loogisen organisaation. 1900-luvun vaihteessa kampuksen ympärillä olevat rakennukset estivät yhteydet ja näköyhteydet Harvard Squareen ja Cambridge Commoniin. Kampusta ympäröi McKim, Mead & Whiten suunnittelema ja vuosina 1890-1930 rakennettu koristeellinen takorautainen Memorial Fence. Kolme Yardin rakennusta on nimetty kansallisiksi historiallisiksi maamerkeiksi, ja itse Yard sisällytettiin National Register of Historic Places -luetteloon vuonna 1987.