La educación italoamericana de Harold Dieterle fue lo primero que le inspiró a ser chef; en concreto, ver y ayudar a su madre a preparar las tradicionales cenas dominicales sicilianas en su casa de Long Island. Su interés por la cocina continuó durante la escuela secundaria, cuando se inscribió en una clase de economía doméstica y aprendió las primeras recetas básicas de platos como el pollo frito.
Tras graduarse en el instituto en 1995, viajó a España para trabajar en algunas de las mejores cocinas del país. A su regreso, asistió al Culinary Institute of America (CIA) en Hyde Park, Nueva York. Después de graduarse, trabajó en una serie de establecimientos de alta calidad en Long Island (por ejemplo, Della Femina) y en Manhattan, sobre todo en el 1770 House en 2002, que obtuvo una crítica de dos estrellas de The New York Times durante su estancia allí.
En 2002, Harold consiguió un trabajo en el restaurante de Tribeca del restaurador Jimmy Bradley, The Harrison, donde trabajó con los futuros chefs destacados Joey Campanaro y Brian Bistrong. En 2006, Harold compitió y ganó la primera temporada de Top Chef de Bravo. Al año siguiente, él y su socia Alicia Nosenzo abrieron Perilla en el West Village, un restaurante neoamericano aclamado por la crítica con influencias asiáticas. En octubre de 2010, Harold y Alicia abrieron su segundo restaurante en el West Village, Kin Shop, dedicado a la cocina tailandesa contemporánea e inspirado en sus numerosos viajes a Tailandia. Kin Shop fue galardonado con 2 estrellas por el New York Times en 2010 y ha seguido recibiendo elogios de la prensa.
Harold ha aparecido en medios de comunicación como: ABC Nightline, The Cooking Channel, CNN.com, Daily News, Esquire, Food & Wine, New York Magazine, The New York Times, People, Saveur, Serious Eats, Today Show, Wall Street Journal y Zagat.