Nació en Brooklyn, Nueva York, después de un tiempo en la marina, Schwartz se interesó en escribir. Recibió su licenciatura en la Universidad de Colby y el grado de maestro en periodismo en la Universidad del Noroeste. Laboró para el Binghamton Press de 1951 a 1955. Durante su carrera de escritura profesional su trabajo había sido publicado por una variedad de empresas, incluyendo Lippincott, Bantam Libros, Farrar Strauss, y Harper Collins.
Una serie de sus libros del folclore para niños estuvo ilustrado por Glen Rondas, cada uno representando un tipo de folclore, que fue publicado en 1972. Otros libros en esta serie son: Tomfoolery, el cual presentó algunos juegos de palabras; Witcracks que trataba sobre acertijos y bromas; y Cross Your Fingers, Spit in Your Hat, sobre supersticiones.
Es reconocido por su serie de libros 'Historias de miedo para contar en la oscuridad', el cual presentó horribles ilustraciones realizadas por Stephen Gammell. La serie fue uno de los libros más frecuentemente solicitado para retirar de las bibliotecas entre 1990-1999.
Algunos de sus otros libros, como 'When I Grew Up Long Ago', fue escrito para una audiencia más mayor, presentando retazos de vida en los Estados Unidos durante los finales del siglo XIX y principios del siglo XX.
Schwartz murió de linfoma en Princeton, New Jersey el 14 de marzo de 1992, seis semanas antes de su 65.º cumpleaños.