Moross fue un excelente compositor que consiguió 1 Nominación al Oscar, que alternó el cine con otros géneros como la ópera y muy especialmente la música clásica. Provenía de una familia judía que no tenía ningún contacto especial con las artes musicales. Pero con cuatro años Jerome aprendió a tocar el piano de oído y con ocho ya componía. Asistió a la escuela secundaria DeWitt Clinton para las artes escénicas en Manhattan, donde uno de sus compañeros de clase y mejores amigos fue Bernard Herrmann.

Desde bien joven sintió un profundo interés en la música moderna que se hacía en la década de 1920. Asistió a la Universidad de Nueva York y también ingresó en la Juilliard School of Music, comenzando allí como director de orquesta, mientras estaba en su último año en la NYU. 

Aunque nunca estudió composición; se embulló de todo cuanto estaba relacionado con ella; la armonía, el contrapunto, la fuga etc. Conocía el funcionamiento de una orquesta, habiendo tocado con ellas desde su adolescencia. Le atraía la forma en que Gershwin hacía la música, aunque el compositor marcaría su propio estilo. Sin embargo, sus objetivos eran más elevados que escribir melodías, o montar un musical de éxito. Jerome veía el teatro como un vehículo para esfuerzos creativos de varios niveles, integrando historia, danza y canción en un nivel más cercano a la ópera que a las dulces melodías de Broadway de los años treinta.