Завод основан в 1916 году русским промышленником В. А. Лебедевым в рамках правительственной программы создания в России автомобильной промышленности. Было организовано акционерное общество по выпуску автомобилей по лицензии британской фирмы «Crossley». Планировалось выпускать по 750 грузовых и легковых автомобилей в год с 4-цилиндровым мотором объёмом 4478 см³. Есть сведения, что зарубежную конструкцию планировалось усовершенствовать. До 1917 года завод так и не заработал — имеется информация о выпуске лишь одного автомобиля — «Лебедь» («Лебедь-А»), причём возможно, что построен он был в Великобритании.
После революции это был Первый государственный авторемонтный завод. В 1925 году начато производство грузовиков с моторами АМО-Ф-15. В 1926 году завод преобразован в Ярославский государственный автомобильный завод № 3.
В годы Первой пятилетки была проведена реконструкция: построены новые цеха, число работников увеличилось в 5 раз. Завод первым в стране освоил производство большегрузных самосвалов. С 1933 года его название — Ярославский автомобильный завод. В 1935 году он выпустил свой 10-тысячный грузовой автомобиль.
Основная продукция завода в 1925—1942 годы — большегрузные автомобили грузоподъёмностью от 3 до 7 т Я-3 (1925, 3 т), Я-4, Я-5, ЯГ-3 (1932, 5 т), ЯГ-4, ЯГ-5, ЯГ-6, ЯГ-10 (1931, 8 т), ЯГ-12 (1932, 8 т); самосвалы ЯС-1 (1935—1936), ЯС-3 (1936—1941) и ЯС-4 (1939); троллейбусы одноэтажные ЯТБ-1 (1936), ЯТБ-4 и двухэтажные ЯТБ-3; автобусы ЯА-1, ЯА-2 (1932, 100 пассажиров); шасси для автобусов и троллейбусов. В 1933 году совместно с ОКБ ОГПУ изготовлены опытные образцы первого советского дизельного двигателя «Коджу».
Артиллерийский тягач Я-12. Установлен как памятник на территории ЯМЗ. В годы войны завод выпускал гусеничные артиллерийские тягачи Я-11, Я-12 (1943, гусеничный артиллерийский тягач), Я-13. В 1943—1947 годах было разработано производство серии автомобилей ЯАЗ-200 (4×2) грузоподъёмностью 7 тонн. В 1948—1950 годах было разработано производство трёхосных автомобилей серии ЯАЗ-210 (6×4) грузоподъёмностью 12 тонн.
В 1947—1951 годах впервые в СССР освоен серийный выпуск двухтактных автомобильных дизельных двигателей ЯАЗ-204 и ЯАЗ-206 мощностью 110—220 л.с. для автомобилей ЯАЗ, МАЗ, специализированных транспортных средств, автобусов ЗИС-154, насосных агрегатов и другое. За разработку этих двигателей в 1949 году была получена Сталинская премия.
В 1951 году производство двухосных автомобилей ЯАЗ-200, ЯАЗ-205, ЯАЗ-225 передано на Минский автомобильный завод. В 1958 году Ярославский автомобильный завод (ЯАЗ) переименован в Ярославский моторный завод (ЯМЗ). С этого времени завод специализируется на разработке и производстве дизельных двигателей многоцелевого назначения мощностью 180—800 л.с., коробок передач, сцеплений, дизельных электроагрегатов.
В 1961—1965 годах вёлся выпуск разработанных в 1958—1961 годы 4-тактных дизель-моторов мощностью 180—500 л. с. ЯМЗ-236, ЯМЗ-238, ЯМЗ-240, в 1972 году за их разработку присуждена Государственная премия СССР. В 1966 году завод награждён орденом Ленина. В 1968—1971 годах разработан силовой агрегат ЯМЗ-740 и ЯМЗ-741 для Камского автозавода.
В 1971 году Ярославский моторный завод стал головным предприятием производственного объединения «Автодизель», в которое помимо него вошли ЯЗТА, ЯЗДА, ТМЗ, Ростовский агрегатный завод, строительно-монтажный трест и совхоз «Революция», а позднее и ТЭРЗ. В 1973—1980 годах создано семейство дизельных двигателей ЯМЗ-840. В 1975 году завод награждён орденом Октябрьской Революции. В 1976 году присуждена Ленинская премия за создание и освоение производства двигателей для тракторов «Кировец» К-700 и К-701. В 1977—1979 годах создан силовой агрегат ЯМЗ-642 для Кутаисского автозавода.
С 1970 года «Автодизель» становится ведущим предприятием советского дизелестроения. Потребителями продукции являются МАЗ, КрАЗ, БелАЗ, МоАЗ, МЗКТ, УралАЗ, ЗИЛ, БАЗ, ЛАЗ, КЗКТ, ИЗТМ, ЧЗПТ, «Кировский завод», Ростсельмаш, Красноярский комбайновый, Воронежский, Ковровский экскаваторные, Муромский, Людиновский тепловозостроительные, Ивановский крановый заводы, Челябинский завод дорожных машин и другие предприятия.
С 1993 года завод осуществляет свою деятельность как ОАО «Автодизель» (Ярославский моторный завод). В 1991—1998 годах созданы двигатели ЯМЗ-846 и ЯМЗ-847 для ракетно-космического комплекса «Тополь М». В 1994—2005 годах создано производство силовых стационарных установок и электрогенераторов. В 1995—2003 годах освоено производство двигателей экологических классов: 1995 — Евро-1 (ЯМЗ-236НЕ/БЕ и ЯМЗ-238БЕ/ДЕ), 1997 — Евро-2 (ЯМЗ-7511 и ЯМЗ-7601), 2003 — Евро-3 (ЯМЗ-656 и ЯМЗ-658). Серийный выпуск этих двигателей начался в 2007—2008 годах. В 1995—2002 и 2005—2008 годах разработаны рядные дизель-моторы семейства ЯМЗ-530 (Евро-4). В 2003 году вручена Премия Правительства за разработку и освоение производства дизельных двигателей многоцелевого назначения, впервые в России соответствующих международным стандартам по экологии. В 2016 году на Международном форуме «Армия-2016» был представлен новый двигатель ЯМЗ-780.
В 2001 году ПАО «Автодизель» (ЯМЗ) вошло в состав ООО «РусПромАвто», преобразованное впоследствии в «Группу ГАЗ».
Производство Ярославский моторный завод является предприятием полного цикла и включает литейное, кузнечное прессовое, термическое, сварочное, гальваническое, окрасочное, метизное, механосборочное, сборочно-испытательное, инструментальное, ремонтное производства, энергохозяйство, транспортно-складские службы, сеть пунктов сервисного обслуживания, цех малого станкостроения и нестандартного оборудования.