В середине 60-х гг. Горьковский автомобильный завод получил задание заменить устаревший ГАЗ-21 новой "Волгой". Проект модели ГАЗ-24 вёлся под руководством А.М. Невзорова с 1958 г., а окончательный дизайн был разработан Л.И. Циколенко и Н.И. Киреевым в 1964 г. Конструкторы как всегда ориентировались на американскую моду, поэтому ГАЗ-24 имел много общего с некоторыми компактными и среднеразмерными машинами из Детройта, хотя и не копировал ни одну из них. Общими тенденциями для того времени были снижение общей высоты кузова, упрощение внешней отделки, увеличение площади остекления и доминирование плоских поверхностей. Автомобиль характеризовался такими стилистическими решениями, как состоявшая из вертикальных наклонных планок решётка радиатора на полную ширину с интегрированными одинарными фарами, трёхсекционные вертикальные задние фонари шестигранной формы, закруглённая по краям крыша, срезанные по нижним углам гнутые боковые стёкла, хромированные дефлекторы вентиляции салона в задних стойках и дверные ручки с кнопками.

Кроме современного кузова, основными отличиями ГАЗ-24 от предшественника стали полностью синхронизированная 4-ступенчатая механическая коробка передач с напольным рычагом, двухконтурная тормозная система с гидровакуумным усилителем, стояночный тормоз с приводом на задние колёса (вместо трансмиссионного), 9 точек смазки шасси (вместо 30-ти), 14-дюймовые колёса и улучшенное отопление салона с обдувом заднего стекла. В остальном конструкция осталась без изменений: независимая шкворневая передняя подвеска с кованой поперечиной, ведущий задний мост на листовых рессорах, барабанные тормоза и значительно усиленный несущий кузов с высоким дорожным просветом. Модернизированный рядный 4-цилиндровый алюминиевый двигатель OHV объёмом 2445 см3 получил 2-камерный карбюратор и индекс ЗМЗ-24Д. Его мощность составляла 98 л.с., но была занижена для обеспечения тяги на низких оборотах и возможности использования дешёвых смазочных материалов. На заводе также велись работы над 3-литровым бензиновым мотором V6 и 4-цилиндровым дизелем, но они не дошли до производства.

ГАЗ-24 строился по принципу "снаружи меньше, чем внутри": при неизменных в сравнении с ГАЗ-21 габаритах он имел удлинённую до 2800 мм колёсную базу, гораздо более просторный 6-местный салон и большой багажник. На ранней версии устанавливались переднее сиденье из трёх частей и цельный задний диван с трансформируемой в подлокотник центральной спинкой; позже, при добавлении ремней безопасности, появились раздельные передние сиденья и сплошной задний диван. Внутреннее оборудование было достаточно бедным: простая горизонтальная панель приборов с ленточным спидометром (с 1975 г. - стрелочным), большой двухспицевый руль, отделка сидений из ткани и винила, отопитель, прикуриватель, три пепельницы, часы и 3-диапазонный радиоприёмник с автоматически выдвижной антенной. Никаких альтернативных вариантов отделки или опций не предлагалось. Кузов чаще всего окрашивался в белый, серый, серо-голубой и бежевый цвета; чёрные машины обычно использовались в государственных структурах, лимонные - в такси.

В 1964-1967 гг. модель была уже готова к производству, но из-за необходимости переоборудования завода в это время было построено только несколько ходовых прототипов, в том числе с двойными передними фарами. В 1968 и 1969 гг. по обходной технологии собрали 32 и 215 машин соответственно. Конвейер заработал только в 1970 г., после снятия с него предыдущего автомобиля ГАЗ-21. Вторая "Волга" получала незначительные обновления в 1975 и 1977 гг., которые касались формы бамперов, противотуманных фар и панели приборов. Более радикальный рестайлинг был проведён в 1985 г., когда индекс модели сменился на ГАЗ 24-10. Эта модификация отличалась чёрной пластмассовой решёткой радиатора, пластиковыми колпаками колёс, передними боковыми окнами без форточек, безопасными дверными ручками, пересмотренным интерьером и двигателем ЗМЗ-402 мощностью 100 л.с. ГАЗ-24-10 выпускался до 1992 г. и стал последней "Волгой" второго поколения. Всего с 1967 по 1992 гг. было построено 1481561 ед. ГАЗ-24.

Будучи надёжным, комфортабельным и простым в обслуживании автомобилем среднего класса, ГАЗ-24 считался самой престижной моделью из тех, которые были доступны в продаже в Советском союзе. Тем не менее, основная масса машин поставлялась в таксопарки и на государственную службу, а частному лицу для покупки "Волги" требовалось получить специальное разрешение. В конце 80-х гг. ГАЗ-24 стал объектом спекуляций на вторичном рынке. На протяжении всего производственного цикла "Волга" массово продавалась на экспорт, хотя в Европе пользовалась уже не таким спросом, как ГАЗ-21, особенно в 80-е гг. Причиной тому были устаревшие дизайн и механика, однако её преимуществом оставались надёжность и внушительные габариты при невысокой цене. ГАЗ-24 экспортировался в виде готовых автомобилей или машинокомплектов для сборки, при этом многие дилеры устанавливали на него дизельные двигатели европейского производства.

Модификации ГАЗ-24 обозначались не буквами, а цифрами. ГАЗ-24-01 представлял собой такси с дефорсированным мотором, специальной окраской с "шашечками" и соответствующим внутренним оборудованием. В 1972 г. начался выпуск универсалов ГАЗ-24-02, которые имели 7-местный трансформируемый салон, а также карет скорой помощи ГАЗ-24-03 и грузопассажирских такси ГАЗ-24-04. Тогда же появились и новые "машины сопровождения" ("догонялки") ГАЗ-24-24 для органов КГБ, оснащённые 5.5-литровым 195-сильным двигателем V8 от "Чайки" с автоматической коробкой передач и способные разгоняться до 160 км/ч. Модификации ГАЗ-24-10 назывались по-другому: 24-11 (такси), 24-12 (универсал), 24-13 (скорая помощь) и 24-34 (для КГБ).

В 1973-1974 гг. по заказу Минобороны на ГАЗе построили партию из пяти полноприводных седанов ГАЗ-24-95. Механической основой вездехода стали передний и задний мосты и раздаточная коробка от УАЗ-469, остальные компоненты принадлежали "Волге". Один из этих автомобилей обслуживал Л.И. Брежнева в охотничьем хозяйстве Завидово, остальные были распределены по ведомствам в Горьком и области.