Предпосылки к созданию новой модели ГАЗ, промежуточной между "Волгой" и "Чайкой", возникли ещё в середине 60-х гг., когда стало ясно, что запланированная модификация ГАЗ-24 с мотором V6 и автоматической трансмиссией в серию не пойдёт. В 1968 г., одновременно с запуском в производство ГАЗ-24, на его основе был изготовлен макет седана более высокого класса, который отличался изменённым фронтальным и хвостовым оформлением, прямоугольными фарами и горизонтальной подоконной линией вдоль всего кузова. Неизменными остались только дверные проёмы и крыша, перепроектирование которых требовало много ресурсов. В соответствии с отраслевой нормалью 1966 г. автомобилю присвоили индекс ГАЗ-3101. В 1973 г. появились первые ходовые прототипы, оснащённые двигателем V8 объёмом 4250 см3 и мощностью 115 л.с. Для серийной версии было подготовлено два варианта (алюминиевый и чугунный) силового агрегата V6 объёмом 2990 см3 и 3-ступенчатая автоматическая трансмиссия от "Чайки".

В эпоху застоя разработка и постановка машин на конвейер шла слишком медленно, даже если это был модернизированный вариант уже существующей модели. Конструкторам завода пришлось отказаться от многих амбициозных идей и в 1976 г. переименовать проект в ГАЗ-3102, максимально сблизив его с ГАЗ-24. Последний к тому времени стал устаревать, и ГАЗ-3102 подходил в качестве его замены, так как принадлежал к тому же среднему классу. В 1976-1979 гг. было построено несколько опытных экземпляров, по дизайну похожих на будущую серийную модель, с заострёнными линиями и вертикальной структурой решётки радиатора. Тогда же в линейку вошли традиционные модификации такси (31021) и универсал (31022). Однако ГАЗ-3102 так и не смог вытеснить с производственных линий 24-ю "Волгу", и причиной тому было появление в 1977 г. новой "Чайки".

По своему уровню ГАЗ-14 оказался немного выше прежней "Чайки" ГАЗ-13, в результате освободилась целая категория чиновников среднего звена, которым ГАЗ-14 не полагался по статусу, а обычная "Волга" казалась несолидной. Временным решением этой проблемы было продолжение выпуска ГАЗ-13, пока в 1980 г. на этом автомобиле не разбился насмерть первый секретарь компартии БССР Пётр Машеров. После этого инцидента руководство отрасли в срочном порядке приняло решение заполнить пустующую нишу моделью ГАЗ-3102, и в 1981 г. к XXVII съезду КПСС и 50-летию Горьковского завода была представлена первая партия машин. Таким образом, в развитии ГАЗа намечался существенный сдвиг, если бы не поступившее от партии возражение приказного характера: "Мы не позволим, чтобы автомобиль, на котором будут ездить чиновники и генералы, одновременно работал и в такси". Оно не только поставило крест на модификациях ГАЗ-3102, но и затормозило дальнейшую эволюцию модели, вынудив конструкторов завода переключиться на разработку модернизированного ГАЗ-24-10.

Внешне ГАЗ-3102 ушёл от 24-й "Волги" намного дальше, чем в техническом плане. Платформа автомобиля практически не изменилась, включая шкворневую переднюю подвеску и задний мост на листовых рессорах. Новой была только созданная по лицензии Girling двухконтурная тормозная система с усилителем и передними дисковыми тормозами, а также размещение бензобака не под полом багажника, а над задней осью. От двигателя V6 и автоматической КПП отказались в пользу проверенной комбинации 4-цилиндрового мотора объёмом 2445 см3 и 4-ступенчатой механической коробки передач. Силовой агрегат получил 12-клапанную алюминиевую головку блока, 3-камерный карбюратор и передовую форкамерно-факельную систему зажигания. Тем самым удалось повысить мощность до 105 л.с. и снизить расход топлива до 8.5 л/100 км. Салон у ГАЗ-3102 был роскошнее, чем у ГАЗ-24. Автомобиль имел мягкую полиуретановую приборную панель со вставками под дерево и круглыми циферблатами с противобликовыми конусными стёклами, ортопедические сиденья с велюровой обивкой и подголовниками, улучшенные шумоизоляцию и обогрев.

По вышеупомянутой причине ГАЗ-3102 предлагался только с кузовом седан, а единственной его модификацией была "догонялка" ГАЗ-31013 с мотором V8 от "Чайки". Основные производственные мощности в Горьком на протяжении 80-х гг. были заняты выпуском модели ГАЗ-24-10, поэтому ГАЗ-3102 собирался относительно небольшими партиями: всего с 1981 по 1991 гг. было построено около 27000 ед. В 1992 г., уже после распада СССР, на смену "бюджетной" 24-й "Волге" пришёл ГАЗ-31029 - по сути тот же ГАЗ-24-10 с новым кузовом в стиле ГАЗ-3102. Одновременно сам ГАЗ-3102 был незначительно обновлён и оставался в модельном ряду ГАЗ до 2008 г., несмотря на конкуренцию со стороны импортных автомобилей.