Гай основан 9 мая 1959 года как посёлок строителей горно-обогатительного комбината при месторождении медно-колчедановых руд.
История города Гая и Гайского горно-обогатительного комбината началась в 1932 году с изыскательских работ, которые были начаты по инициативе старейшего в Оренбургской области геолога Иосифа Леонтьевича Рудницкого. Война прервала эти работы, они возобновились лишь после её окончания, и в 1950 году в одной из скважин была обнаружена медная руда.
В марте 1959 года Постановлением Совета Министров РСФСР и Оренбургского совнархоза была утверждена дирекция строящегося комбината, генеральным подрядчиком назначен трест «Южуралтяжстрой». Центральный Комитет ВЛКСМ объявил строительство комбината и горняцкого поселка Всесоюзной ударной стройкой.
9 мая 1959 года в Гае состоялся митинг, посвященный поднятию флага новой стройки, этот день и стал днем рождения города. В первый год строительства уже были выданы 5 тысяч тонн гайской руды и построены многие важные объекты, в том числе и социальные — школа, баня, жилые дома.
В 1979 году Гай получил статус города областного подчинения, в Реестре городов Российской Федерации он зарегистрирован под № 1000. В 1999 году был утверждён герб города.
Название города происходит от народного наименования березовой рощи (гай по-белорусски — лес, роща).
