Територія міста Гребінка була заселена ще із часів Київської Русі. Тут існувало укріплене городище, що було зруйноване в 1239-1240 рр. монголо-татарами.
Вдруге ці землі заселилися у другій половині XVII ст. і належали полковнику Л. Свічці. У 1740р. тут виникло поселення Городище. На початку ХІХ ст. Городище відійшло до землевласника І. Горбовського, а інша частина земель Л. Свічки - до Стороженка. Стороженко заснував на своїх землях с. Тінь. У 1863р. Городище стало волосним центром.
Початок існування Гребінки припадає на 1895 рік, коли розпочалось будівництво залізничної лінії Південно-Західної залізниці Харків-Київ. Перша згадка про місто датується 1740р. У 1895р. було збудовано залізницю Київ - Харків і с. Тінь, розширившись, перетворилося на станцію Петрівка. У 1901р. станцію і населений пункт при ній назвали Гребінка на честь відомого українського поета-байкаря Євгена Гребінки.
В 1920-х роках при станції Гребінка склався будкооп «Промінь» (із робітників і службовців), розгорнулося інтенсивне будівництво житлових будинків. В цей час тут було два парові млини, один з яких був олійницею, а також два цегельні заводи. В 1933р, в Гребінці було створено машинно-тракторну станцію (МТС), в 1935р. побудовано вагоноремонтний пункт (ВРП). У 1935р. Гребінка стала районним центром, а у 1938р. отримала статус селища міського типу. В 1938р. в Гребінці було завершено будівництво електростанції, з'явилось електроосвітлення в будинках і на вулицях. В 1938р. побудоване паровозне депо. В 1939р. вона стала селищем міського типу, до складу якого увійшов і хутір Тінь. В 1941р. був створений райпромкомбінат, який повинен був ремонтувати вози для колгоспів і інших організацій, а також побутові речі: примуси, каструлі, годинники і ін. Після війни в промкомбінаті були створені дзеркальний і швейний цехи. За переписом населення 1939р. під рубрикою “Міське населення райцентру Гребінка” записано 4266 чол. У 1958р. Городище було приєднано до Гребінки. У 1959р. Гребінка отримала статус міста районного підпорядкування. За переписом населення 1959р. в Гребінці налічувалося 10295 осіб. Нині Гребінка — значний залізничний вузол, на якому розташовані великі залізничні підприємства: локомотивне депо, вагонне депо, 11-та дистанція сигналізації та зв'язку, 18-та дистанція колії та інші.
