Зміївський провулок розпочав формуватися близько 1875 року, доволі важко сьогодні з’ясувати за якою адресою можна було ідентифікувати окремі домоволодіння на вигонах міста Харкова, де спочатку землі віддавались під різного роду невеликі підприємства, городи, баштани. Через значну площу хрест навхрест проходили дві дороги, які поєднували Пєтінський провулок, Зміївську, Пєтінську та Молошну вулиці.

При топографічній та межовій зйомці 1879 року під керівництвом архітектора Григорія Стрижевського, виявилось, що вже забудована дворовими місцями половина майбутнього Зміївського провулку. У 1880 році було прийнято рішення цю ділянку землі відвести під міську забудову, в результаті чого сформувались декілька нових вулиць. Серед них був і Зміївський провулок, який поєднав Зміївську вулицю та Богданівський провулок (від нього розпочиналась нумерація по Зміївському провулку).

На 1890 рік по Зміївському провулку було 27 дворових місць по непарній стороні та 34 по парній. Здебільшого землі купили селяни, декілька дворових місць належали міщанам та цеховим, два дворових місця військовим і одне почесній громадянці.

Зміївський провулок знесли після Другої світової війни. На 1976 рік він вже не позначений.