Нынешняя улица Кузнечная одна из самых старых улиц города, она получила свое официальное название в 1804 году, при этом начало её было от набережной реки Харьков и водяной мельницы прапорщика в отставке Фёдора Яковлевича Барабашова на реке Харьков и далее собственно улица упиралась тоже в реку Харьков, в плотину, через которую проходила дорога на Основу и Мерефу. Название улице дали кузницы, которые располагались у Барабашовской плотины. В 1814 году было принято решение выровнять кузни по красной линии и большую часть из них перенести в другие места из-а опасности пожаров, например на Сенную площадь, а позднее на Конную. Однако несколько номеров кузниц просуществовали здесь и до начала XX столетия.

В квартале между улицами Рыбная, Кузнечная и Подольская до 1840-х годов существовало озеро – бывшая старица реки Харьков, обширное дворовое место здесь принадлежало губернскому землемеру Густаву фон Буксгевдену, он же с 1782 по 1797 годы был назначен директором Харьковского губернского училища (Прибавочные классы). На пруду внутри двора Буксгевдена была построена первая в Харькове каменная баня купца Петра Андреевича Беляева.

Буксгевден вынужден был оставить должность губернского землемера и директора губернского училища из-за ссоры с генерал-губернатором Воронежского и Харьковского наместничеств Андреем Яковлевичем Леванидовым. Причиной ссоры стал решение Леванидова мостить улицы Харькова фашинником, а по отсутствию средств ввести новый налог с домовладельцев, который зависел от размеров участка. Имея значительное дворовое место Буксгевден отказался от уплаты налога и вынужден бы оставить свои выгодные должности, распродать дворовые места местному купечеству.

Одно из дворовых мест досталось купцу Герасиму Романченко, а от него купцу Росихину. В 1878 году жена купца Александра Росихина продала дворовое место по Кузнечной улице Харьковскому купцу 2-й гильдии Якову Исаковичу Ханджи. И уже в следующем году на обширном дворовом месте сначала перестраивает существующий каменный дом, а потом и строил новый, также двухэтажный на каменном полуэтаже. Значительная часть домовладения сдается под квартиры чиновникам. В последующие годы новый дом вырос на один этаж, а наследники купца сыновья Владимир и Яков, а также их сестра Надежда по мужу Ханженкова сдали в 1910 году часть дворового места для устройства макаронной фабрики мещанину Э. Рому. В 1912 году они и вовсе продали дворовое место Степану Мартыновичу Цесельскому.

В доме купца Якова Ханжди по Кузнечной 23 некоторое время проживал в начале 1880-х годов инженер, преподаватель Харьковского Технологического инситута коллежский асессор Михаил Иванович Ловцов, съехавший отсюда уже в собственный дом на Панасовской улице.