В 20-е годы среди постепенно набиравших опыт сотрудников ГПУ-НКВД не принято было выносить на люди их внутренние дела. О том, что где-то в верхах решается вопрос о создании в Харькове и Украине, по образу и подобию российского, ведомственного спортивного общества «Динамо» известно было лишь узкому кругу лиц. Тем более что в августе 1924-го межведомственная комиссия по делам общества и союзов при ВУЦИК только зарегистрировала представленный ГПУ УССР типичный устав и положение о Всеукраинском совете «Динамо». Затем эти документы дорабатывались, а вступили в силу позже, когда были сформированы и утверждены штабы Пролетарского спортивного общества. Начав практическую организационную работу, они взяли на себя функции оргкомитетов, которые готовили выборы руководящих органов молодого спортобщества.
Но о начальных, пробных шагах «Динамо» харьковчане смогли узнать еще в начале 20-х годов, когда в самом центре города на Совнаркомовской улице, 13 во дворе открытого в 1921 году клуба ГПУ начала действовать спортивная площадка «Динамо». В саду особняка, принадлежавшего когда-то прогрессивной общественной деятельнице педагогу-просветителю Х. Д. Алчевской, в свое время был установлен первый в Харькове памятник Т. Г. Шевченко. По предписанию городских властей он почему-то был снят. Рядом теперь построили удобную спортивную зону с гандбольной и волейбольной площадками, гимнастическим городком, ямами для прыжков, беговой дорожкой, душем.
В цокольном этаже клуба оборудовали небольшие залы для занятий тяжелой атлетикой и борьбой. Рядом, в бывшем двухэтажном частном особняке (сейчас здание Художественного музея) до 1928 г. находился Совет Народных Комиссаров УССР и его сотрудники тоже охотно пользовались услугами спортплощадок ГПУ. Тогда же в городском парке начала действовать лыжная база «Динамо» с 25-метровым стрелковым тиром.