В 20-е годы среди постепенно набиравшихся опыта сотрудников ГПУ-НКВД не принято было выносить на люди их внутренние дела. О том, что где-то в верхах решается вопрос о создании в Харькове и в Украине, по образу и подобию российского, ведомственного спортивного общества «Динамо» известно было лишь узкому кругу лиц. Тем более, что в августе 1924-го межведомственная комиссия по делам общества и союзов при ВУЦИКе лишь зарегистрировала представленный ГПУ УССР типовой устав и положение о Всеукраинском совете «Динамо». Затем эти документы дорабатывались, а обрели юридическую силу позже, когда были сформированы и утверждены штабы Пролетарского спортивного общества. Начав практическую организационную работу, они взяли на себя и функции оргкомитетов, готовивших выборы руководящих органов молодого спортобщества.
Но о начальных, пробных шагах «Динамо» харьковчане смогли узнать еще в начале 20-х годов, когда в самом центре города на Совнаркомовской улице, 13, во дворе открытого в 1921 году клуба ГПУ начала действовать спортивная площадка «Динамо». В саду особняка, принадлежавшего прежде прогрессивной общественной деятельнице педагогу-просветителю Х. Д. Алчевской, в свое время был установлен первый в Харькове памятник Т. Г. Шевченко. По предписанию городских властей он почему-то был снят. Рядом теперь соорудили удобную спортивную зону с гандбольной и волейбольной площадками, гимнастическим городком, ямами для прыжков, беговой дорожкой, душем.
В цокольном этаже клуба оборудовали небольшие залы для занятий тяжелой атлетикой и борьбой. Рядом, в бывшем двухэтажном частном особняке (сейчас здание Художественного музея) до 1928 года находился Совет Народных Комиссаров УССР и его сотрудники тоже охотно пользовались услугами спортплощадок ГПУ. Тогда же в городском парке начали действовать лыжная база «Динамо» с 25-метровым стрелковым тиром.