У 20-ті роки серед поступово набиравших досвіду співробітників ГПУ-НКВД не прийнято було виносити на люди їх внутрішні справи. Про те, що десь у верхах вирішується питання про створення в Харкові і в Україні, за образом і подобою російського, відомчого спортивного товариства «Динамо» відомо було лише вузькому колу осіб. Тим більше, що в серпні 1924-го міжвідомча комісія у справах суспільства і спілок при ВУЦВК лише зареєструвала представлений ГПУ УРСР типовий статут і положення про Всеукраїнську раду «Динамо». Потім ці документи допрацьовувалися, а набрали чинності пізніше, коли були сформовані і затверджені штаби Пролетарського спортивного товариства. Почавши практичну організаційну роботу, вони взяли на себе і функції оргкомітетів, які готували вибори керівних органів молодого спорттовариства.
Але про початкових, пробних кроках «Динамо» харків’яни змогли дізнатися ще на початку 20-х років, коли в самому центрі міста на Раднаркомівській вулиці, 13, у дворі відкритого в 1921 році клубу ГПУ почав діяти спортивний майданчик «Динамо». В саду особняка, що належав колись прогресивної громадській діячці педагогу-просвітителю Х. Д. Алчевської, свого часу був встановлений перший в Харкові пам’ятник Т. Г. Шевченка. За приписом міської влади він чомусь був знятий. Поруч тепер спорудили зручну спортивну зону з гандбольною і волейбольною майданчиками, гімнастичним містечком, ямами для стрибків, біговою доріжкою, душем.
У цокольному поверсі клубу обладнали невеличкі зали для занять важкою атлетикою і боротьбою. Поруч, в колишньому двоповерховому приватному особняку (зараз будівля Художнього музею) до 1928 року перебував Рада Народних Комісарів УРСР і його співробітники теж охоче користувалися послугами спортмайданчиків ГПУ. Тоді ж в міському парку почали діяти лижна база «Динамо» з 25-метровим стрілецьким тиром.