Утром 28 мая пензенские советские власти вели еще переговоры с чехами о разоружении, но к полудню уже выяснилось, что вооруженный конфликт неизбежен. Обе стороны готовились к уличному бою. Советских вооруженных сил в Пензе было мало, так как большая и притом лучшая часть рабочих отрядов была отправлена в Саратов для подавления мятежа. По численности чехи превосходили нас в несколько раз.
Рабочие по тревожным заводским гудкам собирались к зданию Совета, где из них формировались отряды, группы, которые направлялись затем к местам предстоящих боев. На улицы, идущие от вокзалов к центру города, красногвардейцы выкатили орудия и пулеметы с достаточным запасом снарядов и патронов.
Вечером 28 мая было вырыто до 70 окопов, небольшие мосты разобраны мобилизованными жителями, а большой Казанский мост сожжен. Город был объявлен на осадном положении.
Перестрелка между отдельными красногвардейцами и одиночками чехами, не желавшими сдавать оружие, началась к вечеру 28 мая.
К рассвету 29 мая перестрелка усилилась и особенно в районе вокзала Рязано-Уральской железной дороги и у Татарского моста, откуда чехословаки одновременно повели наступление к центру города. В этих районах произошли самые упорные и сильные бои с противником. Вскоре выяснилось, что чехи окружили город со всех сторон, и красногвардейские отряды, теснимые превосходными силами, отходили с боем к зданию Совета, борясь за каждый участок улицы.
К вечеру были захвачены чехами оба вокзала, артиллерийские казармы, здание Совета и позиции главного опорного пункта на Поповой горе. Рабочие, красногвардейцы и в особенности отряд ВЧК сражались в бою с большим мужеством и стойкостью. Однако численное превосходство чехословаков сломило их упорство, и к вечеру Пенза была оставлена.
30 мая по всему городу начались грабежи; «победители» грабили склады, магазины и врывались в частные квартиры, набивая свои вещевые мешки ценным имуществом. Так продолжалось до полудня 31 мая, когда из Ртищева и Сердобска подошли разбитые тыловые отряды чехов.
Выяснилось, что советская власть в Сердобске одновременно с Пензой предъявила требование чешским отрядам, стоявшим на пути Ртищево — Пенза, о разоружении. В самом Сердобске в распоряжении Совета имелся отряд всего лишь в 50 штыков, но к Ртищеву в это время на помощь в поездах прибыли красногвардейские отряды из Саратова и других городов.
В завязавшемся бою чехи были разбиты и спешно в эшелонах двинулись к Сердобску. Навстречу им на полном ходу пустили поезд-порожняк; крушение поездов закупорило путь настолько, что чехи вынуждены были высадиться и, преследуемые нашими отрядами, двинулись дальше походным порядком.
С подходом подкреплений к Пензе и одновременно к Сызрани обстановка резко изменилась в пользу наших частей. Боясь окружения, Пензенская группа чехословаков очистила Пензу и двинулась через Сызрань на Самару. Станция Сызрань была захвачена чешским авангардом 30 мая, а 31 мая, при подходе главных сил чехов, начались военные действия и в самом городе.