Akcja powieści rozgrywa się pod koniec XIX wieku. Tytułowy, straszny dziadunio to Polikarp Białopiotrowicz, właściciel rozległego majątku Tepeniec, osoba majętna i władcza. Ma dwóch wnuków: Alberta i Hieronima, przy czym pierwszemu pozwala prowadzić rozrzutny tryb życia, zaś drugiego niemiłosiernie doświadcza.
Hieronim, człowiek szlachetny i prawy, zdobywa wykształcenie, doświadczenie i poważanie w pracy kosztem zdrowia i obniżającego się poziomu życia. Kiedy, przez oszustwo Alberta, zostaje oskarżony przez przełożonego o niezaksięgowanie weksla, załamuje się i decyduje popełnić samobójstwo. W ostatniej chwili pojawia się dziad Polikarp i wszystko wyjaśnia, jednak Hieronim zapada na tyfus i zapalenie mózgu. Dziadek zabiera go do Tepeńca, przepraszając i modląc się o wyzdrowienie wnuka. Jednak to nie następuje. Dopiero spotkanie Heronima ze swoją dawną, kochaną wychowanką, Bronką, cudownie wraca mu siły, zaś oświadczyny przynoszą szczęśliwe zakończenie.