Urodził się w Ulaniu (w powiecie łukowskim) w roku jako syn Grzegorza i Kazimiery z Karwowskich. Ukończył szkołę powiatową w Warszawie i gimnazjum w Siedlcach. Po ukończeniuseminarium duchownego w Janowie Podlaskim i wyświęceniu w sierpniu 1858 r. na kapłana, najpierw był wikarym w Kocku, a od marca 1862 r. w Zbuczynie. W lecie 1862 r. został mianowany powstańczym naczelnikiem okręgu Siedlec. Systematycznie agitował wśród okolicznej drobnej szlachty, choć napotykał na przeszkody ze strony władz kościelnych. Gdy tylko walka zbrojna wybuchła stanął na czele własnego oddziału, by następnie połączyć się z „Lelewelem”. Pełnił funkcję kapelana w oddziale pułkownika Borelowskiego. Ranny w potyczce pod Borowymi Młynami w dniu 16 kwietnia 1863 r., zmarł wieczorem jeszcze tego samego dnia w Józefowie.

Pochowany na cmentarzu parafialnym w Józefowie, gdzie do dziś znajduje się skromny pomnik na jego grobie w najstarszej części cmentarza. W potyczce pod Borowymi Młynami został śmiertelnie ranny. Na łamach krakowskiego CZASU ukazało się również kilka relacji z bitwy pod Borowymi Młynami. W jednej z nich
zamieszczono wspomnienie o księdzu Żółtowskim następującej treści: „Prawość, pobożność i poświęcenie bez granic dla sprawy ojczyzny, robiły go wzorem księdza i Polaka. Młody jeszcze, ale już pełen zasług. Był kapelanem obozowym Lelewela. Idąc przed walczącymi z krzyżem w ręku, ugodzony kulą w piersi, oddał Bogu ducha”.