1836-cı ildə Avstriyada hərbi xidmətə başladı, şəhərində hərbi mühəndislik məktəbində təhsil almışdır. 1839-cu ildə leytenant rütbəsi ilə təhsilini bitirdi. Təhsilini Vyanadakı Hərbi Coğrafiya İnstitutunda kartoqrafiya ixtisası üzrə davam etdirdi.

1848-ci il inqilabı baş verəndə sərhəd keşikçi alayının mayoru rütbəsinə sahib idi. Macarıstanda qiyamın yatırılması zamanı başçılıq etdiyi qoşunda fərqlənmişdir. 1857-ci ildə polkovnik, sərhəd keşikçilərinin 5-ci alayının komandiri təyin olundu. 1859-cu ildə general-mayor rütbəsini aldı, briqada komandiri oldu. 1859-cu ildə zamanı 6-cı ordu korpusunda döyüşdü, iştirak etdi. 1860-cı ildə ona baron irsi adı verildi.

1866-cı il Avstriya-Prussiya müharibəsi zamanı Bohemiyadakı döyüşlərdə iştirak etdi, ikinci ordu korpusunda ikinci dərəcəli general olan qraf Karl fon Tun-und-Hohenşteynin köməkçisi oldu.

Müharibədən sonra rütbəsini qazandı, ilk öncə Vyanada yerləşən diviziyanın, sonra da və hərbi dairələrinin komandiri oldu. 1871-ci ildən üzvü idi. 1872-ci ildə Brünnə təyin olundu. 1874-cü ilin yanvar ayında feldtseyxmeyster rütbəsinə layiq görüldü. Həmin ilin iyun ayında Bohemiyadakı hərbi dairənin komandiri təyin edildi.

1878-ci ilin iyul ayında Berlin konqresinin sonunda Bosniya və Herseqovina işğalında başçılıq etdi və nəticədə yaranan kondominiumunun hərbi qubernatoru təyin edildi.

1880-ci ildə Vyanaya qayıtdı, 1882-ci ildə Praqada qərargahı olan Bohemiya hərbi dairəsinin komandiri təyin edildi. 1882-ci ilin dekabr ayında orada yerləşən 8-ci ordu korpusunun komandir təyin edildi.

İosif Filippoviçin kiçik qardaşı da Avstriya-Macarıstan İmperiyasının böyük hərbi komandirlərindən idi, feldtseyxmeyster idi. İqtisadçı alim onun əmisi oğlu idi.

• Constantin von Wurzbach. Philippović von Philippsberg, Joseph Freiherr. // Biographisches Lexikon des Kaiserthums Oesterreich. — Bd. 22. — : Verlag L. C. Zamarski, 1870.
• Karl Sommeregger. Philippovic von Philippsberg, Josef Freiherr. // Allgemeine Deutsche Biographie (ADB). — Bd. 53. — : Duncker & Humblot, 1907.
• R. Egger. Philippovich von Philippsberg Josef Frh.. // Österreichisches Biographisches Lexikon 1815—1950 (ÖBL). — Bd. 8. — : Verlag der Österreichischen Akademie der Wissenschaften, 1983. — ISBN 3-7001-0187-2
• Biographisches Lexikon zur Geschichte der böhmischen Länder. Herausgegeben im Auftrag des Collegium Carolinum (Institut) von Ferdinand Seibt, Hans Lemberg, Helmut Slapnicka, Bd. III. — Oldenbourg Verlag, 2000