Joseph wurde 1883 in Mönchengladbach, in der Nähe von Düsseldorf in Deutschland geboren. Schon als kleiner Junge war er ein kränkliches Kind der an Asthma, Rachitis und Rheumatischen Fieber litt.

Sein Vater war ein preisgekrönter Turner und seine Mutter eine Heilpraktikerin.

Eines Tages bekam er vom Hausarzt ein Anatomiebuch geschenkt „…ich lernte jede Seite, jedes Körperteil; ich bewegte jedes Teil während ich es auswendig lernte. Als Kind konnte ich stundenlang im Wald liegen, mich verstecken und die Bewegungen der Tiere beobachten, wie die Mutter ihre Jungen unterrichtete“. Er erlernte sowohl die östlichen als auch die westlichen Übungsarten, als auch Yoga.

Im Alter von 14 Jahren hatte er in harter Eigenarbeit bereits solch einen Körper entwickelt, dass er für Anatomie Schaubilder Modell Stand. Während er in Deutschland aufwuchs, hatte er kleinere Erfolge als Boxer sowie als Turner und entwickelte sich zu einem ausgezeichneten Skiläufer und Taucher.

1912 ging er nach England, wo er sein Geld zunächst als professioneller Boxer und Zirkusartist verdiente. Als 1914 der 1. Weltkrieg ausbrach kam Joseph mit anderen Deutschen in ein Lager für feindliche Ausländer, in der Nähe von Lancaster. Dort unterrichtete er die Insassen des Blocks und alle wurden kräftiger als vor Beginn ihrer Internierung. Für die bettlägerigen Patienten entwickelte er Geräte mit Seilzügen und Bettfedern. Hier entstand nun das Pilatessystem. Joseph nannte sein System „Contrology“.

Nach dem Krieg kehrte Joseph nach Deutschland zurück und unterrichtete die Hamburger  Militärpolizei in Selbstverteidigung und körperlichem Training. 1925 wurde er gebeten, die Neue Deutsche Armee zu trainieren. Da er jedoch mit der politischen Entwicklung in Deutschland nicht einverstanden war ging nach Amerika.

Auf der Überfahrt in die USA lernte er seine Frau Clara kennen. 1926 eröffnete er zusammen mit seiner Frau Clara das erste Pilatesstudio über dem New York City Ballett.

Unter seinen Schülern waren Ballettgrößen wie Martha Graham, George Balanchine und Hanya Holm ebenso wie Geschäftsleute, Politiker und Sportler.

1967 starb Pilates im Alter von 84 Jahren. Clara, unterrichtete und führte das Studio weiter bis zu ihrem Tod zehn Jahre später im Jahre 1977.

Bis zu seinem Tod unterrichtete Pilates seine Methode, die ausgehend von einem einzigen Studio weltweit Anklang und Anerkennung findet und von Menschen jeden Alters ausgeübt wird.