Robert Musil, 1880 yılında Avusturya'nın Klagenfurt şehrinde, mühendis bir baba ve entelektüel bir annenin tek çocuğu olarak dünyaya geldi. Babası, teknik ve rasyonel düşünceyi; annesi ise sanatı ve duygusal karmaşayı temsil ediyordu. Bu ikilik, Musil'in tüm hayatına ve eserlerine yansıdı: O, "ruh" ile "matematiği" birleştirmeye çalışan bir yazar oldu.
Gençliğinde ailesi tarafından zorla askeri okula gönderildi. Buradaki baskıcı ortam ve tanık olduğu zorbalıklar, ruhunda derin yaralar açtı ve ilk romanı Genç Törless'in Çalkantılarına ilham kaynağı oldu. Askerlikten nefret ettiği için mühendislik eğitimi aldı ve makine mühendisi oldu. Ancak bu da yetmedi; Berlin'e gidip felsefe, mantık ve deneysel psikoloji okudu. Ernst Mach üzerine yazdığı doktora teziyle parlak bir akademik kariyere başlayabilirdi ama o, "hayatı bir laboratuvar gibi incelemek" için yazarlığı seçti.
I. Dünya Savaşı'nda İtalyan cephesinde subay olarak savaştı. Savaşın dehşeti ve imparatorluğun çöküşü, onun "tarih" ve "toplum" anlayışını kökten değiştirdi. Savaştan sonra, hayatının projesi olan Niteliksiz Adamı yazmaya başladı. Bu kitap üzerinde tam 20 yıldan fazla çalıştı. Mükemmelliyetçiliği yüzünden bir cümleyi yüzlerce kez değiştiriyor, bölümleri sürekli yeniden kurguluyordu.
1930'da kitabın ilk cildi yayımlandığında büyük övgüler aldı (Thomas Mann onu "çağın en önemlisi" ilan etti) ancak ticari bir başarı getirmedi. 1933'te Nazilerin iktidara gelmesiyle kitapları yasaklandı. Musil, Yahudi olan eşi Martha ile birlikte önce Viyana'ya, sonra İsviçre'ye (Cenevre) kaçmak zorunda kaldı. Sürgün yılları sefalet, unutulmuşluk ve yalnızlık içinde geçti. Bir yandan maddi zorluklarla boğuşuyor, bir yandan da dev eserini bitirmeye çalışıyordu.
15 Nisan 1942 günü, Cenevre'de sabah jimnastiği yaparken ani bir kalp krizi sonucu hayatını kaybetti. Masasının üzerinde Niteliksiz Adamın bitmemiş taslakları duruyordu. Öldüğünde neredeyse unutulmuştu; ancak 1950'lerde eserinin tekrar keşfedilmesiyle, James Joyce ve Marcel Proust ile birlikte 20. yüzyılın en büyük üç yazarından biri olarak kabul edildi.
