Amikor legidősebb, József névre keresztelt fiuk született, 1895. november 10-én, akkor a Zala vármegyei Göcsejben, Páka községben éltek. Az elemi iskola első öt osztályát 1901-től 1906-ig a Győr vármegyei Péren végezte, a település tiszteletére róla nevezte el az intézményt. Közben még három testvére született. Szülei a győri bencés gimnáziumba adták. Tizennégy éves korában, 1910-ben meghalt édesapja, az édesanyja tovább taníttatta.
A bencés rendnek nem minden tagja foglalkozott tanítással, ezért szerzetesi családjául a legnagyobb tanító-rendet, a piaristákat választotta. 1912-ben, tizenhét éves korában vették fel, szerzetesi újoncévét, a noviciátust a váci rendházban töltötte. A gimnázium VII. és VIII. osztályát kitűnő eredménnyel végezte a kecskeméti piaristáknál és 1915-ben hasonló eredménnyel érettségizett.
Egyetemi tanulmányait mint matematika-fizika szakos tanárjelölt a budapesti Pázmány Péter Tudományegyetemen végezte. Párhuzamosan a piarista rend pesti hittudományi főiskoláján teológiai tanulmányokat folytatott. Közben 1917. december 24-én letette az ünnepélyes fogadalmat. Szaktárgyaiból az összes vizsgát kitüntetéssel végezte el. A későbbi Nobel-díjas Hevesy professzor egyetemi tanársegédi kinevezésre terjesztette fel.
A piarista rend 1919. szeptember elsejétől a szegedi Piarista Gimnáziumba helyezte. 1919. december 16-án tette le a tanári vizsgát és megkapta a tanári oklevelet, és ettől az időtől középiskolai rendes tanárként tanított. 1920. július 4-én szentelték pappá. Így vált teljes értékű piarista tanárrá.
1919–1922 között kezdte pályáját Szegeden, a piarista gimnáziumban, ahol mennyiségtant, vallástant, történelmet és földrajzot tanított, fizikát viszont nem. 1922–1924 között Tatán volt tanár, a piarista rend gimnáziumában. Ekkor jelent meg első zsebkönyve, melyet az újságban szellemesen így hirdetett: „Adja el esernyőjét és vegye meg Öveges József: Időjóslás és időhatározás című könyvét”. 1924 és az 1930-as évek között Vácon a piarista gimnáziumban tanított. 1930–1940 között ismét a tatai piarista gimnáziumban tanár. Ezekben az években írta első tankönyveit (pl. Kis fizika). Az Öreg-tó jegén reverendában korcsolyázás közben kitalálta a vitorlás korcsolyázást. Cserkésztisztje volt a 146. számú Révai Miklós Cserkészcsapatnak. 1940–1946 között Budapesten a piarista gimnáziumban tanár.
A budapesti piarista gimnázium 1946–47. tanévi évkönyvében a következők szerepelnek: „Öveges Józsefet a tartományfőnök úr erre a tanévre felmentette a gimnáziumi tanítás alól és megengedte neki, hogy a Magyar József Nádor Műegyetem Gazdasági Szaktanárképző Intézetében a négy évfolyam hallgatóinak teljes fizikai képzését elvállalja.” Öveges József középiskolai tanári működése ezzel lezárult. 1947–1948-ban a Közgazdasági Egyetem intézeti tanára volt. 1948 és 1955 között a Budapesti Pedagógiai Főiskola fizika tanszékvezető főiskolai tanára. Öveges József az 1948-ban alapított és az általa elnyert Kossuth-díjból és egyéb támogatásokból Budán, a Széll Kálmán tér közelében egy akkor épült házban öröklakást vett magának és oda költözött ki a rendházból, elöljárói engedéllyel. Későbbi években, haláláig, a piarista rendházba járt ebédelni.
1953-tól az Élet és Tudomány című hetilap szerkesztő bizottsági tagja. 1955-ben a Budapesti Pedagógiai Főiskola megszűnésekor saját kérésére nyugalomba vonult. 1958-ban a Miskolci Nehézipari Műszaki Egyetem meghívta tanszékvezető egyetemi tanárnak, amit visszautasított. 1958-tól a Magyar Televízió 100 kérdés – 100 felelet című műsorának főszerkesztője volt (az adás 135 alkalommal volt műsoron). A Magyar Rádióban 256 előadást tartott. Több mint harminc éven keresztül a Tudományos Ismeretterjesztő Társulat (TIT) országos elnökségének tagja volt.
Az élete hátralévő éveiben életmódján semmit sem változtatott (pl. hajnalban kelt.) Csupán július végén vagy augusztus elején két-három hetes „nyári szünetet” engedélyezett magának. Ezt az időt szülőföldjén, Pákán töltötte. Halála előtt egy héttel még rádiós riporton dolgozott. 1979. szeptember elején agyvérzéssel kórházba szállították és néhány nap múlva meghalt. 1979. szeptember 14-én a budapesti Farkasréti temetőben, szállítás előtti beszentelése történt meg. Szeptember 18-án temették Zalaegerszegen. Díszsírhelye – kívánságának megfelelően – közel van édesanyja sírjához.
