Apja, idősebb Rubik Ernő gépészmérnök, repülőgép-tervező az esztergomi repülőgépgyárban, anyja költő volt. A Képző- és Iparművészeti Szakközépiskola jó indulás volt a szülők mérnöki és művészi vénájának folytatására; ötvös-, festő- és szobrásztanulmányokat folytatott. 1967-ben építészmérnökként végzett a BME Építészmérnöki Karán, majd 1971-ig az Iparművészeti Főiskolán szobrászatot és belsőépítészetet tanult tovább. 1975-ig építész-tervezőként dolgozott, majd visszament tanítani az Iparművészeti Főiskolára, ahol tanársegéd, majd adjunktus, docens lett. A nyolcvanas évekelején főszerkesztője volt az …És játék című lapnak, majd 1983-ban saját vállalkozást alapított, a Rubik Stúdiót, ahol bútorokat és játékokat tervezett. 1987-től címzetes egyetemi tanár, 1990-től a Magyar Mérnök Akadémia elnöke, később tiszteletbeli elnöke.
A Magyar Mérnök Akadémián belül létrehozta a Rubik Nemzetközi Alapítványt, a kiemelkedően tehetséges fiatal műszakiak és iparművészek támogatására. Jelenleg a Moholy-Nagy Művészeti Egyetem tanára és a Rubik Stúdiót igazgatja, valamint a játékszoftverek fejlesztése és az építészeti témák kötik le.
A Rubik-kocka 40. évfordulóját 2014-ben világszerte megünnepelték.
Fia Rubik Ernő Zoltán zeneszerző, jazz-zongorista.
Nevéhez több logikai játék megalkotása is fűződik. Mindenekelőtt a bűvös kocka (ami külföldön Rubik-kocka néven lett ismert), ami 1975-ös megjelenését követően példátlan nemzetközi népszerűséget ért el. Később a kígyó (1977) és bűvös négyzetek (1985) nevű játékokat is megalkotta, ám ezek népszerűsége már nem érte el a bűvös kockáét. Maga a bűvös kocka tulajdonképpen csak egy, a térbeli mozgások szemléltetésére alkalmas eszköznek készült, később derült ki, hogy játékként is igen szórakoztató. További ismertebb játékai a bűvös dominó, a sudokube és a Rubik-óra is, valamint 2009-ben jelent meg a Rubik’s 360 néven kiadott Rubik-gömb
.Rubik-kocka
Rubik-kígyó összehajtogatva.
A 12 elemű bűvös négyzetek
A Rubik-gömb (angolul: a Rubik's 360) abban különbözik Rubik Ernő eddigi játékaitól, hogy nem igazán matematikára, hanem inkább a fizikára teszi a hangsúlyt (pl.: súly, gravitáció).
A játék három gömbből áll. A legbelső egy ellensúllyal és egy kimeneti lyukkal, a középső gömb egy ellensúllyal és két kimeneti lyukkal van felszerelve. A harmadikban különböző színű „házak” találhatók, valamint két forgató „sipka”. A forgató csavaroknak az a feladata, hogy a játékot – úgymond – le tudjuk menteni.
A középső gömb a külső gömbhöz van szerelve (így ha úgy fordítjuk, hogy a forgatók legyenek felül, csak vízszintesen foroghat). A legbelső gömb trükkösen a középső gömbhöz van szerelve, így az a külső gömbhöz képest bárhogy állhat.
A feladat: a legbelső gömbből ki kell vezetni hat golyót. A feladat nehézségét az ellensúlyok adják, vagyis golyók felett van mindig a kimeneti nyílás. Ha sikerül megoldani ennek a titoknak a nehézségét, akkor gyerekjáték a kirakás.