Venne inventato dall'architetto e scultore ungherese Ernő Rubik nel 1974 e chiamato dal suo creatore Magic Cube, quasi a confermare l'ispirazione iniziale dei quadrati magici. Il nome con cui è diventato noto nel mondo, Rubik's Cube, venne inveve proposto dalla Ideal, la ditta che, a partire dal 1980, lo ha commercializzato come rompicapo.
Il cubo venne anticipato da due precursori, entrambi datati 1970: un primo brevetto venne infatti ottenuto nel marzo del 1970 dal creatore di rompicapi Larry Nichols, che propose un cubo 2x2x2 di cubi in grado di muoversi grazie a dei piccoli magneti (ottenne anche un secondo brevetto, questa volta negli Stati Uniti - il primo lo aveva ottenuto in Canada - nel 1972); ad aprile, invece, Frank Fox, chiese il brevetto per un altro rompicapo scorrevole, questa volta sferico (alla fine ottenne il brevetto nel 1974 in Gran Bretagna).