A terület már a honfoglalás előtt lakott hely volt. A közeli Novák első említése 1210-ből származik, de Horvátkimle és Magyarkimle is biztosan létezett már a 15. század elején. Mégis, csak az 1872-73-ból származó III. katonai felmérés az első forrás, amelyben szerepel a késöbbi Károlyháza.

A térkép az akkor Moson mezőváros területéhez tartozó uradalmi majorságot még Winter néven tűnteti fel. A Károlyháza elnevezéssel először az 1898-as helységnévtárban találkozhatunk. Ettől kezdve az 1900-as években Károlyháza puszta, Károlyháza majorként szerepel a helységnévtárakban.

Nevét feltehetően a 19. század közepén élt Károly főhercegről, a magyaróvári uradalom tulajdonosáról kapta. Moson 1904-es kataszteri térképe a mai település helyén mindössze a felvételi épületet, valamint a majort ábrázolja. 1933-ban Károlyháza majorban már 75 fő, a mellette fekvő- a mai Károlyházához tartozó -Rábl-majorban pedig 65 fő élt.

A Rábl-major 1886-ban szerepel először a forrásokban. A II. világháború után a birtokot államosították, s megalakult a Károlyházi Állami Gazdaság. 1956-ban Károlyháza még Mosonmagyaróvár tartozéka volt. Három évvel később, 1959-ben a majort Horvátkimléhez csatolták.

1966 szeptember 30-án Magyarkimle és Horvátkimle egyesült, s innentől kezdve önállósulásig Károlyháza Kimle külterületi lakott részét képezte. 2002. október 20-án az említett településrészek Károlyháza néven önálló településsé váltak.