Politická kariéra Horna započala v roce 1954, kdy se stal členem komunistické strany Magyar Dolgozók Pártja, která byla tehdy u moci. Byl také členem přetransformované Magyar Szocialista Munkáspárt, v jejíchž řadách vydržel až do pádu komunismu v roce 1989.
V roce 1956 se během protikomunistického povstání připojil k brigádám označovaným jako Kádárovi husaři. Tato komunistická polovojenská organizace bojovala po boku Sovětů proti revolucionářům a jedním z jejich cílů bylo upevnění pozice Jánose Kádára, který se měl stát porevolučním vládce Maďarska.
Horn mimo jiné zastával také pozici zpravodaje ministerstva financí a následně pak zabrousil do diplomatických sfér v Bělehradu a Sofii. V květnu roku 1989 byl jmenován maďarským ministrem zahraničí. V této funkci vydržel pouhý rok.
Vyznamenán Německem, odmítnut maďarským prezidentem
I přes krátké působení v této funkci však právě během něj nejvíce vstoupil do povědomí Maďarů. Jako šéf diplomacie tehdy otevřel hranice Maďarska uprchlíkům z komunistického východního Německa směřujícím do západního Německa.
Spolu s tehdejším rakouským ministrem zahraničí Aloisem Mockem již 27. června 1989 symbolicky přestřihl ostnaté dráty "železné opony" na hranici obou zemí u Šoproně. Za svoji roli v otvírání "železné opony" byl vyznamenán v několika západoevropských zemích a zvlášť byl oceněn v Německu.
První svobodné volby v roce 1990 ho následně katapultovaly do parlamentu, kde usedl jako předseda levicové strany MSZP. Jeho strana pak musel vydržet čtyři roky v opozici, v parlamentních volbách v roce 1994 však zvítězila a Horn se tak stal třetím premiérem Maďarské republiky
V roce 2007 byl Horn navržen na prestižní ocenění Magyar Köztársaság Érdemrendjének Polgári Tagozata. Tehdejší prezident země však ocenění Horna odmítl kvůli jeho bojům na straně Sovětů při výše zmíněném protikomunistickém povstání v roce 1956.
