Erkel Ferenc billentyűs játékosként kezdte pályáját, s Kolozsvárott töltött évei alatt is főként kiemelkedő zongoravirtuózként ismerhette meg a közönség. Ábrányi Kornél tudósítása szerint azonban itt töltött évei alatt „a kolozsvári zeneművelő közönség körében alakult hangversenyi zenekar őt választotta karnagyául.” Bár a fennmaradt adatok értelmezése vitatott, valószínű, hogy Erkel ugyanekkortájt a kolozsvári opera társulatával is kapcsolatba került, még Pestre érkezése előtt megszerezvén első operakarmesteri tapasztalatait is. 1835-ben mindenesetre Erkelt már a Budán működő Magyar Színjátszó Társaság karmesteréül kérik fel – mint Mátray Gábor lelkesen tudatta a Honművész hasábjain: „Örömmel látjuk őt most fővárosunk művészei közt megtelepedve és pedig mint nemzeti intézetünk egyik fáradozó tagját, melly hivatalnak felvállalására őt inkább hazafiságos buzgalom, mint egyéb ösztön vonzzá.” Erkel április 11-én mutatkozott be a közönségnek Rossini A sevillai borbélyát dirigálva, a Várszínházzal való kapcsolata azonban rövid epizód maradt: 1835–36 hosszú és hideg telén, amely a Duna budai oldalát csaknem megközelíthetetlenné tette a pesti közönség számára, a Színjátszó Társaság csődbe jutott.
A kudarc azonban Erkel számára egyúttal lehetőséget is teremtett, s ő a Kolozsvárra való visszatérés helyett végül a pesti Német Színház neki felkínált karmesteri pozícióját fogadta el. Az itt töltött majd’ két esztendő óriási jelentőségű Erkel karmesteri és zeneszerzői fejlődése szempontjából: egy az addig általa vezetettnél sokkalta jobb képességű operatársulat élén állva ismerkedhetett meg a kor mértékadó repertoárjával. Az olasz szerzők közül Rossini, Bellini és Donizetti uralta a repertoárt, a francia operát is a legelső vonal – Méhul, Auber, Meyerbeer – képviselte a repertoáron, de Mozart, Beethoven és Weber műveinek köszönhetően természetesen a német zene sem szorult a háttérbe. Miután azonban 1837. augusztus 22-én immár a pesti Magyar Színház is megnyitotta kapuit, Erkelt hamar magához vonzotta az új lehetőség, és Német Színházi szerződése lejártával, 1838 januárjában átvette a magyar társulat irányítását. Az átszerződésekor rendkívül szigorú feltételeket szabott, amelyek teljes kontrollt biztosítottak volna számára az előadások minden eleme fölött – az igazgatóság azonban a későbbiekben folyamatosan nyirbálta e jogköreit. Ennek ellenére Erkel a Magyar (1840 után: Nemzeti) Színház zenei vezetőjeként formálhatta az operaelőadásokat és –repertoárt leginkább a maga elképzelései szerint.
Új pozíciójában Erkel Bellini La stranierájával mutakozott be 1838. január 25-én, és az olasz repertoár a következő esztendőkben is meghatározó maradt: a Bátori Mária (L. 20) 1840 auguszusi bemutatójáig 5 itáliai szerző (Bellini mellett Rossini, Donizetti, Spontini és Mercadante) 12 művével szemben 3 francia komponista (Dalayrac, Hérold és Auber) 5 műve, 3 német komponista (Mozart, Beethoven és Weber) 4 kompozíciója és 4 magyar opera (Ruzitska József, Rózsavölgyi Márk, Bartay András valamint Szerdahelyi József tollából) került színpadra. Az olasz opera túlsúlya a ’40-es években pedig csak fokozódott: Donizetti műveit sorozatban mutatta be a Nemzeti Színház, 1847-ben pedig a Nabucco és az Ernani bemutatóival Verdi neve is megjelent a színlapokon, s tőle a következő évtized során csaknem minden évben egy-egy új mű is bemutatásra került. Ezzel párhuzamosan a francia és német zene fokozatosan háttérbe szorult, még ha Mozart Don Juanját és Figaróját, illetve Meyerbeer legfőbb műveit az ’50-es években is rendre műsorra tűzte Erkel. A magyar operák aránya ugyanakkor nagyjából változatlan maradt, s a Császár György Kunokja, valamint Doppler Ferenc Benyovszkyja és Ilkája nagy közönségsikerrel is meghálálta a bizalmat. Minthogy a korabeli színlapok a karmester nevét még nem érezték fontosnak feltüntetni, sajnos nehéz felmérni, Erkel az előadások mekkora hányadában állt személyesen a zenekar előtt. Németh Amadé a megjelent kritikákra alapozott becslése szerint mindenesetre az összes előadások mintegy háromnegyede zajlott Erkel vezetése alatt; emellett pedig természetesen a bemutatás céljából megrendelendő művek kiválasztásának feladata is elsősorban rá hárult.
Ennek megfelelően alighanem Erkel személyes ízlését is tükrözi az 1860-as években bekövetkező újabb fordulat: jóllehet Verdi újabb művei – Az álarcosbál, a Don Carlos, az Aida vagy A végzet hatalma – továbbra is rendre felbukkannak a Nemzeti Színház műsorán, az olasz opera tagadhatatlanul háttérbe szorul. A Meyerbeer mellett immár Gounod, Thomas és Bizet műveivel is jelentkező francia repertoár ugyanakkor egyre gazdagodik, számszerűleg messze maga mögé utasítva a színre kerülő német kompozíciókat is. Utóbbiak közül kiemelkedik a Lohengrin heves vitákat kavaró, 1866. december elsejei, Huber Károly vezette bemutatója, amelyről a Wagner-operák magyarországi kultuszában veszélyt sejtő Erkel tüntetően távol marad. A sikert látva azonban öt évvel később immár maga tanítja be és vezényli a Tannhäuser magyarországi bemutatóját.
Az 1874-es esztendő eleje fontos változást hoz az operatársulat működésében: Erkelt hivatalosan ugyan főzeneigazgatóvá nevezik ki, de ő gyakorlati feladatait a fanatikus Wanger-hívő Richter Jánosnak engedi át. Ezt követően már csak saját operáinak előadásait vezényli, s teljesen visszavonul a repertoárt meghatározó döntések meghozatalától is. S bár 1884-ben, a Magyar Királyi Operaház megnyitásakor Erkelt immár örökös főzeneigazgatóvá nevezték ki, e cím valójában már csupán a visszavonult mester iránti tisztelet kifejezése volt.

Operai működése mellett Erkel hangversenykarmesterként is fontos szerepet játszott a főváros zenei életének megszervezésében. Már 1840-ben bekapcsolódott a Pest-Budai Hangászegyesület munkájába, amelynek 1844-ben egyik igazgatója is lett. A főváros rendszeres zenekari hangversenyélete azonban igazából csak az 1850-as években, a későbbi Filharmóniai Társaság első koncertjeivel indult meg – Erkel ebben a fejlődésben játszott meghatározó szerepét röviden az Erkel és a Filharmóniai Társaság oldalon mutatjuk be.