Resultatet är ännu mer uppseendeväckande genom att Vajpayees politik i en rad avseenden både varit framgångsrik och uppfattats som sådan av en stor del av den enorma indiska väljarkåren. Ekonomin utvecklas överraskande positivt - den invanda eländesbilden av Indien revideras i dag i rask takt. Den nationella självkänslan har stärkts genom att Indien numera är en kärnvapenmakt - även om omvärlden har svårt att uppskatta denna utveckling. Förhållandet till Pakistan har de senaste månaderna påtagligt förbättrats och någon typ av förhandlingslösning av den "eviga" konflikten om Kashmir förefaller nu ligga inom det möjligas gräns.
Inför valet utgick alla från att Vajpayee lätt skulle få förnyat mandat. Utmanaren, Kongresspartiets italienskfödda ledare Sonia Gandhi, änka efter den tidigare premiärministern Rajiv Gandhi, föreföll vara helt otänkbar i rollen som premiärminister.
Men kanske var det just självförtroendet, för att inte säga självsäkerheten, som blev regeringens fall. Trots de ekonomiska framgångarna och trots att Indien numera har en stor och ganska välbeställd medelklass så lever ändå två tredjedelar av av befolkningen på landsbygden, ofta utan el, vatten och vägar.
Kongresspartiet har, trots alla interna problem, också denna gång framstått som det naturliga alternativet för dem som inte tycker sig få del av landets framsteg. Ännu en del av partiets framgång kan förklaras med nya valallianser med mindre, regionalt förankrade, partier.
Och till detta kommer den entusiasm som uppstått genom att Sonia och Rajiv Gandhis barn, Rahul och Priyanka, nu kastat sig in i politiken.
Mycket talar för att det är denna yngre generation - Rahul och Priyanka är båda i 30-årsåldern - som kommer att avgöra hur den nya regeringens politik utformas. Förhoppningsvis innebär detta att den ekonomiska liberalisering som skett under den avgående nationalistregeringen kommer att fortsätta. Man kan nog också räkna med att den nya politiken gentemot Pakistan består - även om Vajpayees parti i opposition kan försöka vädja till samma hindunationalism som man i regeringsställning lyckats hålla inom måttliga gränser.
Kongresspartiets traditionella identitet är att försöka företräda hela Indiens mångfald och värna statens sekulära karaktär, samtidigt som man historiskt stått för en långt driven statsinterventionism i ekonomin. Ändå var det Kongresspartiet som inledde den liberalisering som nationalistregeringen drivit vidare.
Nu tar Sonia Gandhi över posten som premiärminister. Indien har alla möjligheter att få en kompetent ny regering. Och de indiska väljarna har än en gång gett världen en inspirerande lektion i demokrati.