Stein iskolai tanulmányait Budapesten kezdte, majd Drezdában folytatta. Érettségit a nagy hírű budapesti Ágostai Hitvallású Evangélikus Főgimnáziumban tett. Ezután a bécsi, lipcsei és tübingeni egyetemeken tanult a korszak legkiválóbb indológusai és iranistái vezetésével. Huszonegy évesen a kiváló Véda-tudós, Rudolf von Roth (1821-1895) irányításával szerzett doktori fokozatot. 1884 és 1886 között állami ösztöndíjjal posztdoktori tanulmányokat folytatott Londonban, Oxfordban és Cambridge-ben, ahol olyan intézmények könyv- és éremgyűjteményeiben kutathatott, mint az Ashmolean Museum, a Bodleian Library és a British Museum. A modern indiai nyelvekkel a wokingi Oriental College-ben ismerkedett meg, melynek alapítója és vezetője a pesti születésű Wilhelm Gottlieb Leitner (1840-1899) volt. Az 1885-1886 tanévben ösztöndíját megszakítva teljesítette kötelező katonai szolgálatát a Ludovika Akadémia egyéves önkéntesi tanfolyamán. Ott elsajátított földmérési és térképészeti ismeretei nagymértékben hozzájárultak Belső-Ázsia feltérképezésében elért eredményeihez, és jelentős szerepéhez a földrajztudomány történetében.