Слово происходит от арабского ‘ʿulamāʾ’ (علماء) — формы множественного числа от ‘ʿalīm’ (учёный, знающий). Исторически и культурно термин неразрывно связан с исламским миром, в частности со странами Ближнего Востока, Северной Африки и Османской империей, где улемы традиционно представляли собой влиятельное сословие признанных богословов и знатоков священного исламского права (шариата).