Но медицинская практика мало интересовала Омара, и он решил продолжить образование. Хайям занимался у известного деятеля мусульманской культуры Сабита ибн Курры. Известно, что еще во время пребывания в Нишапуре он изучил труды греческих математиков и прочитал перевод знаменитых «Начал» Евклида.

Детство Хайяма пришлось на жестокий период сельджукского завоевания Центральной Азии. Погибло множество людей, в том числе значительная часть учёных. Позже в предисловии к своей «Алгебре» Хайям напишет горькие слова:

Мы были свидетелями гибели ученых, от которых осталась небольшая многострадальная кучка людей. Суровость судьбы в эти времена препятствует им всецело отдаться совершенствованию и углублению своей науки. Большая часть тех, которые в настоящее время имеют вид ученых, одевают истину ложью, не выходя в науке за пределы подделки и лицемерия. И если они встречают человека, отличающегося тем, что он ищет истину и любит правду, старается отвергнуть ложь и лицемерие и отказаться от хвастовства и обмана, они делают его предметом своего презрения и насмешек.

В возрасте шестнадцати лет Хайям пережил первую в своей жизни утрату: во время эпидемии умер его отец, а потом и мать. Омар продал отцовский дом и мастерскую и отправился в Самарканд. В то время это был признанный на Востоке научный и культурный центр.

В Самарканде Хайям поступает вначале учеником одного из медресе, но после нескольких выступлений на диспутах он настолько поразил всех своей ученостью, что его сразу же сделали наставником.

Как и другие крупные ученые того времени, Омар не задерживался подолгу в каком-то городе. Всего через четыре года он покинул Самарканд и переехал в Бухару, где начал работать в хранилищах книг. За десять лет, что ученый прожил в Бухаре, он написал четыре фундаментальных трактата по математике.

С группой учёных разработал солнечный календарь — намного точнее Григорианского.

В 1074 году его пригласили в Исфахан, центр государства Санджаров, ко двору султана Малик-шаха. По инициативе главного шахского визиря Омар становится духовным наставником Султана. Кроме того, Малик-шах назначил его руководителем дворцовой обсерватории, одной из крупнейших.

Он не только продолжал занятия математикой, но и стал известным астрономом. Однако в 1092 году, со смертью покровительствовавшего ему сельджукского султана Малик-шаха и его визиря Низам ал-Мулка его исфаханский период заканчивается. Обвинённый в безбожном вольнодумстве, поэт вынужден покинуть сельджукскую столицу. Он скитается по дворам разных властителей, затем возвращается в родной Нишапур, где умирает в нищете и одиночестве.