В 1922 году окончил университет города Яссы. С 1922 по 1925 он учился в университетах Берлина, Геттингена, работал в области аналитической теории чисел, под руговодством Исая Шура. Защитил диссертацию в Университете города Яссы, получив степень доктора в 1926 году. В Геттингене, он встретил Эдмунда Ландау, который организовал для Шенберга поездку в Еврейский университет в Иерусалиме в 1928 году. В ходе этого визита, Шенберг начал свою фундаментальную работу на тему вполне положительных матриц. В 1930 году он вернулся в Берлин из Иерусалима, и женился на дочери Ландау Шарлотте.
В 1930 году он получил стипендию Рокфеллера, которая позволила ему продолжить работу в США, в Университете Чикаго, Гарвардском университете, и Институте Перспективных Исследований в Принстоне (англ. ), штат Нью-Джерси. С 1935 года он преподавал в колледже. В 1941 году получил должность в Пенсильванском университете. В течение 1943—1945 он находился в отпуске, выполненя для военных работу как математик на Абердинском полигоне. В это время он приступил к работе, которая его прославила, теории сплайнов.
В 1966 году он перешёл в университет Висконсин-Мэдисон (англ. ), где он стал членом математического Научно-исследовательского центра. Он оставался там до тех пор, пока он вышел в отставку в 1973 году.
