Гельман родился в Вильгельмсхафене, в провинции Ганновер. Первоначально он учился на инженера-электрика в Штутгартском университете, но перешел на отделение инженерной физики спустя лишь семестр. Гельман также учился в университете города Киль, а диплом получил в Институте химии кайзера Вильгельма в Берлине под руководством Отто Гана и Лизе Мейтнер.
Защита докторской диссертации происходит снова в Штутгарте под руководством проф. Эриха Регенера. Именно благодаря Регенеру он знакомится со своей будущей женой Викторией Бершнтейн, еврейкой по национальности. В 1929 году Гельман получает позицию приват-доцента в университете Ганновера и в этом же году у него рождается сын: Ганс Гельман младший. В 1933 году он проходит хабелитацию, которая открывает путь к получению постоянной должности профессора.
После прихода к власти нацистов, Гельман был признан политически неблагонадёжным и 24 декабря 1933 года уволен. Основной причиной увольнения послужила национальная принадлежность его жены. Имея два предложения — из Соединённых Штатов Америки и Советского Союза — он выбрал последнее. Основной причиной выбора в пользу СССР был увлечение социалистическими идеями и украинское прошлое его жены.
В 1933 году вместе с семьей Гельман переехал в Советский Союз и получил позицию руководителя теоретической группы лаборатории строения вещества Я. К. Сыркина в Физико-химическом институте Карпова в Москве. В 1935 году он принял советское гражданство и получил степень доктора наук. В 1937 году издал монографию «Квантовая химия», первый в мире учебник по квантовой химии (немецкое издание в том же году вышло в Вене).
Был расстрелян во времена Большого террора (арестован 9 марта 1938 года, обвинён по 58-й статье в шпионаже в пользу Германии; 28 мая того же года расстрелян). Ему было 34 года. В 1957 году полностью посмертно реабилитирован.
