В 1899 окончил Петербургский технологический институт. В 1906 за участие в революционном движении был осужден на 11/2 года тюремного заключения. В заключении написал первую свою научную работу «Теория продольного изгиба и применение ее к расчету конструкций» (опубликовано в 1909 году).

Преподавательскую деятельность начал в 1909.

Труды Галёркина., относящиеся к проблемам строительной механики и теории упругости, способствовали внедрению современных методов математического анализа в исследовании работы сооружений, конструкций и машин. Разработал эффективные методы точного и приближённого интегрирования уравнений теории упругости.

Галёркин — один из создателей теории изгиба пластинок. Исследовал влияние формы пластинки на распределение в ней усилий, эффект распределения местного давления, влияние упругости опорного контура. Предложенная Галёркиным в 1930 форма решения уравнений упругого равновесия, содержащая три бигармонические функции, позволила эффективно решить многие важные пространственные задачи теории упругости.

В работах по теории оболочек отказался от общепринятых гипотез относительно характера изменения смещений по толщине и ввёл др. допущения, обеспечивающие большую точность и возможность распространить теорию на оболочки средней толщины.

Был консультантом при проектировании и строительстве крупных гидростанций (Волховгэс, Днепрогэс, Дзорагэс и др.), а также теплоэлектростанций ("Красный Октябрь", "Дубровская" и др.).

Лауреат Сталинской премии первой степени 1942 года. Награжден 2 орденами Ленина.