М. Боголюбов був офіційно прийнятий до Інституту математики на посаду старшого наукового співробітника 1 березня 1945 року, а з 1 квітня він очолив відділ асимптотичних методів та статистичної механіки. Наказ про звільнення від 1 листопада 1956 року підписав його учень Ю. Митропольський, який на той час був заступником в.о. директора інституту О. Парасюка.
Проте його доля була пов’язана з інститутом математики задовго до цього. М. Боголюбов був учнем професора Д. Ґраве, який у березні 1920 року заснував Математичний Інститут при УАН. У віці тринадцяти років М. Боголюбов стає учасником відомого математичного семінару професора Д. Ґраве. Під його впливом він формується як натурфілософ, вченим у галузі математичної та теоретичної фізики. Згодом у червні 1925 року на прохання Д. Ґраве Мала Президія Укрголовнауки постановила розглядати М. Боголюбова аспірантом науково-дослідної кафедри математики в Києві (на той час аспірантури в Академії наук не було), що дало йому можливість захистити докторську дисертацію у 1928 році.
Нижче в списку літератури наведено наукові шедеври, які створив М. Боголюбов в Інституті математики Академії наук України.
У своїй відомій монографії «Проблеми динамічної теорії в статистичній фізиці» [1], яка була рукописом звіту за 1945 р. в Інституті математики, М. Боголюбов сформулював послідовний підхід до проблеми виведення кінетичних рівнянь із динаміка багатьох частинок. Використовуючи методи теорії збурень, було розроблено стратегію побудови узагальнення рівняння Больцмана, яке в наш час відоме як кінетичне рівняння Боголюбова, та інших нелінійних кінетичних рівнянь. В цій праці вперше було з'ясовано механізм незворотності еволюції багаточастинкових систем, динаміка яких описується оборотними в часі фундаментальними рівняннями еволюції. Ці результати були поширені на квантові багаточастинкові системи [3], [7]. У піонерській роботі [6] явище надплинності було описано за допомогою квантового кінетичного рівняння, а саме нелінійного рівняння Шредінгера. Трохи згодом в Збірнику праць Інституту Математики [8] М. Боголюбов опублікував статтю про виведення рівнянь гідродинаміки з ієрархії фундаментальних еволюційних рівнянь Боголюбова-Борна-Гріна-Кірквуда-Івона.
Ідеї Боголюбова в Інституті математики заклали основи теорії кінетичних рівнянь та, як відзначається в наш час, стали колискою сучасної статистичної механіки.