Марр, казалось, добился очень многого. Безвестный юноша, приехавший в столицу из глухой провинции, пробивший дорогу себе сам, стал знаменитым ученым, при жизни его называли великим. Выходили цитатники его трудов, чего в стране, кажется, более никто, кроме Сталина, при жизни не удостаивался. Одним из первых он получил орден Ленина.
Но нельзя думать, что он так уж был во всем благополучен. И в этой жизни бывали свои беды и страдания. Трагической оказалась судьба его детей. Из четверых двое умерли в младенчестве, один из сыновей в годы Гражданской войны были призван в Красную армию и умер там в 23 года от тифа. Последний оставшийся сын Юрий, также ставший востоковедом (иранистом), к тому же поэт-футурист (его поэтическое наследие и сейчас изучают), совсем молодым заболел туберкулезом, отец послал его жить на туберкулезный курорт в Абастумани, но Юрий так и не выздоровел и умер в 42 года, правда, на год пережив отца. А мать пережила всех детей! Все основные материалы экспедиции в Ани ученый в годы Гражданской войны отправил из Петрограда в Закавказье для предполагавшегося музея, по дороге на поезд напали бандиты, и все пропало (а Ани после войны оказался на турецкой территории и стал недоступен). Во время «Академического дела» 1929–1930 гг., когда была арестована группа академиков, Николай Яковлевич тоже, говорят, боялся неприятностей. Один из сотрудников Яфетического института рассказывал, что, зайдя к нему домой, обнаружил знаменитого академика… под кроватью: тот, услышав звонок в дверь в неурочное время, решил, что за ним пришли. И это не было абсолютно не обоснованно: пострадавшие по делу рассказывали, что у них брали показания и на него. Но Марр был нужен власти, и в итоге, арестован не был и проработкам не подвергся.
И грустным был конец жизни ученого. В октябре 1933 г., в разгаре деятельности, с ним на работе случился инсульт. И. В. Мегрелидзе уже в годы перестройки утверждал, будто его спровоцировало резкое заявление Сталина о том, что Марр «сорвал языковое строительство», но подтверждений этому нет. Марр несколько дней находился между жизнью и смертью, его долго не могли даже вывезти из ГАИМК в больницу. В тот раз он выжил, даже стал появляться на людях и ездил в санаторий в Крым, но полного восстановления так и не случилось, работать он больше не смог. Коллеги запомнили, как на похороны его старого друга академика С. Ф. Ольденбурга с огромным трудом все-таки пришел Марр и сказал: «Прощай, Сергей, мы скоро встретимся». А Николай Яковлевич перед этим объявил себя атеистом. Помирившийся с учителем под конец его жизни И. А. Орбели рассказывал, что тот уже тяготился «новым учением» и с тоской вспоминал о временах яфетической семьи. Но ученый уже не был властен над созданным им мифом. Марру становилось все хуже, и 20 декабря 1934 г. он умер. Похоронили его в Александро-Невской лавре пышно, в день похорон в Ленинграде отменили занятия в школах.