Архив как структурное подразделение музея был организован в 1935 г., однако собрание документов, составляющее его основу, начало складываться уже с первых месяцев деятельности Этнографического Отдела Русского музея.
В канцелярии Отдела хранилась переписка с фондообразователями («собирательские дела») и описи музейных коллекций («коллекционные списки»), а в библиотеку поступали рукописи научных трудов сотрудников и целые архивные фонды учёных-этнографов. Первым подобным собранием были библиографические материалы по русской этнографии, переданные А. Н. Пыпиным «на условиях дальнейшей обработки их под наблюдением этнографического отдела Русского Музея» и последующей публикации. Следующим и наиболее значительным поступлением стали материалы «Этнографического бюро» князя В. Н. Тенишева, переданные в музей в 1904 г. княгиней М. К. Тенишевой.
Уже в 1928 г. было принято решение «обязать сотрудников представлять в Отдел научные отчеты о командировках». Все документы и рукописи регистрировались в инвентарной книге библиотеки, для их учёта была также заведена специальная шифровая книга «Рукописи» (весной 1930 г. в ней значилось 38 номеров). Помимо канцелярии и библиотеки, архивные материалы накапливались и хранились на рабочих местах сотрудников. Однако, несмотря на внимание руководства музея к проблеме создания архива, в 1920-е гг. она так и не была решена.
Ситуация начала меняться только после 1934 г., когда Этнографический Отдел стал самостоятельным Государственным музеем этнографии. В 1935 г. архив получил статус отдельного подразделения музея, а его первым заведующим стал Андрей Григорьевич Данилин, начавший работу по сбору, систематизации и описанию архивных материалов. К ноябрю 1936 г. им была составлена первичная опись «с краткими аннотациями и указанием местонахождения материалов», что сделало архив доступным «для научной разработки». Особое внимание А.Г.Данилин уделил научно-собирательской переписке музея, а также материалам «Этнографического бюро» кн. В. Н. Тенишева, «Аннотированный указатель» к которым был готов к 1938 г.
Во время Великой Отечественной войны работа по систематизации и описанию фондов архива была приостановлена. В 1942 г. А. Г. Данилин умер в блокадном Ленинграде.
Система хранения архива в период войны была нарушена. В течение первых послевоенных лет архивные материалы снова поступали в библиотеку музея. В 1947 г. туда из «отдела временного хранения» был передан архив М. Н. Хангалова, содержащий материалы по этнографии бурят. Тогда же, в 1947 – 1948 гг., в библиотеку поступали на хранение отчёты сотрудников об экспедициях и научных командировках.
С конца 1950 г. разбором архивных материалов, хранившихся после войны в связках, занимался научный сотрудник отдела Средней Азии Юрий Валентинович Кнорозов. К 1953 г. он предварительно разобрал документы, выделив несколько больших тематических разделов. После ухода из музея Ю. В. Кнорозова, ведение архивом было поручено учёному секретарю Петру Ивановичу Каралькину.
В 1953 г. хранившиеся в библиотеке документы и большая часть её рукописного собрания были переданы в возрождавшийся архив, в истории которого начался новый этап. Постепенно было упорядочено поступление управленческой документации музея и документов по личному составу, началась работа по описанию ранее неразобранных материалов, налажена работа в архиве сотрудников музея и сторонних исследователей.
В 1960 г. заведующим архивом был назначен Владимир Степанович Бойков. В 1960-1970-е гг. при содействии ленинградских архивистов было проведено фондирование – т.е. описание и систематизация архивных материалов – составлены описи и сформирована система фондов, существующая до настоящего времени.
С середины 1960-х гг. в официальных документах архив начинает называться «сектором/секцией рукописей». До второй половины 1970-х гг. ежегодный отчёт секции рукописей в общих отчетах музея относился к разделу «Работа научно-вспомогательных отделов», однако затем переместился в раздел «Учётно-хранительская работа» и относится к ведомству главного хранителя музея как часть отдела учёта.
В 1987 г. на должность хранителя секции рукописей была назначена Валентина Петровна Иванова. Помимо работы по комплектованию архива материалами музейного делопроизводства и приему посетителей в читальном зале, она активно занималась научно-технической обработкой фондов личного происхождения. В 1990-1991 гг. помещение архива было переоснащено новым оборудованием. После ухода из музея В. П. Ивановой хранителями архива (секции рукописей) были Елена Ивановна Рачкова и Виктория Эдуардовна Первак, а в 2001 г. на эту должность была назначена Ольга Петровна Игнатьева, которая до 2016 г. сочетала работу в архиве с хранением иллюстративного фонда музея.
В 2003 г. из Отдела научной документации и специализированного хранения (ранее – Отдел учёта) был выделен Отдел специализированного хранения, объединивший несколько музейных фондов, а также секцию рукописей («архив/научный архив»).
В 2014-2016 гг. была проведена реконструкция помещения архива и иллюстративного фонда музея и переоборудование хранилищ новыми системами хранения.
В 2016 г. хранителем архива была назначена Анна Николаевна Копанева.
