В 1877 г. по инициативе Н. В. Калачова было утверждено Положение о Петербургском археологическом институте, а в 1878 г. он принял первых студентов. Первое время институт располагался в казенной квартире Калачова в Санкт-Петербурге и существовал на средства частных благотворителей. Это был первый институт в России, чья задача заключалась в подготовке архивистовпалеографов высокого уровня. Институт открывался как опытное учебное заведение, то есть его могли в любое время закрыть, и первоначально государство отказало ему в какой-либо помощи. Лишь с 1883 г. была назначена правительственная субсидия размером 6 тыс. рублей в год. Далее субсидии увеличивались: с 1896 г. — 18 тыс. руб., с 1912 г. — 25 тыс. руб.
Первым директором института и заведующим кафедрой архивоведения стал Н. В. Калачов. Он читал большой курс, посвященный основам науки об архивах (23 часа). Всего в институте преподавалось 12 дисциплин: архивоведение, палеография, хронология, нумизматика, древняя география, древняя, христианская и первобытная археология и др. Лекции читали известные ученые и специалисты А. И. Соболевский, Н. П. Лихачев, Н. К. Рерих, И. Е. Андриевский, А. П. Воронов и др.
До конца XIX в. институт готовил исключительно архивистов. Лица с высшим гуманитарным образованием принимались в действительные студенты (с двухлетним сроком обучения), со средним — в вольнослушатели (с трехлетним сроком обучения; с них взималась плата в размере 30 руб. в год). Количество выпускников составляло 15−20 человек в год. Однако большинство из них нс собиралось работать в архивах, да и ведомства отказывались их принимать на работу. В 1899 г. было принято новое «Положение» об институте — он превратился в популяризаторские просветительские курсы. Теперь здесь готовили не только архивистов, но и археологов.
У вуза были свои печатные органы — «Сборник Археологического института» и «Вестник археологии и истории», в которых публиковалась информация о деятельности института, архивных учреждений, об археологических раскопках и др.
Институт в разные годы возглавляли Н. В. Калачов (1977;1885), И. Е. Андреевский (1885−1891), А. Н. Труворов (1891−1896), Н. В. Покровский (1897−1917).
До 1912 г. институт являлся также научно-методическим центром для Губернских ученых архивных комиссий.
В 1922;1923 гг. институт был преобразован в Отделение археологии и истории искусств факультета общественных наук Петроградского университета.
За время существования Петербургского археологического института его окончили свыше 1,5 тыс. человек.