В начале 1790-х годов А. А. Вяземский стал все чаще и чаще болеть. Он уже не мог в полную силу выполнять генерал-прокурорские обязанности и просился в отставку, но Екатерина II все тянула с этим вопросом. В сентябре 1792 года, когда он был уже прикован к постели, она приняла его отставку. Его обязанности она разделила между четырех человек. Генерал-прокурорскую должность «на короткое время» поручила А. Н. Самойлову.
Статс-секретарь Екатерины II Храповицкий записал в своих «Записках» выражение императрицы: «Жаль князя Вяземского, он мой ученик, и сколько я за него вытерпела» .
Генерал-прокурор Вяземский постоянно пользовался милостями Екатерины II. Вскоре после вступления в должность он получил чин генерал-поручика и был пожалован орденами Белого Орла и Св. Анны. В последующем он награждался орденами Св. Александра Невского, Св. Андрея Первозванного и многими другими. В качестве награды за свои труды он получал также от императрицы крупные денежные суммы и крепостных крестьян.
Вяземский был женат на дочери бывшего генерал-прокурора Н. Ю. Трубецкого — Елене Никитичне.
Отзывы о нем весьма противоречивы. А. М. Тургенев писал о нем: «Скажут, что и при Екатерине видали людей с свинцовыми головами на важных государственных местах, например, генерал-прокурор князь Вяземский, от которого, по тогдашней организации управления империи, все зависело. Согласен, все знали, что Вяземский был человек с осиновым рассудком. По каким уважениям, по каким расчетам Екатерина держала Вяземского на столь важном посту в государстве — угадать и объяснить трудно, скажу — решительно невозможно» .
Резко отрицательно отзывался о Вяземском Г. Р. Державин в своих «Записках», считая его виновником многих своих бед и неприятностей по службе. Это, однако, не мешало ему написать стихи в честь князя и княгини Вяземских, когда в 1791 году они праздновали годовщину своего супружества.
Д. Бантыш-Каменский в своем «Словаре достопамятных людей русской земли» писал: «Князь Вяземский отличался верностью своею престолу, бескорыстием, был чрезвычайно трудолюбив, умел избирать достойных помощников; враг роскоши, но скуп и завистлив, как отзывались о нем современники». Умер А. А. Вяземский 8 января 1793 года.