Последние годы жизни Ивана III были омрачены трагическими событиями в его собственном семействе. В 1490 г. в возрасте 32 лет скончался сын и соправитель великого князя, талантливый полководец Иван Иванович Молодой, который был объявлен наследником престола. Ходили слухи, что причиной его смерти стали услуги лекаря, присланного к заболевшему наследнику Софьей Палеолог. Смерть Ивана Молодого привела к долгому династическому кризису.
После Ивана Ивановича остался малолетний сын Дмитрий, представлявший старшую линию потомков великого князя. Другим претендентом на престол был сын Ивана III от второго брака, будущий государь всея Руси Василий III (1505—1533 гг.). За обоими претендентами стояли ловкие и влиятельные женщины — вдова Ивана Молодого валашская принцесса Елена Стефановна и вторая жена Ивана III, византийская принцесса Софья Палеолог. Выбор между сыном и внуком оказался для Ивана III делом крайне непростым, и он несколько раз менял своё решение, стремясь отыскать такой вариант, который бы не привёл к новой череде междоусобий после его смерти.
Иван III торжественно назначил наследником 14-летнего Дмитрия в 1498 г.
Василий потребовал от отца изменить решение, угрожая в противном случае бежать в Литву и начать войну за престол. В конце концов, Иван уступил. Отменив свое решение, он завещал престол Василию. Дмитрий и его мать Елена Волошанка в 1502 г. были взяты под стражу. Через три года Елена умерла в заточении. Дмитрий пережил мать всего на четыре года и скончался в начале 1509 г.
В своем завещании, подобно предшественникам, Иван поделил волости между пятью сыновьями: Василием, Юрием, Димитрием, Семеном и Андреем, но старшему, Василию было дано 66 городов, в том числе самые значительные, тогда как всем остальным сыновьям вместе дано только 30. Иван III обделил своих младших сыновей в пользу старшего их брата Василия, и лишил их всяких державных прав, подчинив великому князю как простых служивых князей.
