В 1476 году прибыло в Москву новое посольство от Ахмата; оно… потребовало дани и предъявило при этом Иоанну ханское изображение или «басму» с тем, чтобы он ей поклонился.

«Великий же князь» — говорит летописец, «не мало не убоялся страха царева, но прими басму лица его и изломаша ее на землю поверже и потопта ногами своими», после чего приказал послов убить, а одного отправить к Ахмату с таким словом: «Ступай и объяви хану: что случилось с его басмою и послами, то будет и с ним, если не оставит меня в покое». Таким образом, Иоанном III было окончательно свергнуто с Московских великих князей позорное Татарское иго; есть известие, что он поступил так под влиянием Софии Фоминичны, гордость которой не могла переносить унизительной зависимости от Татар и платежа дани хищникам Московского Государства.

Однако, Иоанну пришлось вскоре пережить немало треволнений из-за этого разрыва с Золотой Ордой.

В 1480 году Ахмат собрал против Москвы огромное войско, получив уведомление от Казимира Литовского, о начавшейся в это время ссоре Иоанна с братьями: Андреем Большим Углицким и Борисом Волоцким.

Причиной этой ссоры было их недовольство тем обстоятельством, что Иоанн, всецело занятый своим великим делом собирания Руси вокруг Москвы, естественно стал преследовать старинное право отъезда бояр к другому князю, в случае их недовольства великим князем. Один из его наместников, князь Оболенский-Лыко так притеснял подведомственных ему жителей, что Иоанн по жалобе последних отнял у него наместничество и приказал вернуть им все, что было беззаконно забрано. Лыко обиделся и отъехал к Борису Волоцкому. Государь приказал брату выдать ему виновного боярина, но Борис отказался. Тогда Иоанн повелел схватить Лыко и отвести в оковах в Москву. Борис вознегодовал на это и послал сказать брату Андрею Углицкому: «Вот как он с нами поступает: нельзя уже никому отъехать к нам»… после чего братья решили защищать свои права вооруженной рукой, для чего собрали рать в своих владениях.

В это время… Государь был в Новгороде; узнав о выступлении войск Андрея и Бориса в Тверскую область, он поспешил в Москву, где... отправил боярина к братьям уговаривать их — кончить дело миром, но те не послушались... Тогда Иоанн вторично послал уговаривать их к примирению известного епископа Вассиана Ростовского и последнему удалось склонить Андрея и Бориса послать своих бояр для переговоров в Москву; но сами они направились к Литовскому рубежу и, остановившись в Великих Луках, стали пересылаться с Казимиром, прося помощи против старшего брата. Казимир в непосредственной помощи им войсками отказал, но дал город Витебск на прокормление их женам, и вместе с тем поспешил известить Ахмата, что в Московском государстве усобица, и чтобы поэтому он скорее шел на Москву.

Узнав о движении Ахмата, Иоанн быстро собрал свои войска на берегу Оки и сам отправился в Коломну. Тогда хан, видя, что река эта крепко занята, взял направление к западу, к Литовской Земле, чтобы войти в Московские владения, переправившись через реку Угру.

Иоанн зорко следил за его движениями и своевременно послал приказ сыну своему Ивану Молодому и младшему брату Андрею Меньшому перейти от Оки к реке Угре, так что, когда хан подошел туда, то также нашел занятыми все броды и перевозы...

Иоанн Васильевич... послал приказание воеводе Звенигородскому — князю Василию Ноздреватому сесть с небольшим отрядом и с войсками Крымского царевича Нордоулата ... на суда и спуститься вниз Волгою, чтобы разгромить беззащитную Золотую Орду, зная, что Ахмат оставил в ней только жен, детей и старцев; великий князь был уверен в том, что как только хан узнает об этом нападении, так тотчас же кинется назад защищать свои улусы.

Вместе с тем, Иоанн сообщил о наступлении Ахмата своему верному союзнику Менгли-Гирею, и тот поспешил напасть на Литовские владения, чтобы отвлечь Казимира от наших границ. Отдав таким образом все распоряжения для преграждения дальнейшего наступления Ахмата и для защиты Москвы, Иоанн, в ожидании действий князя Ноздреватого и царевича Нордоулата в Золотой Орде ... отправился в Москву, чтобы... употребить все свои силы для примирения с братьями... Пылкое московское население, уже привыкшее к целому ряду побед... было недовольно его возвращением в столицу и настоятельно желало, чтобы он скорее вступил в большое сражение с Татарами на … Оке...

Не успел Иоанн въехать в Кремль, где его встретил митрополит и епископ Вассиан Ростовский, … последний обратился к нему со следующим горячим словом: «Вся кровь христианская падет на тебя за то, что, выдавши христианство, бежишь прочь, бою с Татарами не поставивши и не бившись с ними; зачем боишься смерти?..» Великий князь с подобающим уважением к сану и возрасту Вассиана выслушал это горячее слово, но, разумеется, не изменил своего решения, а поселившись в Красном Селе близ Москвы — стал выжидать развития событий...

Через две недели Государь отправился обратно к войскам, успевши за это время примириться с братьями, причем Андрей Большой получил Можайск, а Борис Волоцкий крупные земельные угодия; они также отправили свои войска на Угру...

В конце октября стали крепкие морозы и реки покрылись льдом, почему Угра уже перестала служить преградой. Иоанн приказал всем войскам, своим и братьев, отойти несколько назад к Кременцу, где можно было, в случае надобности, биться соединенными силами. Это приказание было встречено с большою печалью и унынием в Русских войсках, считавших постыдным такое отступление от Татар.

Однако, через несколько дней сказалась вся великая мудрость в действиях Иоанна. 11-го ноября Ахмат поспешно побежал назад, не пролив Русской крови и не выведя ни одного пленника из пределов нашей Земли. Бегство Ахматово, по объяснению «Казанского летописца», последовало, как и ожидал мудрый Иоанн, вследствие полученных ханом известий о разгроме Золотой Орды отрядом князя Ноздреватого и царевича Нородулата. Конечно, и наступившие жестокие морозы тоже заставили Татар поспешить домой.

Спустя два месяца, Ахмат, подобно Мамаю, погиб от руки убийцы... Иоанн же с великой честью и славой вернулся в Москву.