Начало работ над самолетом Т-58 в ОКБ П.О. Сухого совпало с периодом, когда у руководства страны укрепилось мнение о неперспективности авиации, и финансирование авиационной тематики практически прекратилось. Согласно указаниям Хрущева, для сокращения расходов запрещалась разработка новых типов самолетов, допускалась лишь модернизация существующих. В феврале 1960-го приказом Госкомитета по авиатехнике прекратилась разработка нового перехватчика Т-3М (Т-37). Машину, находившуюся в стадии окончательной сборки, выкинули на свалку. В то же время военным требовался новый истребитель с расширенным диапазоном высот и скоростей перехватываемых целей, на перехватчике предусматривалась установка модернизированной РЛС Орел-Д (ОКБ Г.М.Кунявского) и ракет К-8М-1 (позднее К-8М-2) (ОКБ-4 М.Р.Бисновата). Новая РЛС имела увеличенный диаметр зеркала антенны и не вписывалась в центральное тело воздухозаборника типа Су-9, поэтому воздухозаборники пришлось сделать боковыми. ОКБ имело опыт подобных работ. По сходной схеме были созданы и испытывались опытные самолеты П-1 (1957 г.) и Т-49 (1960 г.), а позднее проектировался экспериментальный Т-59, предназначавшийся для отработки новой РЛС. Конструкторский задел по этим проектам и стал базой, на которой во второй половине 1960-го начались работы по теме Т-58.

Павел Осипович стремясь к минимальным переделкам, находившихся в строю перехватчиков, уходя в отпуск наказывал начальнику первой бригады (позже она стала отделом 100) Ивану Ивановичу Цебрикову: "Впереди - нос, кабину разрешаю менять, а сзади кабины - нет. Вновь поставим только боковые воздухозаборники, а все остальное от Су-9 и Су-11". Молодые специалисты Роллан Мартиросов и другие, недавно окончившие МАИ, вместе с разработчиками различных самолетных систем Ю.Петровым, А.Воскресенским, В.Ивановым, М.Локшиным сделали в отсутствие Сухого несколько компоновок самолета. Их поддержал заместитель Цебрикова - А.М.Поляков. К середине 1961-го в ОКБ завершилось рабочее проектирование и началось изготовление летного экземпляра машины и планера для статиспытаний на прочность. На самолете сохранился один двигатель АЛ-7Ф-2, а крыло, оперение и шасси были практически полностью заимствованы с Т-3. Однако военные все активнее настаивали на двухдвигательном варианте компоновки. Для выполнения требований заказчика, начальный проект Т-58 был перекомпонован под установку двух ТРД Р-11Ф-300 ("изделие 37Ф" разработки ОКБ-300, главный конструктор С.К.Туманский), доведенных к тому времени на МиГ-21. При этом, использовался опыт, накопленный при создании экспериментального Т-5 (1958 г.) с аналогичной силовой установкой. На этом самолете отрабатывалась сопловая часть фюзеляжа.

Новый проект Т-58Д подготовили во второй половине 1961-го и приступили к изготовлению опытных самолетов с использованием задела по Т-58. Предусматривалась полная переделка средней и хвостовой частей фюзеляжа под новую силовую установку. Первый летный экземпляр самолета Т-58Д-1 в апреле 1962-го перевезли на аэродром ЛИИ и 30 мая шеф-пилот ОКБ В.С. Ильюшин выполнил на нем первый полет. До конца года на нем выполнялся заводской этап испытаний, по результатам которых в конструкторскую документацию оперативно вносились изменения. Так, в частности, для увеличения путевой устойчивости увеличили площадь киля. Тормозной парашют перенесли в основание киля, заменили колеса шасси. Все эти изменения внедрили во втором опытном экземпляре Т-58Д-2, который вышел на испытания в мае 1963-го. На нем, в отличие от Т-58Д-1, установили полный комплект БРЭО, включая РЛС. Позднее (летом 1964-го), для увеличения радиуса рубежа перехвата, у самолетов Т-58Д-1 и Т-58Д-3 спрямили обводы фюзеляжа по внешнему контуру воздухозаборников. Это позволило, залив в дополнительные объемы топливо, увеличить его запас с 4 200 по 5 600 кг. В конце июля 1963-го самолет официально предъявили на госиспытания. Самолеты перегнали на аэродром ГНИКИ ВВС во Владимировку, где до середины 1964-го на них выполнялась программа госиспытаний с пусками ракет по реальным целям. Первый опытный Т-58Д-1 после доработок также участвовал в госиспытаниях, в основном, для отработки аэродинамики и силовой установки. От ОКБ в испытаниях участвовали летчики В.С. Ильюшин, Е.С. Соловьев и Е.К. Кукушев, а от заказчика - В.И. Петров, И.И. Лесников, Э.М. Князев, Л.Н. Петерин и В.Г. Иванов. Несколько полетов по программе испытаний выполнил командующий истребительной авиацией ПВО страны маршал авиации Е.Я.Савицкий.