В 60-х годах, когда в США уже летали прототипы стратегического бомбардировщика XB-70 Valkyrie и самолёта-разведчика SR-71, Министерство авиационной промышленности СССР выдало ОКБ-156 А.Н. Туполева, ОКБ-51 П.О. Сухого и ОКБ-115 А.С. Яковлева задание на разработку на конкурсных началах сверхзвукового бомбардировщика-ракетоносца, предназначенного для перехвата и уничтожения носителей крылатых ракет. Туполев представил проект "135". Яковлев предложил проект самолета Як-33, представлявшего собой высокоплан с треугольным крылом, классическим оперением и двигателями, распологавшимися под крыльями. Основным конструкционным материалом предполагалась жаропрочная сталь. Одновременно два моторостроительных ОКБ предложили свои двигатели: С.Туманский - Р-15 (разрабатываемый в тот период для МиГ-25) и П.Колесов - Р-36-41 (этот двигатель и получил предпочтение). Управляемую противокорабельную ракету Х-45 создавал коллектив А.Березняка. Работы трех авиастроительных КБ тщательно изучались институтами и обсуждались на научно-техническом совете министерства. Проект КБ Яковлева вскоре был отвергнут. Дальнейшие споры велись вокруг выбора крейсерской скорости полета. Рассматривались два варианта: в пределах 2 000 - 2 300 км/ч (в этом случае планер можно делать из алюминиевых сплавов) либо 3 000 - 3 200 км/ч (но тогда - из стали и титана), Приняли второй - конструкторского бюро Сухого. Кроме того, предложенный им самолет обладал большими боевой эффективностью и аэродинамическим совершенством. В ОКБ П.О. Сухого первые общие виды самолета, обозначенного Т-4, в декабре 1961 г. выполнил Александр Поляков. Вскоре ведущим конструктором проекта назначили Олега Самойловича, а весной 1962 г. координацию работ по этой тематике возложили на главного конструктора Наума Чернякова.

К разработке документации и постройке самолета постановлением правительства подключили КБ и завод имени С.А.Лавочкина, где даже успели изготовить боковые отсеки фюзеляжа. Однако позже завод перешел на ракетную тематику В.Челомея и взамен для строительства выделили Тушинский машиностроительный завод (ТМЗ) и МКБ Буревестник в качестве филиала КБ Сухого для участия в проектировании самолета. Дальность и скорость определили вес самолета. По предварительным расчетам он должен был весить 100 тонн. От этого, пожалуй, и возникло второе название Т-4 - "Сотка". Что же касается процесса производства и проктирования, то он занял почти 9 лет. На первый взгляд, это большой срок по сравнению с западом. Там аналогичный процесс занимает 5-7 лет для подобных Т-4 самолетов. Но дело в том, что еще никогда в СССР не решалось столько новых вопросов и проблем. Ведь коэффициент новизны, или по американской терминологии "степень риска", для "сотки" был близок к 100%. При проектировании обычных самолетов эта величина обычно в два раза меньше. Это означает, например, применение в конструкции 50% абсолютно надежных и проверенных деталей, приборов, методов. Для "сотки" же были созданы вновь специальные жаропрочные сплавы, неметаллические материалы, особая резина, пластики. Пожалуй, не было в стране ни одного самолета, который бы содержал так много новинок. Объяснялось все необходимостью обеспечения полета с крейсерской скоростью 3000 км/ч и преодоления так называемого теплового барьера с нагревом конструкции планера до 300?С. Предполагаемое использование широкого диапазона скоростей требовало тщательной отработки аэродинамической схемы. Поэтому в аэродинамических трубах ЦАГИ исследовали более двадцати различных компоновок самолета и множество вариантов отдельных элементов - крыла, фюзеляжа, мотогондол и их взаимного расположения и сочетания. Результаты испытаний были проверены в полетах летающей лаборатории на базе Су-9 ("изделие 100Л-1").

Т-4 был выполнен по схеме "бесхвостка" с треугольным крылом тонкого 3% профиля с острой передней кромкой. Использование для балансировки переднего оперения при малых запасах устойчивости (2% на дозвуке и 3-5% на сверхзвуке) уменьшило потери качества на балансировку, увеличило дальность полета на 7% и снизило шарнирные моменты на органы управления. Малые запасы устойчивости обеспечивались соответствующим изменением центровки за счет перекачки топлива в полете. Вертикальное оперение обеспечивало минимальную величину запаса путевой устойчивости, а требуемые характеристики устойчивости и управляемости обеспечивались системой электродистанционного управления. В продольном и боковом каналах управление осуществлялось злевонами. Все производство Т-4 было автоматизировано. 96% сварных работ также выполнялось автоматически. Коэффициент использования материалов определился значительно более высоким, чем в производстве всех предыдущих самолетов. Ведь применялись уголки и лист, сваренные вместе. Поэтому не было почти никаких отходов. Трудоемкость изготовления "сотки" оказалась такой же, как если бы она была сделана не из титана, а из более легкообрабатываемых алюминиевых сплавов. Улучшение сплавов продолжалось и в процессе испытаний. На самолете установили ТРД Рыбинского моторостроительного КБ (главный конструктор П.Колесов). Все четыре двигателя разместили в общей мотогондоле с одним каналом на каждую пару. Питание их воздухом осуществлялось воздухозаборником смешанного сжатия с программно-замкнутой системой регулирования по числу М и по отношению давления в горле воздухозаборника и с системой слива пограничного слоя.