Модификация RF-4BЕще в техпредложении фирмы Макдоннелл от 1953 года по самолету Model 98 учитывалась возможность создания на базе истребителя специализированного палубного самолета-разведчика Model 98P. Тогда флот не проявил интереса к этому самолету, будучи полностью удовлетворен возможностями F8U-1P - разведывательной версии истребителя F8U Crusader. Однако появившиеся в начале 1962 года слухи о RF-110A, разведчике для ВВС на базе Фантома, способном вести разведку ночью - свойство, которым F8U-1P не обладали - заставили ВМС пересмотреть свое отношение к палубному Фантому-разведчику. Было принято решение о создании на базе истребителя F4H-1 всепогодного разведывательного самолета F4H-1P. В сентябре 1962 года из-за введения единой системы индексации авиационной техники разрабатываемый палубный разведчик получил обозначение RF-4B, а в феврале 1963 был подписан контракт на поставку 9 самолетов для Корпуса морской пехоты (КМП).

В общем RF-4B был весьма похож на RF-4C для ВВС. Вооружение на RF-4B отсутствовало, а основным отличием от F-4B была удлиненная на 4 фута 7/8 дюйма (1,241 м) носовая часть. В ней вместо радара AN/APQ-72 был установлен гораздо меньший моноимпульсный AN/APQ-99 фирмы Texas Instruments, работавший в J-диапазоне и оптимизированный для полетов на низких высотах в режиме огибания рельефа местности, а также могущий быть использованный для картографирования земной поверхности, а также три отсека для разведывательной фотоаппаратуры - Station 1, 2 и 3. В первом (Station 1) устанавливалась камера KS-87 для съемки вперед-вниз или строго вниз, во втором (Station 2) - KA-87 для низковысотной съемки, в третьем (Station 3) обычно размещалась или KA-55A или KA-91 для высотной панорамной съемки. На RF-4B можно было использовать также большие по габаритам камеры KS-91 или KS-127A. В отличие от RF-4C для ВВС, камеры на RF-4B устанавливались на подвижных основаниях, что давало возможность пилоту нацеливать их на объекты, находящиеся в стороне от маршрута полета. В задней кабине самолета сняли все органы управления и разместили там оператора разведывательных систем. В задней части фюзеляжа появились устройства отстрела дипольных ловушек-отражателей ALE-29A/B, по одному с каждого борта над двигателями. Для ночной фотосъемки в них заряжались осветительные бомбочки, которые выстреливались вверх по бокам самолета.

На RF-4B устанавливался радиолокатор бокового обзора (SLAR, Side Looking Airborne Radar) AN/APQ-102, обтекатели его антенн были расположены по бортам корпуса перед воздухозаборниками. Радар AN/APQ-102 мог отслеживать как неподвижные, так и движущиеся объекты, его возможности дополнялись системой AN/AAD-4 для разведки в инфракрасном диапазоне, которая размещалась снизу фюзеляжа сразу за антеннами SLAR. Кроме того, на самолете стояла система радиоразведки AN/APR-25/27, служившая для оповещения об облучении радаром противника и для определения его местоположения, а также система передачи данных ASW-25B. По обоим сторонам киля заподлицо располагались плоские антенны связного приемопередатчика ARC-105. Ориентация осуществлялась с помощью инерциальной навигационной системой ASN-48 фирмы Litton. Первые 34 RF-4B (BuNo 151975/151982 и 152089/153113) сохранили силовую установку и основную конструкцию F-4B, последние же двенадцать самолетов (BuNo 153114, 153115 и 157342/157351) отличались широкими колесами основных стоек шасси и "толстым" крылом, как на истребителях F-4J, причем последние три из них (BuNo 157349/157351) имели еще и измененные обводы носовой части, отчего стали еще более напоминать RF-4C ВВС США. Это изменение улучшило аэродинамику и увеличило внутренний объем отсека фотооборудования, но заставило отказаться от системы наведения камеры KS-87 на Station 2 и сделать ее неподвижной. Для убыстрения получения войсками разведывательной информации кассеты с отснятой пленкой могли быть сброшены в полете на низкой высоте.