Между тем известность его крепла. В приграничных районах обоих стран — Афганистана и Пакистана — распространялся слух о загадочном долговязом саудовце-миллионере, щедрость которого и личная скромность не имеют границ. В 1982 году Осама бин-Ладен сделал свой выбор. Он отказался от прежней жизни и полностью посвятил себя джихаду. В январе 1982 года он вместе с четырмя женами и пятнадцатью детьми переехал в Пакистан. Вместе с собой он привез целый парк строительной техники — бульдозеров, тракторов, других машин и механизмов. И тут же принялся за работу — строительство коммуникаций и оборудование всей приграничной территории в один укрепленный район. Это была большая программа по строительству дорог, мостов, пещерных укрытий, тренировочных лагерей для моджахедов. Учитывая труднопроходимый горный характер местности, такая работа и в мирное время была опасна. Тем более опасна она была теперь, когда над районами часто появлялась советская авиация, ища для себя подходящую цель. Тем не менее сам Осама не раз садился за руль трактора или бульдозера и направлял его по крутым горным склонам. Это была его война. Она придала его взглядам характер твердой убежденности. Если афганцы защищали свой дом и уклад своей жизни, то бин-Ладен защищал весь мусульманский мир.

В 1984 году Осама бин-Ладен вновь сблизился со своим бывшим учителем, шейхом Абдаллой Азамом. На территории Афганистана под началом шейха Абдаллы действовало несколько группировок, принимавших активное участие в боях с Советской армией. Осама бин-Ладен стал военным союзником шейха. Если целью Абдаллы было изгнание «шурави» (так называли здесь советских солдат), то планы Осамы были гораздо масштабнее. Его война была лишь частью грандиозного плана объединения всех мусульман для выполнения воли Всевышнего. Он чувствовал эту волю и готов был исполнить возложенную на него миссию. Он вдохнул в традиционный догматический ислам новое революционное сознание. Пока что они с Абдаллой сражались вместе, но союз этот был временным. Ученик перерос своего учителя. Бин-Ладен видел дальше. Когда между ними возникли противоречия, он без колебаний разорвал отношения с шейхом и стал действовать самостоятельно. Он воевал, но одновременно продолжал строить, расширять и укреплять ареал своего влияния. По сути, он создавал в труднопроходимых горах государство военного назначения, со своей инфраструктурой, связью и возможностью длительного автономного существования в условиях осады и массированного военного воздействия. Здесь были военные лагеря для подготовки моджахедов, склады и долговременные убежища, способные выдержать удары самого современного оружия. Бин-Ладен видел не только нынешнюю войну, но и войну будущего и загодя готовился к ней. Район готов был стать центром общемирового исламского радикализма. Что со временем и случилось.

Пока же штаб и координационный пропагандистский центр бин-Ладена располагались в Пешаваре. На их оборудование и работу бин-Ладен не жалел средств. Здесь была большая типография, специальный отдел, занимавшийся вопросами религиозно-идеологического воспитания, со своей огромной библиотекой пропагандистской литературы. При центре функционировали отделы боевой подготовки, финансового обеспечения и материального снабжения моджахедов. Большое внимание уделялось работе по сбору пожертвований, агитации среди исламских студентов и молодежи в разных странах (включая страны Европы и США), набору и обучению добровольцев. Здесь не только сформировалась идеология исламского фундаментализма, но была подведена база для ее реализации и сформированы соответствующие структуры. Безусловно, бин-Ладена можно охарактеризовать как выдающегося революционера, он был не только фанатичным и самоотверженным приверженцем идеи, но расчетливым политиком и практиком, способным провести свою идею в жизнь.

Основной поток добровольцев поступал через Саудовскую Аравию и Египет. Прибывшие в Пешавар волонтеры проходили начальную военную подготовку, мелкими группами переправлялись на территорию Афганистана и там вливались в отряды моджахедов. По организационным вопросам бин-Ладену приходилось поддерживать теснейшие контакты с лидерами моджахедов. Первоначально лидеры афганского сопротивления критически относились к использованию арабских добровольцев, рассчитывая обойтись собственными силами. Бин-Ладену пришлось приложить усилия, чтобы изменить это мнение. И это ему удалось. За годы войны он завоевал настолько прочный авторитет, что руководители партизанских отрядов, опирающиеся на разные племена и преследующие собственные интересы, не раз обращались к нему с просьбой о посредничестве в решении спорных вопросов. В его справедливости никто не сомневался. В немалой степени его авторитет опирался на тесные связи с двумя крупнейшими лидерами моджахедов: Бурхануддином Раббани и Гулбуддином Хекматьяром.

В середине 80-х годов разрозненные и недостаточно обученные отряды моджахедов оказались на грани поражения. Советская Армия приобрела опыт ведения войны в труднодоступных горных районах страны и постепенно брала их под свой контроль. Окончательный исход войны казался лишь вопросом времени. В этот критический для Афганистана период бин-Ладен создает свои собственные военные формирования, укомплектованные исключительно из арабов-наемников, получивших впоследствии имя «арабских афганцев». Среди этих людей было немало профессиональных военных из Сирии и Египта. Они имели за плечами богатый боевой опыт, накопленный в войнах с Израилем и других военных конфликтах.

Одной из первых организаций, созданных бин-Ладеном (а создано их было впоследствии немало), стал «Исламский легион». Можно перечислить несколько организационных достоинств легиона: он объединял профессионалов, умеющих воевать, среди легионеров было немало идеалистов и фанатиков, воевавших «за идею», легион имел интернациональный характер, что позволило легионерам сохранитьсвои связи после окончания войны и создать действенную (вплоть до настоящего времени) международную террористическую структуру. Это была реально существовавшая армия, при этом не имевшая никакого юридического статуса, централизованного командования и финансирования. Тем не менее небольшие разрозненные отряды представляли собой серьезную военно-политическую силу. В «легионе» не сразу утвердилось единоначалие. Нередко полевые командиры гибли при странных обстоятельствах — как правило, от рук своих же соратников. Тот факт, что бин-Ладен в таких условиях не только выжил, но и стал безусловным лидером, лишний раз подтверждает его исключительность. Им восхищались и уважали за его бескорыстие и готовность к самопожертвованию. При этом он был аскетичен и не спешил захватить власть или воспользоваться ею в личных целях. Он был подчеркнуто чужд лидерских амбиций. Это помогло бин-Ладену пережить всех своих конкурентов.

В те же годы в лагере бин-Ладена появился 35-летний египтянин, врач по профессии Айман аль-Завахири. Этот человек впоследствии станет лидером афганской фракции исламской террористической организации «Джихад аль-Ислами аль-Масри» и вторым лицом в «Эль-Каэде» — ее идеологом, казначеем и личным врачом бин-Ладена.

С 1986 года и вплоть до окончательного вывода Советских войск из страны отряды Осамы бин-Ладена стали совершать регулярные рейды, нанося удары по советским транспортным колоннам. Помимо десятков столкновений и боев местного значения, его формирования участвовали в ряде крупных операций. Во всех боях бин-Ладен отличался беспримерной личной храбростью. Несколько раз он был серьезно ранен, но неизменно отказывался покинуть поле боя, пока не будет оказана помощь каждому из его людей. Он отступал последним. При этом нельзя сказать, что он был удачливым командиром, многие спланированные им операции не приносили результата или заканчивались поражением. Но его авторитет был настолько высок, что люди готовы были выполнить любой его приказ. Со временем распространились слухи о его неуязвимости. Несколько раз во время авианалетов и обстрелов сражающихся рядом боевиков буквально разрывало на части, но сам он оставался невредим. Во время одного из боев в районе Хоста он оказался на волосок от гибели, но уцелел. После этого, по собственному признанию, он уверовал в свою избранность и высшее предназначение.