Герман фон Зальце решает, что еще одна линия священной войны — пока еще в дополнение к основной — должна получить свое развитие в Европе, и желательно не слишком далеко от имперской границы. Тогдашняя ситуация в Европе давала ему, в сущности, только два варианта: война против схизматиков-православных у южных рубежей Империи — или военные действия на северо-востоке против языческих Пруссии и Литвы с возможным расширением сферы этих действий до православной Руси. Вначале тевтонский гроссмейстер предпочитает южный вариант, как из-за сиюминутных побуждений, для окончательного утверждения результатов Четвертого крестового похода, так и потому, что здесь он впервые получил поддержку от одного из сильных мира сего.
Около 1217 года король Венгрии Андрей выделяет Тевтонскому ордену значительные земельные владения в Трансильвании — с тем, чтобы братья-рыцари обороняли эти земли от православных валахов и сербов и язычников-половцев. Сам Андрей Венгерский в это время отправлялся в поход в Святую Землю, исполняя обет, данный несколько неосторожно еще его отцом. Фон Зальце удовлетворен и сразу посылает сюда несколько десятков братьев и начинает строительство необходимых укреплений. Однако, вскоре трансильванская затея лопается, как мыльный пузырь. Андрей после первых же неудач разочаровался не только в походе, но и вообще в крестоносных идеалах. Уже через год он забирает свое войско и отправляется домой, с абсолютным равнодушием даже к своему отлучению от церкви. А по возвращении венгерский король первым делом отбирает у ордена пожалованные им земли.
Итак, первый опыт был неудачен. Для Германа фон Зальце это стало большим ударом, но он не собирается сидеть, сложа руки. И здесь ему на помощь приходит случай в лице императора Священной Римской империи Фридриха II. Германский властитель также собирается в крестовый поход, который он давно обещал римскому папе. Но дела у него идут ни шатко, ни валко, набор крестоносцев проходит очень медленно, и тогда Фридрих вызывает в Германию на помощь гроссмейстера Немецкого ордена. Фон Зальце с охотой соглашается, ибо при поддержке императора рассчитывает еще более упрочить позиции ордена в Германии. Весь 1225 год он разъезжает по немецким землям и агитирует как за крестовый поход, так и за собственный орден. Но пропагандистская задача, как вскоре выяснилось, была для гроссмейстера не единственной и даже не главной.
В 1226 году Герман фон Зальце встречается с польским князем Конрадом Мазовецким и проводит целый ряд секретных переговоров. Итогом этих переговоров стало деяние, определившее всю дальнейшую судьбу Ордена, а в значительной степени — даже и историю самой Польши. Конрад Мазовецкий, крайне раздраженный набегами язычников-пруссов, передает ордену пограничную с Пруссией Хельмскую землю. Единственное условие — борьба с пруссами. Фон Зальце соглашается, но, наученный горьким опытом, добивается, чтобы новый договор был утвержден германским императором, который и станет гарантом его строгого исполнения. Фридрих II, очень нуждающийся в поддержке ордена, так как уже наметился его серьезный конфликт с папством, охотно дает свое согласие. Больше того, он утверждает и право ордена на все земли, которые тот сумеет завоевать в Пруссии. Гроссмейстер может быть доволен — его заветная мечта сбылась.
И здесь планам Германа фон Зальце наносится новый тяжелый удар, и притом оттуда, откуда вовсе не ждали. Против притязаний ордена — церковной, по сути, организации — неожиданно выступает сама католическая церковь. Как раз в это время умирает папа 1'онорий III, и на апостольский престол избирается Григорий IX — сильная личность, жесткий и прямолинейный политик. Новому папе не нравится сближение ордена с императором, которого он ненавидит. Чуть ли не первым же эдиктом нового римского главы Фридрих II отлучается от церкви, а его распоряжения объявляются не подлежащими исполнению. Фактически, папа отказывает ордену в праве на новые земли. Чтобы объяснить занятую им антиорденскую позицию, Григорий IX ссылается на то, что и права на войну, и права на завоеванные земли еще при великом Иннокентии были переданы основателю Риги епископу Альберту и созданному им (и подчиненному ему) ордену Меченосцев. Для Тевтонского ордена. здесь земель нет и не будет: идите.и воюйте в Святой Земле за освобождение Иерусалима — таков непреклонный вердикт папы.
Возможно, другой человек после такого неожиданного афронта был бы окончательно сломлен, но только не Герман фон Зальце. Сейчас, когда цель уже так близка, тевтонский гроссмейстер не собирается от нее отказываться. С истинно немецким упорством, не обращая внимания на неудачи, фон Зальце продолжает свою игру. Он лавирует между папой и императором, заверяя каждого в своей личной преданности. Его положение легким не назовешь, но вскоре тевтонец добивается первого успеха — не слишком искушенный в интригах Григорий IX посчитал, что Немецкий орден станет его союзником в борьбе с Фридрихом II. В 1228 году папа выпускает буллу, дающую тевтонцам все те привилегии, которыми пользуются старые ордена храмовников и госпитальеров. То есть, Тевтонский орден подчиняется и становится подотчетен только лично первосвященнику Рима, получает права экстерриториальности, освобождается от выплаты десятины и т. н. «крестовых денег». На передачу земель папа, впрочем, не соглашается, но вскоре спор двух церковных институтов разрешается довольно неожиданно, но самым обыденным способом. В 1229 году умирает епископ Альберт, т. е. уходит главная фигура, противостоящая амбициям Ордена. Папа колеблется, даже ищет Альберту замену, но здесь уже Герман фон Зальце подключает все свое влияние, понимая, что такой случай упускать никак нельзя. И, наконец, гроссмейстер добивается своего и может торжествовать победу — в 1230 году Григорий IX утверждает права Тевтонского ордена на Хельм и Прусские земли. Двадцатилетние усилия приносят свои плоды - с этого времени нормальная жизнедеятельность ордену обеспечена.