В 1234 году тевтонцы формально признали свои владения папским леном, но чувствовали себя полноправными хозяевами, поскольку слабая папская власть не могла оказать на них хоть сколько-нибудь существенного влияния. Великий магистр Тевтонского ордена Герман фон Зальц для привлечения на завоеванные земли Пруссии немецких колониалистов объявил, что новооснованным городам и их жителям предоставляются разные льготы и привилегии.
В 1237 году Тевтонский орден присоединил к себе орден меченосцев, который потерпел перед этим поражения от русских, литовцев и земгалов. Орден меченосцев был переименован в Ливонский орден. В 1240 году тевтонские рыцари начали поход на Русь. Они захватили Копорье, Из-борск, Псков и грабили земли Новгорода. Новгородский князь Александр Невский во главе русских войск выступил против Тевтонского ордена и уже к 1242 году освободил все русские земли от немецких рыцарей. К 1243 году тевтонские рыцари окончательно отказались от своих завоеваний в русских землях и заключили мирный договор с Новгородом. А тем временем в Пруссии
война ордена с коренными жителями продолжалась. В феврале 1249 года часть пруссов окончательно подчинилась Тевтонскому ордену, и был подписан мирный договор в городе Христбурге. По этому договору пруссы обязались принять крещение, должны были построить церкви и служить в них церковную службу. Пруссам запрещалось многоженство. Орден предоставлял им имущественное и наследственное право. К 1252 году орден с помощью европейских рыцарей завоевал Поморье, а в 1254 году - Самбию. В 1255 году тевтонцами был основан портовый город-крепость Кенигсберг. В 1260 году произошло широкомасштабное восстание пруссов. Повстанцы сжигали костелы, убивали священников. Им удалось захватить небольшие тевтонские замки, а все крупные держать в осаде. И только к 1274 году Тевтонскому ордену благодаря непрерывному потоку подкрепления из Германии удалось подавить восстание в Пруссии. Всего ордену понадобилось 53 года для полного покорения прусских земель, последняя провинция была завоевана в 1283 году.
Земли ордена преграждали Польше, Литве и России выход к Балтийскому морю. Тевтонцы выделяли земли немецким баронам в качестве ленов, селили на завоеванных землях немецких крестьян и вместе с Ганзейским союзом городов основали ряд новых торговых поселений. С расширением подвластных территорий в структуре ордена происходят некоторые изменения. Комтурства преобразовываются в провинции, во главе которых стоят комтуры земель. Управлять владениями, находящимися в Германии, Ливонии и Пруссии, назначаются магистры земель (ландмейстеры). Всем орденом руководит Великий магистр (гроссмейстер). У Великого магистра были помощники: великий комтур и маршал. Генеральный капитул является высшим надзирательным и законодательным органом.
Одновременно с захватом новых земель Тевтонский орден, пользуясь безденежьем мелких земельных феодалов, скупал все земли до Одера. В результате своей деятельности Немецкий орден в Пруссии превратился в суверенное государство. Орденское государство приобрело международное признание, имело сильную, дисциплинированную и хорошо обученную армию и обладало правом чеканить свои монеты (золотые и серебряные монеты ордена имели хождение во всех странах Европы). До 1291 года резиденция Великого магистра Тевтонского ордена находилась в городе-крепости Акре, а после падения города и захвата его мусульманами резиденция была перенесена в Венецию. В 1309 году резиденция Тевтонского ордена переезжает в Мальборг.