Polskie wyprawy przeciwko pogańskim Prusom, podejmowane głównie z inicjatywy Konrada Mazowieckiego, nie przynosiły żadnych rezultatów. Dodatkowo, po nieudanych akcjach zbrojnych i próbą podporządkowani sobie plemion pruskich, ich ataki na ziemie polskie uległy nasileni.
W efekcie Konrad – nie mogąc zażegnać zagrożeniu i tym samym zapewnić bezpieczeństwa państwu, rozpoczął w roku 1225 pertraktacje z przedstawicielami zakonu krzyżackiego. W roku 1226 sprowadził zakon do Polski i nadał im ziemie chełmińską. Ich zadaniem miała być obrona przed stroną pruską oraz ostatecznie zmuszenie tego ludu do przyjęcia chrztu.
W XIII w. Krzyżacy podbili Prusy, siłą schrystianizowali i utworzyli na opanowanym obszarze świetnie zorganizowane państwo. Właściwym założycielem Zakonu oraz państwa krzyżackiego w Prusach był wielki mistrz – Herman von Salza.
Doszło również do połączenia Krzyżaków z Zakonem Rycerzy Dobrzyńskich. Ten ostatni powstał na początku XIII w., w celu wsparcia misji cystersów prowadzonej w Prusach. Ostatecznie w roku 1228 został osadzony w ziemie dobrzyńskiej. Natomiast stolica, która stanowiła również siedzibę wielkiego mistrza, została w roku 1309 – po opanowaniu Pomorza Gdańskiego, przeniesiona z Wenecji do Malborka.
Zakon składał się z trzech rodzajów członków – rycerzy, księży oraz braci służebnych. Władza znajdowała się w rękach rycerzy i była silnie scentralizowana. W składzie narodowościowym rycerzy – zakonników, występowała przewaga rycerstwa niemieckiego.
Państwo zakonne miało charakter religijny oraz feudalny zarazem. Jego istotą było odwzorowanie organizacji zakonnej na organizacje państwową. Z tego też względu na czele państwa krzyżaków a zarazem Zakonu stał wielki mistrz. Był on wybierany przez dostojników tworzących kapitułę generalną. W skład dworu wielkiego mistrza wchodzili poza tym wielki kontur, wielki marszałek, wielki szpitalik, podskarbi oraz wielki szatny.
Teren państwa zakonnego podzielony był na komturię. Stanowiły one jednostki administracyjne oraz religijne. Na czele każdej z nich stał kontur, posiadający pełnie władzy: religijnej, wojskowej, sądowej, skarbowej i administracyjnej w swoim okręgu. Od roku 1236 Krzyżacy uzyskali wyłączenie biskupstw – znajdujących się na terenie ich państwa, spod zwierzchności arcybiskupstwa gnieźnieńskiego.