11 lipca 1920 roku na Warmii i Mazurach odbył się plebiscyt, w którym ludność zamieszkująca te tereny miała zdecydować o przyłączeniu tych ziem do nowo powstałego państwa polskiego lub o pozostawieniu ich w granicach Prus Wschodnich i Prus Zachodnich. Decyzja o przeprowadzeniu głosowania wśród mieszkańców została podjęta na konferencji pokojowej w Wersalu.

Nad przebiegiem głosowania czuwały komisje międzysojusznicze powołane przez Ligę Narodów.

Obie strony przeprowadziły intensywną akcję propagandową, którą zajmowały się z jednej strony niemieckie organizacje rządowe, z drugiej zaś organizacje polskojęzyczne i związki patriotyczne działające na terenie Prus. Ruchy propolskie najsilniej działały w rejonie południowej Warmii, zwłaszcza Olsztyna, gdzie polskojęzyczna ludność liczyła około 40% mieszkańców. II Rzeczpospolita rościła sobie prawa do Prus Wschodnich z dwóch powodów. Po pierwsze, w czasie istnienia I Rzeczpospolitej tereny te albo wchodziły bezpośrednio w skład Królestwa Polskiego (Warmia), albo też były jego lennem. Oprócz tego Warmię i Mazury zamieszkiwała spora liczba ludności mówiącej po polsku i identyfikując się z polską kulturą. Niemcy argumentowali z kolei, że większość z owych ziem stanowi ich historyczne dziedzictwo ze względu na historię Prus i zakonu krzyżackiego, a większość mieszkańców  identyfikuje się z kulturą niemiecką. Cały spór komplikowała dodatkowo dwujęzyczność mieszkańców Warmii i Mazur – większość z nich mówiła zarówno po niemiecku, jak i w lokalnej odmianie polskiego, często mieszając obydwa języki w sposób niezrozumiały dla postronnych.

Plebiscytem na Warmii zostały objęte powiaty olsztyński i reszelski, a na Mazurach: ostródzki, nidzicki, szczycieński, mrągowski, giżycki, piski, ełcki i olecki.

W głosowaniu zdecydowana większość mieszkańców opowiedziała się za przyłączeniem spornych terenów do Niemiec. Po stronie polskiej opowiedziało się zaledwie 16 tysięcy osób, czyli 3,3% głosujących (najwięcej w powiecie Olsztyńskim). Polakom udało się zwyciężyć jedynie w 13 gminach.

Na porażkę Polski w tym regionie złożyło się kilka przyczyn. Na Warmii i Mazurach brakowało inteligencji polskiej, intensywna germanizacja, zwłaszcza na Mazurach. Rząd polski, zaangażowany w wojnę z Rosją Radziecką, w niewystarczającym stopniu prowadził propagandę na rzecz plebiscytu. Na niekorzyść działała także bardzo trudna sytuacja państwa polskiego, zagrożonego ofensywą ze wschodu. W lipcu 2020 roku Warszawie bezpośrednio zagrażali Bolszewicy i nikt nie był pewien przyszłości kraju.

 W dniu 12 sierpnia 1920 r. Rada Ambasadorów Ligi Narodów w Paryżu zatwierdziła wyniki plebiscytu, przyznając Polsce jedynie kilka wsi na Warmii i Mazurach. Północno-wschodnia granica Polski biegła wzdłuż dawnej granicy Prus Wschodnich.

W związku z potrzebą zapewnienia ochrony ludności polskiej po plebiscycie 30 listopada 1920 roku powołano Związek Polaków w Prusach Wschodnich. Marszałkiem został wybrany ks. Walenty Barczewski. W roku 1924 Związek Polaków w Prusach Wschodnich został włączony do Związku Polaków w Niemczech.

Głównymi celamiorganizacji były:

• obrona interesów mniejszości polskiej na terenie Prus Wschodnich
• wspieranie polityki i działań zmierzających do poprawy sytuacji ludności polskiej na polu życia ekonomicznego, społecznego i kulturalnego
• organizacja ma charakter bezwyznaniowy; jej celem nie jest i nie będzie szerzenie podziałów i niechęci na tle religijnym

Warmia i Mazury w granicach Rzeczpospolitej znalazły się ponownie dopiero po II wojnie światowej.