Adresówki

Z UMP

(Różnice między wersjami)
(odświeżenie całości)
d (przegląd - dokończenie)
Linia 1: Linia 1:
== Pliki ADR ==
== Pliki ADR ==
-
W katalogach źródłowych src możesz spotkać pliki z rozszerzeniem .adr, format wewnątrz jest bliźniaczo podobny do [[Format PNT|formatu PNT]]. To są adresy pozyskane z urzędów miast i gmin, z ich rejestrów emuia (ewidencja miast, ulic i adresów), która jest od kilku lat [[Geoportal|umocowana prawnie]].
+
W katalogach źródłowych src możesz spotkać pliki z rozszerzeniem .adr, format wewnątrz jest bliźniaczo podobny do [[Format PNT|formatu PNT]]. To są adresy [[Zewnetrzne_zrodla_danych#Dane_adresowe|pozyskane z urzędów miast i gmin]], z ich rejestrów emuia (ewidencja miast, ulic i adresów), która jest od kilku lat [[Geoportal|umocowana prawnie]].
 +
Z tego powodu uznajemy, że te pliki są "prawie tylko do odczytu". Po prostu podczas aktualizacji plik jest kasowany, i wgrywany jest nowy, bez zachowania dotychczasowych zmian (jedynie nasza pisownia nazw ulic, ale to się dzieje automatycznie bazując na innym mechanizmie).
 +
Przesuwanie tych punktów czy inne poprawki są słabe, gdyż poprawki powinny być nanoszone przez dany urząd, a nie przez nas.
-
Uwaga, pliki są "prawie tylko do odczytu", podczas aktualizacji, dość często, plik jest kasowany i wgrywany jest nowy, bez zachowania dotychczasowych zmian. Przesuwanie tych punktów jest bardzo nie mile widziane, choć dopuszczamy inne poprawki, oraz wstawianie własnych, choć nadal trzeba się liczyć ze zniknięciem podczas aktualizacji.
+
Proszę nie dzielić tych plików na granicy obszarów, one mają "wystawać".
-
Proszę też, nie dzielić plików na granicy obszarów, one mają "wystawać".
+
Jeśli chcesz działać w tej materii (pozyskiwanie, zmiany, uwagi, itp) skontaktuj się najpierw z Ar't-em bądź z Alf-em (a najlepiej mailować do nas zbiorczo). Mamy dość dopracowany mechanizm przetwarzania danych z różnych źródeł, i [https://drive.google.com/open?id=0B4qXWygKCgU-Q3l4bHFmWVpVRGM dokumentujemy wszystkie aktywności].
-
Jeśli chcesz działać w tej materii (pozyskiwanie, zmiany, uwagi, itp) skontaktuj się najpierw z Ar't-em bądź z Alf-em (a najlepiej mailować do nas zbiorczo). Mamy dość dopracowany mechanizm przetwarzania danych z gmin i z CODGIK.
+
Jeśli brakuje adresówek jakieś gminy to też pisz do nas, postaramy się coś z tym zrobić.
-
Jeśli brakuje adresówek jakieś gminy też pisz do nas, postaramy się coś z tym zrobić.
+
== Skąd bierzemy ==
 +
 
 +
# pytamy urząd miasta / gminy
 +
## żeby sprawdzić, czy i jak urząd używa [http://epuap.gov.pl/ ePUAP], i nauczyć urzędy tej drogi
 +
## żeby dostać najświeższe dane
 +
## żeby mieć możliwość zgłoszenia błędu czy mieć osobę kontaktową do dopytania o jakieś lokalne niuanse
 +
# sprawdzamy, czy urząd używa [http://www.punktyadresowe.pl/ iMPA] albo nawet z góry [http://danepubliczne.punktyadresowe.pl/ jawnie udostępnił] tam swoje dane
 +
# sprawdzamy co jest w [http://www.codgik.gov.pl/index.php/darmowe-dane/prg.html PRG].
 +
 
 +
Mamy następujące główne skrypty:
 +
* przetworzenie danych xml z systemu emuia
 +
* przetworzenie danych gml z systemu iMPA
 +
* przetworzenie danych z innych systemów (formaty gml, shp)
 +
* pobranie danych z iMPA
 +
oraz mechanizm budowania słownika poprawnych (ujednoliconych) nazw ulic, i wykazywania typowych błędów (podwójne adresy, adresy z niekompletnymi danymi, itp.)
== Nazewnictwo ==
== Nazewnictwo ==
Linia 23: Linia 39:
* g - gmina wiejska
* g - gmina wiejska
* mg - gmina miejsko-wiejska
* mg - gmina miejsko-wiejska
-
* m - gmina miejska lub miasto na prawach powiatu (czytaj po prostu miasto)
+
* m - gmina miejska lub miasto na prawach powiatu (czyli po prostu miasto)
-
Potem nazwa gminy (a w paru miejscach dodajemy też nazwę powiatu) pisaną bez spacji i w tzw TilteCase
+
Potem nazwa gminy (a w paru miejscach dodajemy też nazwę powiatu) pisaną bez spacji.
Zwykle za nazwą gminy umieszczamy datę w formie rok-miesiąc (o np tak 2016-01), jednak w tym członie zachodziły największe zmiany.
Zwykle za nazwą gminy umieszczamy datę w formie rok-miesiąc (o np tak 2016-01), jednak w tym członie zachodziły największe zmiany.
Linia 37: Linia 53:
Od początku 2016 r. używamy 2 zapisów: PRG16A gdzie literka oznacza kolejny miesiąc (dla danych wymagających dużej pracy ręcznej) oraz PRG16 bez literki dla czystych danych które można często uaktualniać.
Od początku 2016 r. używamy 2 zapisów: PRG16A gdzie literka oznacza kolejny miesiąc (dla danych wymagających dużej pracy ręcznej) oraz PRG16 bez literki dla czystych danych które można często uaktualniać.
-
Od niedawna (IX 2016) używamy również zapisu 2016i dla danych udostępnionych przez gminy w iMPA (literka "i" jest stała) te dane są zwykle obecne w PRG ale te bezpośrednio są świeższe (i zawierają więcej ciekawych dla nas danych)
+
Od niedawna (IX 2016) używamy również zapisu 2016i dla danych udostępnionych przez gminy w iMPA (literka "i" jest stała). Te same dane, ale starsze, powinny być też w PRG - ale wolimy świeże.
 +
 
 +
Można też spotkać pliki ADR-Obszar.adr to jest miejsce na własnoręcznie wstawione punkty. Acz lepiej postarać się o te gminne, niźli wstawiać je tu seryjnie. I ten jako jedyny można edytować do woli (proszę o nie mikro-przesuwanie).
-
Można też spotkać pliki ADR-Obszar.adr to jest miejsce na własnoręcznie wstawione punkty. Acz lepiej postarać się o te gminne, niźli wstawiać je tu seryjnie. I ten jako jedyny można edytować do woli (acz proszę o nie mikro-przesuwanie).
 
== Historia ==
== Historia ==

Wersja z dnia 11:08, 8 paź 2016

Spis treści

Pliki ADR

W katalogach źródłowych src możesz spotkać pliki z rozszerzeniem .adr, format wewnątrz jest bliźniaczo podobny do formatu PNT. To są adresy pozyskane z urzędów miast i gmin, z ich rejestrów emuia (ewidencja miast, ulic i adresów), która jest od kilku lat umocowana prawnie. Z tego powodu uznajemy, że te pliki są "prawie tylko do odczytu". Po prostu podczas aktualizacji plik jest kasowany, i wgrywany jest nowy, bez zachowania dotychczasowych zmian (jedynie nasza pisownia nazw ulic, ale to się dzieje automatycznie bazując na innym mechanizmie). Przesuwanie tych punktów czy inne poprawki są słabe, gdyż poprawki powinny być nanoszone przez dany urząd, a nie przez nas.

Proszę nie dzielić tych plików na granicy obszarów, one mają "wystawać".

Jeśli chcesz działać w tej materii (pozyskiwanie, zmiany, uwagi, itp) skontaktuj się najpierw z Ar't-em bądź z Alf-em (a najlepiej mailować do nas zbiorczo). Mamy dość dopracowany mechanizm przetwarzania danych z różnych źródeł, i dokumentujemy wszystkie aktywności.

Jeśli brakuje adresówek jakieś gminy to też pisz do nas, postaramy się coś z tym zrobić.

Skąd bierzemy

  1. pytamy urząd miasta / gminy
    1. żeby sprawdzić, czy i jak urząd używa ePUAP, i nauczyć urzędy tej drogi
    2. żeby dostać najświeższe dane
    3. żeby mieć możliwość zgłoszenia błędu czy mieć osobę kontaktową do dopytania o jakieś lokalne niuanse
  2. sprawdzamy, czy urząd używa iMPA albo nawet z góry jawnie udostępnił tam swoje dane
  3. sprawdzamy co jest w PRG.

Mamy następujące główne skrypty:

  • przetworzenie danych xml z systemu emuia
  • przetworzenie danych gml z systemu iMPA
  • przetworzenie danych z innych systemów (formaty gml, shp)
  • pobranie danych z iMPA

oraz mechanizm budowania słownika poprawnych (ujednoliconych) nazw ulic, i wykazywania typowych błędów (podwójne adresy, adresy z niekompletnymi danymi, itp.)

Nazewnictwo

Pewnie spotkałeś się z plikami gNazwaGminy-data.adr albo gNazwaGminy-PRG16.adr, te nazwy, jak się domyślasz, mają jakieś znaczenie :)

W wyniku przemyśleń doszliśmy do pewnego schematu nazewniczego, ponieważ proces ten przebiegał w długim okresie to nadal można spotkać pełne spektrum "na wolności".

schemat podstawowy wygląda tak:

mgNazwaGminy_data.adr

na początku umieszczamy wyróżnik rodzaju gminy

  • g - gmina wiejska
  • mg - gmina miejsko-wiejska
  • m - gmina miejska lub miasto na prawach powiatu (czyli po prostu miasto)

Potem nazwa gminy (a w paru miejscach dodajemy też nazwę powiatu) pisaną bez spacji.

Zwykle za nazwą gminy umieszczamy datę w formie rok-miesiąc (o np tak 2016-01), jednak w tym członie zachodziły największe zmiany.

Dla danych pozyskiwanych bezpośrednio od gmin wpisujemy rok-miesiąc.

Dla kilku miast gdzie można pobrać dane samodzielnie, używamy pełnej daty tj (2016-01-01)

Dla danych udostępnianych przez codgik używaliśmy kolejno: PRG1, PRG2 potem zmieniliśmy na PRG14C gdzie 14 to końcówka roku a C to kolejna literka nadawana przy pobraniu danych (doszliśmy do 15U). Ten schemat uchował się do końca roku 2015. Od początku 2016 r. używamy 2 zapisów: PRG16A gdzie literka oznacza kolejny miesiąc (dla danych wymagających dużej pracy ręcznej) oraz PRG16 bez literki dla czystych danych które można często uaktualniać.

Od niedawna (IX 2016) używamy również zapisu 2016i dla danych udostępnionych przez gminy w iMPA (literka "i" jest stała). Te same dane, ale starsze, powinny być też w PRG - ale wolimy świeże.

Można też spotkać pliki ADR-Obszar.adr to jest miejsce na własnoręcznie wstawione punkty. Acz lepiej postarać się o te gminne, niźli wstawiać je tu seryjnie. I ten jako jedyny można edytować do woli (proszę o nie mikro-przesuwanie).


Historia

Na początku 2014 r. wpadliśmy (Ar't i Wojtek) na pomysł by pozyskiwać z urzędów punkty adresowe, po małych perturbacjach dorobiliśmy się dość uniwersalnego konwertera danych (o ile dane dają się w jakiś sposób parsować i nie są tajnymi blobami binarnymi) używanego do dziś.

Do zespołu "adresowego" dość aktywnie włączył się jeszcze Alf. Parę osób nam pomaga od czasu do czasu.

Pewnego dnia (2014-07-10) codgik zrobił niespodziankę, udostępnił dane z własnych zasobów (acz warto wspomnieć że był zmuszony do tego wyrokiem sądu). I wszystko było by fajnie gdyby nie jakość tych danych, która wahała się od dobrej do bardzo złej (z przewagą tych ostatnich). Ale to nie koniec, dane te są udostępnione wg podziału administracyjnego na poziomie województw, a to oznacza plik XML dla mazowieckiego wielkości powyżej 2GB inne mniej ale w granicach 1GB, dodatkowo struktura wewnętrzna potrzebuje skakać po całym pliku by go jakość sensownie przetworzyć. Stąd decyzja podziału na gminy pozwalająca to powoli ogarniać. Pomimo dostępnych danych, sporo gmin warto nadal odpytywać, gdyż zwykle dostajemy wtedy dane lepsze/poprawione (zdarzają się być poprawiane na nasze wskazanie).

I tak to się kręci.