Polish

Po wielu próbach udało mi się uzyskać grant z NCN. Tytuł: Randomizowane metody uczenia sztucznych sieci neuronowych.

Żyjemy w dobie natłoku informacji. Dane opisujące różne zjawiska i zależności dostępne są na wyciągnięcie ręki. Ich zdobycie i gromadzenie nie stanowi większego problemu wobec rosnącej pojemności systemów bazodanowych i mocy obliczeniowej komputerów. Wyzwaniem natomiast jest wydobycie z tych danych użytecznej wiedzy, która pozwoli szybko zdiagnozować pacjenta, opracować strategię działania firmy, rozpoznawać obraz z kamery czy prognozować pogodę. We wszystkich tych przypadkach eksploracji danych wykorzystuje się narzędzia statystyki i uczenia maszynowego. Sztuczne sieci neuronowe należą do najpopularniejszych metod uczenia maszynowego i są powszechnie stosowane do budowy systemów decyzyjnych, rozpoznawania obrazów, modelowania zjawisk fizycznych, prognozowania i sterowania. Wiedzę pozyskują z danych w procesie uczenia się i zapamiętują w swoich wewnętrznych parametrach - wagach synaptycznych. Jednak z uwagi na warstwową strukturę sieci neuronowych proces uczenia jest skomplikowany, bywa niewydajny i nie zawsze prowadzi do dobrych rezultatów. Algorytmy uczenia sieci neuronowych oparte są na metodach gradientowych, które są czasochłonne, wrażliwe na początkowe wartości parametrów i zbiegają się do minimów lokalnych funkcji celu zamiast globalnych.

W ostatnich latach intensywnie rozwijają się alternatywne metody uczenia sieci neuronowych, tzw. metody randomizowane, w których wagi neuronów w wewnętrznej warstwie sieci (warstwie ukrytej) wybierane są losowo, a wagi w warstwie wyjściowej ustalane są przy użyciu prostego rachunku macierzowego. Takie podejście prowadzi do uproszczenia implementacji i pozwala kilkusetkrotnie skrócić czas uczenia przy zachowaniu dokładności modelowania. Wielu badaczy stosujących randomizowane metody uczenia zwraca uwagę na właściwy sposób generowania losowych wag: gdy wagi losowane są z niewłaściwego zakresu, wyniki modelowania są znacznie gorsze. W literaturze brak jednak wskazówek w jaki sposób prawidłowo generować wagi.

W ramach tego projektu planuje się opracować nowe metody generowania losowych parametrów sieci neuronowych. Na podstawie badań teoretycznych dotyczących aproksymacji funkcji i komponowania krzywej aproksymującej poprzez agregację funkcji aktywacji neuronów, wyprowadzone zostaną wzory na obliczanie parametrów funkcji aktywacji. Funkcje aktywacji neuronów zostaną rozmieszczone w przestrzeni w taki sposób, aby ich najbardziej nieliniowe fragmenty wstawiane był w obszarach wypełnionych przez dane. Pozwoli to skutecznie modelować silnie nieliniowe zależności z dużą dokładnością, przy maksymalnym wykorzystaniu zasobów (przy obecnie używanych randomizowanych metodach uczenia wiele neuronów nie bierze udziału w modelowaniu, ponieważ ich funkcje aktywacji mają nasycenie w rejonach wypełnionych danymi i z tego względu są nieprzydatne do modelowania nieliniowych zależności). Rezultatem badań będą nowe algorytmy generowania losowych parametrów sieci neuronowych dla problemów regresji oraz klasyfikacji. Pozwolą one poprawić dokładność modelowania i generalizację.


 

Data Science - Inżynieria Danych

Uruchamiamy studia podyplomowe poświęcone zagadnieniom data science, czyli analizy i eksploracji danych. Specjalista data science zajmuje się przetwarzaniem i analizą danych - szukaniem w nich trendów, wzorców i zależności. Z gąszczu danych potrafi wydobyć użyteczne informacje i wiedzę, które pozwalają polepszyć wyniki finansowe firmy, zoptymalizować strategie inwestycyjne, wykrywać nadużycia, czy prognozować zapotrzebowanie na produkty i usługi.

Na globalnym rynku IT specjaliści data science są obecnie jednymi z najbardziej poszukiwanych i cenionych pracowników, a zapotrzebowanie na ich umiejętności i wiedzę ciągle wzrasta. Mówi się, że jest to jeden z najbardziej pożądanych i najlepiej płatnych zawodów IT. Jednocześnie Data Science to bardzo atrakcyjna ścieżka kariery, pełna wyzwań, inspirujących tematów, uwalniająca kreatywne myślenie i dająca możliwość samorealizacji.

 

Studia kształcą

 

  • analityków biznesowych i specjalistów od analizy danych operujących narzędziami eksploracji danych i uczenia maszynowego
  • projektantów i architektów inteligentnych systemów informatycznych, które wykorzystują sztuczną inteligencję i uczenie maszynowe do wydobywania wiedzy z danych

 

Studia odpowiadają zapotrzebowaniu

 

  • instytucji, firm i organizacji wykorzystujących zaawansowana analitykę biznesową, takich jak banki, firmy handlowe, produkcyjne, telekomunikacyjne, usługowe, badawcze, ubezpieczeniowe, konsultingowe, biura analiz itp.
  • firm IT zajmujących się wytwarzaniem, dostosowaniem i wdrażaniem narzędzi informatycznych wspomagających analitykę biznesową, podejmowanie decyzji, analizowanie i sterowanie procesami produkcyjnymi

 

W ramach studiów słuchacz zdobędzie wiedzę i umiejętności z zakresu

 

  • zagadnień pozyskiwania, składowania, wizualizacji, przetwarzania i statystycznej analizy danych
  • narzędzi inżynierii danych oraz metod uczenia maszynowego i sztucznej inteligencji (sieci neuronowe, drzewa decyzyjne, deep learning, boosted trees)
  • języków skryptowych do eksploracji danych (Python, R)
  • hurtowni danych, przetwarzania danych w chmurze i big data
  • rozwiązywania praktycznych problemów biznesowych i wydobywania wiedzy z danych

 

Absolwent

 

  • łączy umiejętności analityczne, informatyczne i statystyczne z kreatywnym rozwiązywaniem problemów biznesowych w wielu dziedzinach
  • nabywa praktyczne umiejętności skutecznego posługiwania się narzędziami eksploracji danych i uczenia maszynowego, językami skryptowymi do analizy danych (R, Python) oraz systemami do pozyskiwania, składowania, wizualizacji i przetwarzania danych

 

Więcej informacji na stronie Wydziału Elektrycznego el.pcz.pl/podyplomowe


 

Komitet Ewaluacji Jednostek Naukowych przeprowadził kompleksową ocenę jakości naukowej lub badawczo-rozwojowej jednostek naukowych. W ramach przeprowadzonej oceny przyznano jednostkom naukowym odrębne oceny punktowe za osiągnięcia w ramach każdego z czterech kryteriów.

1. osiągnięcia naukowe i twórcze,

2. potencjał naukowy,

3. praktyczne efekty działalności naukowej,

4. pozostałe efekty działalności naukowej.

Ocena parametryczna jednostek naukowych miała na celu wyłonienie czterech grup w kategorii A+, A, B, C.

Wydział Elektryczny Politechniki Częstochowskiej utrzymał prestiżową kategorię A, co należy uznać za nie lada osiągnięcie okupione ciężką pracą naukowców :).

Wykaz jednostek naukowych wraz z punktacją na stronie MNiSW. Nasz wydział pod pozycją 395.


 

Szóste spotkanie Polskiej Grupy Badawczej Systemów Uczących się odbyło się w dn. 14.04.2016 r. na Wydziale Inżynierii Mechanicznej i Informatyki Politechniki Częstochowskiej. Gospodarzem był prof. Leszek Rutkowski. Wiele ciekawych referatów, m.in. na temat Big Data (prof. Koronacki i Stefanowski) oraz metod selekcji atrybutów w wysokowymiarowych problemach regresyjnych (prof. Mielniczuk).


 

Kolejne, piąte spotkanie Polskiej Grupy Badawczej Systemów Uczących się odbyło się dniach 23-24 kwietnia na Wydziale Mechanicznym Technologicznym Politechniki Śląskiej. Tematem przewodnim były systemy doradcze Na Wydziale MT pracują eksperci od systemów eksperckich i diagnostyki technicznej, np. prof. Cholewa i prof. Moczulski (wiele lat temu korzystałem ze skryptów dot. diagnostyki tychże autorów; teraz miałem okazję poznać ich osobiście). W programie wiele ciekawych referatów


 

W okresie od września do grudnia 2014 brałem udział w konkursie Global Energy Forecasting Competition 2014 - Price forecasting (GEFCOM 2014). Udało mi się wskoczyć na podium.

Konkurs dotyczył probabilistycznego prognozowania cen rynkowych energii elektrycznej, tzn. prognozuje się rozkład prawdopodobieństwa, a nie konkretne wartości punktowe cen. W konkursie brało udział 287 zawodników z całego świata. Konkurs obejmował 13 zadań prognostycznych + 3 zadania treningowe (co tydzień nowe zadanie). Wyprzedziły mnie dwa czteroosobowe zespoły: z Francji (wynik 71,7%) i Wrocławia (67,7%). Ja zdobyłem 67,1%. Walka była nierówna, bo ich było po czterech, a ja sam :(.

Trzecie miejsce jest premiowane skromną nagrodą finansową i artykułem w International Journal of Forecasting (a także referatem na konferencji PESGM2015 (IEEE Power & Energy Society General Meeting); niestety nie wybieram się - udział w tej konferencji pochłonąłby kilkuletni budżet na badania jaki mam do dyspozycji).

Opis konkursu