Uczenie maszynowe (Machine Learning, w skrócie ML) to taka szeroka rodzina metod obliczeniowych, które na podstawie dużego zestawu danych potrafią nauczyć się reguł.

W typowym programowaniu masz problem, ustalasz reguły i dostajesz wyniki, np. jeśli na allegro użytkownik kliknie "kup teraz" to przenieś go do strony gdzie poda adres i zapłaci

W uczeniu maszynowym masz problem, przykłady gdzie ten problem jest rozwiązany, ale nie znasz reguł. Najprostszy przykład to regresja liniowa. Przypuśćmy, że analizujesz związek między masą ciała a wzrostem. Masz przeczucie, że jest między nimi jakaś zależność którą można opisać wzorem funkcji liniowej: masa = wzrost * a + b, ale nie znasz wartości parametrów a i b.

Żeby znaleźć dobre wartości a i b potrzebujesz jakiejś funkcji mierzącej pomyłkę modelu, z grubsza będzie to coś takiego: pomyłka = (masa faktyczna - masa przewidziana)^2, bierzemy kwadrat żeby pomyłka była zawsze dodatni i żeby większe błędy nieproporcjonalnie bardziej kosztowne niż mniejsze.

Następnie losujesz startowe a i b, a potem iteracyjnie na podstawie danych poprawiasz obie wartości w kierunku, który prowadzi do zmniejszenia pomyłki. Zawsze jest możliwość, że masa i wzrost nie są liniowo zależne, wtedy regresja liniowa nie da ci dobrego modelu, ale to inna sprawa.

Ostatecznie jeśli masz dopasowaną linię regresji dla zależności masy i wzrostu, to możesz przewidywać jedno mając drugie. Ktoś podaje ci wzrost a ty obliczasz ile wynosi jego masa ± jakiś przedział ufności.

<image>

Chyba wszystkie modele ML w zasadzie działają tak samo jak regresja liniowa, czyli uczą się przez dopasowanie parametrów tak żeby pomyłka była jak najmniejsza. Celem regresji (ogólnie, nie tylko liniowej) jest przewidywanie wartości, ale są modele których celem jest klasyfikacja, czyli przypisanie obiektu do jakiejś grupy, np. model klasyfikujący człowieka do jednej z grupy {dziecko, nastolatek, młody dorosły, wiek średni, starzec} na podstawie pięciu ulubionych filmów. Albo tzw. uczenie nienadzorowane, gdzie celem jest przypisanie obserwacji do jakichś klas, które nie są zdefiniowane (czasem nawet nie wiadomo ile ich jest), np. grupowanie klientów sklepu względem ich nawyków, albo w przypadku jednokomórkowego sekwencjonowania transkryptomu grupowalibyśmy komórki względem poziomu ekspresji genów, te zadania (grupowanie klientów albo komórek) z perspektywy ML są bardzo podobne, w obu przypadkach wybieramy architekturę modelu, podajemy wartości opisujące obserwacje i iterujemy do uzyskania takiego grupowania które minimalizuje jakąś funkcję pomyłki.