Mówi się, że Apache Airflow to CRON na sterydach. Zdobywa uznanie wśród narzędzi do orchestracji ETL’i. Harmonogramowanie, zarządzanie i monitorowanie zadań mu nie straszne. Podstawowym sposobem definiowania zadań są acyklicze grafy skierowane (DAG). Zadania w nich muszą wymieniać się informacjami. We wpisie dowiesz się jak używać Variables i XCom w Apache Airflow.
Dziś przyjrzymy się narzędziu, jakim jest Apache Airflow. Spróbujemy użyć dwóch operatorów i zasilić kafkę danymi z API. Przy okazji rozpoczynam taki „mini projekcik”. Nie wiem jak Tobie, ale najlepiej poznaję różne technologie poprzez praktykę. W tym wpisie wspomniałem o źródle, którym są otwarte dane Warszawy https://api.um.warszawa.pl/. Mój plan to wysyłanie takich danych na Kafkę i przetworzenie ich strumieniowo (np. w Sparku). Takie dane potem wylądują na HDFS, ELK (sprawdzimy czy da się sensownie ...
Bazy danych i XML 1604 dni, 9 godzin, 40 minut temu 92 źrodło rozwiń
Zewnętrzni dostawcy tożsamości korzystają z technologii OpenID, dzięki której Twoje hasło zawsze jest poufne i nie musisz zapamiętywać kolejnego.
Wprowadź nazwę użytkownika/e-mail oraz hasło
Zaloguj się przy użyciu Facebooka.
Podaj nazwę użytkownika i adres e-mail, aby założyć konto. Dzięki niemu będziesz na bieżąco informowany o zmianach w serwisie.
