Základy Kafky - kurz 42 000 rub. z IBS Training Center, tréning 24 hodín, Termín: 4.12.2023.
Rôzne / / November 29, 2023
Preberané témy:
1. recenzia (teória – 1 hodina)
Čo je Kafka.
Príklady úspešného a neúspešného použitia Kafku.
Kafka a databáza: podobnosti a rozdiely.
Kafka a front správ: podobnosti a rozdiely.
Architektúra úložiska Kafka: Sprostredkovatelia, Témy, Oddiely, Segmenty, Repliky.
Architektúra klastra Kafka: Zookeeper, rozdelenie, hlavné a podriadené replikačné uzly, ISR.
Klienti a API.
2. Založenie klastra (cvičenie – 1 hodina)
Cvičenie 2.1: Spustenie klastra Kafka pomocou Docker.
Inštalácia Zookeepera.
Inštalácia maklérov Kafka.
3. Vývoj aplikácií v Jave (teória – 2,5 hodiny, prax – 2,5 hodiny)
Kafka Producer API: Základy.
Cvičenie 3.1: Odoslanie jednej správy.
Cvičenie 3.2: Odosielanie viacerých správ.
Cvičenie 3.3: Odosielanie viacerých správ s explicitným rozdelením.
Cvičenie 3.4: Posielanie správ bez kľúčov.
Kafka Consumer API: základy, skupiny spotrebiteľov.
Cvičenie 3.5: Jeden príjemca.
Cvičenie 3.6: Viacerí príjemcovia v jednej skupine.
Ďalšie funkcie: pakety, opakovania, idempotencia, transakcie, vyváženie skupín spotrebiteľov.
Cvičenie 3.7: Odosielateľ bez paketov a opakovaní.
Cvičenie 3.8: Idempotentný odosielateľ.
Cvičenie 3.9: Odosielateľ transakcií.
Cvičenie 3.10: Odosielanie a prijímanie v transakcii.
Cvičenie 3.11: Príjem-spracovanie-odoslanie v transakcii.
4. Externý prístup do klastra Kafka (teória – 2 hodiny, prax – 2 hodiny)
Zabezpečenie: SSL, SASL, Kerberos.
REST Proxy: odosielanie a prijímanie správ vo formátoch JSON, binárnych a Avro.
Cvičenie 4.1: Prístup cez REST Proxy.
Register schém: register schém.
Cvičenie 4.2: Používanie REST proxy s registrom schém.
5. Údržba a monitorovanie (teória – 1 hodina, prax – 1 hodina)
Nastavenie klastra na rôzne účely.
Zookeeper: konfigurácia, samostatný režim a režim kvóra, CLI.
Cvičenie 5.1: Monitorovanie Kafkovho klastra pomocou Prometheus.
6. Niekoľko zhlukov (teória – 1 hodina, prax – 1 hodina)
Prečo by ste mohli potrebovať viacero klastrov v Kafke?
MirrorMakerAccess.
Cvičenie 6.1: Použitie MirrorMaker na synchronizáciu klastrov.
Confluence Replicator.
7. Kafka Connect (teória – 2 hodiny, prax – 2 hodiny)
Architektúra Kafka Connect.
Dátové umývadlá Kafka Connect.
Cvičenie 7.1: FileStream File Receiver.
Cvičenie 7.2: Prijímač JDBC.
Zdroje údajov Kafka Connect.
Cvičenie 7.3: Zdroj súboru FileStream.
Cvičenie 7.4: Zdroj JDBC.
8. Základy Kafkových prúdov (teória – 2 hodiny, prax – 2 hodiny)
Kafka Streams: DSL, API, StreamBuilder, tvorba a implementácia topológie.
Demo 8.1: Implementácia topológie Streams.
Demo 8.2: Vytvorenie aplikácie Streams pomocou StreamBuildera.
Zariadenie Kafka Streams: multi-threading, viacero inštancií a úloh.
Dátové schémy v Kafke: serializácia na schémy JSON, schémy Avro, register schém, vývoj schém.
Demo 8.3: Používanie schém JSON.
Stavové spracovanie: Štátny obchod, odolnosť voči chybám pre štátne obchody.
KTable: Toky aktualizácie údajov, ukladanie do vyrovnávacej pamäte, rýchlosť získavania, agregácia.
Okná v streamoch: časové pečiatky, plávajúce, skákanie, relácia.
Pripojenie: stream to stream, KTable to KTable, stream to KTable.