Kafka नि: शुल्क संदेश कतार सॉफ्टवेयर
स्काला और जावा आधारित वितरित इवेंट स्ट्रीमिंग प्लेटफॉर्म
अपाचे काफ्का एक खुला स्रोत वितरित इवेंट स्ट्रीमिंग प्लेटफॉर्म है। यह एक मजबूत कतार ब्रोकर है और लिंक्ड-इन द्वारा विकसित एक आंतरिक संदेश प्रणाली के रूप में बनाया गया है
अवलोकन
काफ्का एक ओपन सोर्स मैसेजिंग सिस्टम और एक मजबूत कतार ब्रोकर है। यह ईवेंट स्ट्रीमिंग प्लेटफ़ॉर्म वितरित किया जाता है और इसमें उच्च मात्रा में संदेशों को संभालने की क्षमता होती है। काफ्का संदेश डिस्क पर संग्रहीत किए जाते हैं और यह आपको एक बिंदु से दूसरे बिंदु पर संदेश भेजने की अनुमति देता है। किसी भी डेटा हानि की तरह अवांछित संचालन को रोकने के लिए संदेशों को पूरे काफ्का क्लस्टर के भीतर दोहराया जाता है। काफ्का मैसेजिंग प्लेटफॉर्म वास्तविक समय की घटना स्ट्रीमिंग, पाइप-लाइनिंग और तेज, स्केलेबल संचालन के लिए डेटा को फिर से तैयार करने के लिए बनाया गया है। अपाचे काफ्का वितरित संदेश कतार सॉफ्टवेयर का उपयोग हजारों कंपनियों द्वारा उच्च प्रदर्शन डेटा पाइपलाइनों के लिए और अपाचे स्टॉर्म और स्पार्क के साथ इसके एकीकरण के लिए किया जाता है। काफ्का संदेश और कतार दलालों जैसे ActiveMQ और RabbitMQ आदि की तुलना में उच्च प्रदर्शन प्रदान करता है। Apache Kafka विभिन्न प्रकार के एंटरप्राइज़ मैसेजिंग सिस्टम का एक विकल्प है। इसे एक दिन में 1.4 ट्रिलियन संदेशों को संभालने के लिए लिंक्ड-इन द्वारा विकसित एक आंतरिक संदेश प्रणाली के रूप में बनाया गया था। यह कतारों के कार्यान्वयन के लिए एक सबसे अच्छा और उपयुक्त मंच है क्योंकि यह अनुक्रमिक डिस्क I/O संचालन का उपयोग करके प्रदर्शन को बढ़ाता है। यह बड़े डेटा उपयोग के मामलों के लिए भी एक आदर्श विकल्प है क्योंकि यह सीमित संख्या में संसाधनों के साथ उच्च थ्रूपुट प्राप्त कर सकता है, यानी प्रति सेकंड लाखों संदेश। काफ्का ओपन सोर्स सॉफ्टवेयर में 19.4k GitHub Stars और 10.3k Github Forks हैं।
सिस्टम आवश्यकताएं
अपाचे काफ्का सॉफ्टवेयर सेटअप करने की आवश्यकताओं में शामिल हैं:
- जावा 8+
- ज़ूकीपर
- उबंटू 20.04 एलटीएस
- Git
विशेषताएँ
अपाचे काफ्का की कुछ प्रमुख विशेषताएं नीचे सूचीबद्ध हैं:
- स्केलेबिलिटी
- उच्च परिमाण
- डेटा परिवर्तन
- दोष सहिष्णुता
- विश्वसनीयता
- स्थायित्व
- प्रदर्शन
- शून्य डाउनटाइम
- एक्सटेंसिबिलिटी
- प्रतिकृति
- खुला स्त्रोत
स्थापना निर्देश
ubuntu पर Apache Kafka स्थापित करें
यह मार्गदर्शिका बताती है कि सेटअप और काफ्का कैसे है। नीचे स्थापना चरणों का मानना है कि काफ्का के सभी डेपेंसी पैकेज स्थापित हैं और आपके सिस्टम पर अद्यतित हैं। कृपया नीचे स्थापना चरणों का पालन करें। नवीनतम रिलीज़ काफ्का डाउनलोड करके काफ्का प्राप्त करें और इसे कमांड के साथ निकालें:
tar -xzf kafka_2.13-2.8.0.tgz
cd kafka_2.13-2.8.0
इसके बाद, काफ्का वातावरण शुरू करें। आप स्थानीय प्रणाली के वातावरण में जावा 8+ स्थापित होना चाहिए। सही क्रम में सभी सेवाओं को शुरू करने के लिए निम्न आदेशों को निष्पादित करें:
bin/zookeeper-server-start.sh config/zookeeper.properties
एक और टर्मिनल सत्र खोलें और कफका ब्रोकर सेवा द्वारा DTART:
bin/kafka-server-start.sh config/server.properties
जब सभी सेवाएं सफलतापूर्वक स्थापित हो गई हैं, तो आपके पास एक बुनियादी काफ्का वातावरण चल रहा होगा और पहुंचने के लिए तैयार होगा। अपना पहला ईवेंट लिखने से पहले आपको एक विषय बनाने की आवश्यकता है। एक और टर्मिनल सत्र खोलें और कमांड चलाएं:
bin/kafka-topics.sh --create --topic quickstart-events --bootstrap-server localhost:9092
अब, विषय में कुछ अलग घटनाओं को लिखने के लिए कंसोल निर्माता क्लाइंट को चलाएं:
bin/kafka-console-producer.sh --topic quickstart-events --bootstrap-server localhost:9092
एक और कंसोल टर्मिनल सत्र खोलें और आपके द्वारा बनाई गई घटनाओं को पढ़ने के लिए कंसोल उपभोक्ता ग्राहक को चलाएं:
bin/kafka-console-consumer.sh --topic quickstart-events --from-beginning --bootstrap-server localhost:9092
आप अपने डेटा को काफ्का से लगातार आयात/निर्यात कर सकते हैं। काफ्का ब्रोकर को रोकने के लिए CTRL-C का उपयोग करें। यदि आप भी अपने स्थानीय काफ्का वातावरण से किसी भी डेटा को हटाना चाहते हैं, जिसमें आपके द्वारा बनाई गई किसी भी घटना को शामिल किया गया है, तो कमांड चलाएं:
rm -rf /tmp/kafka-logs /tmp/zookeeper
बधाई हो! आपने उबंटू पर अपाचे काफ्का प्लेटफॉर्म को सफलतापूर्वक कॉन्फ़िगर किया है। आनंद लेना!
FAQs
What is Apache Kafka used for?
Kafka is an open source software which provides a framework for storing, reading and analysing streaming data. Being open source means that it is essentially free to use and has a large network of users and developers who contribute towards updates, new features and offering support for new users.
Is Apache Kafka free?
Apache Kafka is free, and Confluent Cloud is very cheap for small use cases, about $1 a month to produce, store, and consume a GB of data.
Is Apache Kafka open source?
Apache Kafka is an open-source distributed event streaming platform used by thousands of companies for high-performance data pipelines, streaming analytics, data integration, and mission-critical applications. The source code of Ceph application is available at Github.
What language is Kafka written in?
Kafka started as a project in LinkedIn and was later open-sourced to facilitate its adoption. It is written in Scala and Java, and it is part of the open-source Apache Software Foundation.
Why Kafka is so fast?
Compression & Batching of Data: Kafka batches the data into chunks which helps in reducing the network calls and converting most of the random writes to sequential ones. It’s more efficient to compress a batch of data as compared to compressing individual messages.
अन्वेषण करना
इस लेख में हमने अपाचे काफ्का के बारे में चर्चा की। अन्य संदेश कतार (MQ) सॉफ़्टवेयर के बारे में जानने के लिए, कृपया निम्नलिखित पृष्ठों पर जाएँ:
शीर्ष 5 खुला स्रोत संदेश कतार एमक्यू सॉफ्टवेयर