تستخدم ClickPipes معمارية مخصصة تُشغِّل واجهة برمجة تطبيقات Kafka Consumer لقراءة البيانات من topic محدد، ثم تُدرِج هذه البيانات في جدول ClickHouse على خدمة ClickHouse Cloud محددة.
ما الفرق بين ClickPipes وClickHouse Kafka Table Engine؟
يُعد Kafka Table engine إحدى الإمكانات الأساسية في ClickHouse، ويطبّق “نموذج السحب” حيث يتصل ClickHouse server نفسه بـ Kafka، ويسحب الأحداث ثم يكتبها محليًا.أما ClickPipes فهي خدمة سحابية منفصلة تعمل بشكل مستقل عن خدمة ClickHouse. إذ تتصل بـ Kafka (أو بمصادر بيانات أخرى) وتدفع الأحداث إلى خدمة ClickHouse Cloud مرتبطة بها. وتتيح هذه المعمارية المنفصلة مرونة تشغيلية أكبر، وفصلًا واضحًا للمسؤوليات، وإدخالًا قابلًا للتوسع، وإدارة سلسة للإخفاقات، وقابلية للتوسعة، وغير ذلك.
ما المتطلبات اللازمة لاستخدام ClickPipes for Kafka؟
لاستخدام ClickPipes for Kafka، ستحتاج إلى broker Kafka قيد التشغيل وإلى خدمة ClickHouse Cloud مفعّلة عليها ClickPipes. كما ستحتاج إلى التأكد من أن ClickHouse Cloud يمكنه الوصول إلى broker Kafka لديك. ويمكن تحقيق ذلك عبر السماح بالاتصال عن بُعد من جهة Kafka، وإضافة عناوين IP الصادرة من ClickHouse Cloud إلى القائمة المسموح بها في إعدادات Kafka لديك. وبدلًا من ذلك، يمكنك استخدام AWS PrivateLink لربط ClickPipes for Kafka بـ brokers Kafka لديك.
هل تدعم ClickPipes for Kafka خدمة AWS PrivateLink؟
نعم، AWS PrivateLink مدعومة. راجع الوثائق لمزيد من المعلومات حول كيفية إعدادها.
هل يمكنني استخدام ClickPipes for Kafka لكتابة البيانات إلى Kafka topic؟
لا، فـ ClickPipes for Kafka مصممة لقراءة البيانات من topics في Kafka، وليس لكتابة البيانات إليها. ولكتابة البيانات إلى Kafka topic، ستحتاج إلى استخدام منتِج Kafka مخصص.
هل تدعم ClickPipes عدة brokers؟
نعم، إذا كانت هذه brokers جزءًا من quorum واحدة، فيمكن إعدادها معًا مع الفصل بينها باستخدام ,.
هل يمكن توسيع replicas الخاصة بـ ClickPipes؟
نعم، يمكن توسيع ClickPipes المخصصة للبثّ أفقيًا وعموديًا.
تضيف التوسعة الأفقية المزيد من replicas لزيادة معدل النقل، بينما تزيد التوسعة العمودية الموارد (CPU وRAM) المخصصة لكل replica للتعامل مع workloads أكثر كثافة.
يمكن ضبط ذلك أثناء إنشاء ClickPipe، أو في أي وقت لاحق من خلال Settings -> Advanced Settings -> Scaling.
لا أستطيع العثور على بعض Kafka topics الخاصة بي في واجهة إعداد ClickPipes. لماذا؟
تعرض واجهة اكتشاف topics في ClickPipes ما يصل إلى 1,500 topic افتراضيًا. إذا كانت Kafka cluster لديك تحتوي على أكثر من 1,500 topic، فقد لا تظهر بعض topics في القائمة المنسدلة. للتحقق من وجود الـ topic، افحصها مباشرةً باستخدام عميل Kafka وببيانات الاعتماد نفسها. وإذا تأكد وجودها وكنت بحاجة إلى رفع حد العرض إلى أكثر من 1,500، فتواصل مع ClickHouse Support.
هل يعمل ClickPipe الخاص بـ Azure Event Hubs بدون واجهة Kafka؟
لا. يتطلب ClickPipes أن تكون واجهة Kafka مفعّلة على مساحة الاسم الخاصة بـ Event Hubs. ولا يتوفر ذلك إلا في الفئات الأعلى من basic. راجع وثائق Azure Event Hubs لمزيد من المعلومات.
هل يعمل Azure Schema Registry مع ClickPipes؟
لا. يدعم ClickPipes فقط مسجلات المخططات المتوافقة مع Confluent Schema Registry على مستوى واجهة برمجة تطبيقات، وهذا لا ينطبق على Azure Schema Registry. إذا كنت بحاجة إلى دعم لهذا المسجل، فتواصل مع فريقنا.
ما الأذونات التي تحتاج إليها سياستي للاستهلاك من Azure Event Hubs؟
لعرض topic واستهلاك الأحداث، تتطلب سياسة الوصول المشتركة الممنوحة إلى ClickPipes، كحد أدنى، مطالبة ‘Listen’.
لماذا لا يعيد Event Hubs أي بيانات؟
إذا كان مثيل ClickHouse لديك موجودًا في منطقة أو قارة تختلف عن موقع نشر Event Hubs، فقد تواجه حالات مهلة عند إعداد ClickPipes، بالإضافة إلى ارتفاع زمن الاستجابة عند استهلاك البيانات من Event Hub. نوصي بنشر ClickHouse Cloud وAzure Event Hubs في المنطقة السحابية نفسها، أو في مناطق متقاربة، لتجنب الحمل الإضافي على الأداء.
هل ينبغي أن أضمّن رقم المنفذ لـ Azure Event Hubs؟
نعم. يتوقع ClickPipes أن تضمّن رقم منفذ واجهة Kafka، والذي يجب أن يكون :9093.
هل لا تزال ClickPipes IPs ذات صلة بالنسبة إلى Azure Event Hubs؟