حزمة التكامل
org.apache.beam.sdk.io.clickhouse.ClickHouseIO داخل مستودع Apache Beam.
إعداد حزمة ClickHouse لـ Apache Beam
تثبيت الحزمة
مثال على الشيفرة
input.csv على أنه PCollection، ثم يحوّله إلى كائن Row (باستخدام المخطط المحدد) ويُدرجه في مثيل ClickHouse محلي باستخدام ClickHouseIO:
أنواع البيانات المدعومة
معلمات ClickHouseIO.Write
ClickHouseIO.Write باستخدام دوال الضبط التالية:
القيود
- حتى الآن، لا تتوفر سوى عملية Sink. ولا يدعم الموصل عملية Source.
- يُجري ClickHouse إزالة التكرار عند الإدراج في جدول
ReplicatedMergeTreeأو في جدولDistributedمبني فوقReplicatedMergeTree. أما بدون replication، فقد يؤدي الإدراج في جدول MergeTree عادي إلى تكرار الصفوف إذا فشلت عملية الإدراج ثم نجحت إعادة المحاولة لاحقًا. ومع ذلك، تُدرَج كل block بصورة ذرّية، ويمكن ضبط حجم block باستخدامClickHouseIO.Write.withMaxInsertBlockSize(long). وتتحقق إزالة التكرار باستخدام checksums الخاصة بـ blocks المُدرجة. لمزيد من المعلومات حول إزالة التكرار، يُرجى زيارة إزالة التكرار وإعدادات insert deduplicate. - لا يُجري الموصل أي عبارات DDL؛ لذلك، يجب أن يكون الجدول الهدف موجودًا قبل الإدراج.