هل يمكنك استخدام PIVOT في ClickHouse؟

المقدمة

لا يتضمن ClickHouse عامل pivot، لكن يمكننا تحقيق سلوك مماثل باستخدام مُعدِّلات الدوال التجميعية، وتحديدًا تلك التي تحمل اللاحقة -Map. في هذه المقالة، سنتعلّم كيفية القيام بذلك. يوجد أيضًا فيديو يشرح المحتوى نفسه، ويمكنك مشاهدته أدناه:

فهم مُعدِّلات الدوال التجميعية

لنبدأ بمثال بسيط. سنستخدم clickhouse-local، ويمكنك تشغيله بتنفيذ ما يلي:

clickhouse -m --output_format_pretty_row_numbers=0

يستدعي الاستعلام التالي الدالة sumMap، التي تستقبل map وتجمع قيم كل مفتاح:

SELECT sumMap(map('ClickHouse', 1, 'ClickBench', 2));

┌─sumMap(map('ClickHouse', 1, 'ClickBench', 2))─┐
│ {'ClickBench':2,'ClickHouse':1}               │
└───────────────────────────────────────────────┘

هذا ليس مثالًا مثيرًا للاهتمام كثيرًا، لأنه يعيد قيمة Map نفسها التي مررناها. لنستدعِ الآن sumMap على عدة صفوف من قيم Map؛

WITH values AS (
  SELECT map('ClickHouse', 3) AS value
  UNION ALL
  SELECT map('ClickBench', 2, 'ClickHouse', 4) AS value
)
SELECT sumMap(value)
FROM values;

┌─sumMap(value)───────────────────┐
│ {'ClickBench':2,'ClickHouse':7} │
└─────────────────────────────────┘

ظهر المفتاح ClickHouse في كلا الصفّين، وجُمعت قيمه. أما المفتاح ClickBench فلم يظهر إلا في أحد الصفّين، لذا تُجمع قيمة واحدة فقط، فتكون النتيجة هي تلك القيمة نفسها! يمكننا أيضًا استخدام maxMap للعثور على القيم العظمى لكل مفتاح:

WITH values AS (
  SELECT map('ClickHouse', 3) AS value
  UNION ALL
  SELECT map('ClickBench', 2, 'ClickHouse', 4) AS value
)
SELECT maxMap(value)
FROM values;

┌─maxMap(value)───────────────────┐
│ {'ClickBench':2,'ClickHouse':4} │
└─────────────────────────────────┘

أو يمكننا استخدام avgMap لحساب متوسط القيمة لكل مفتاح:

WITH values AS (
  SELECT map('ClickHouse', 3) AS value
  UNION ALL
  SELECT map('ClickBench', 2, 'ClickHouse', 4) AS value
)
SELECT avgMap(value)
FROM values;

┌─avgMap(value)─────────────────────┐
│ {'ClickBench':2,'ClickHouse':3.5} │
└───────────────────────────────────┘

نأمل أن يكون هذا قد أعطاك فكرة عن كيفية عمل مُعدِّلات الدوال التجميعية.

تطبيق عملي واقعي: مجموعة بيانات أسعار المساكن في المملكة المتحدة

سنستخدم ما سبق الآن على مجموعة بيانات أكبر في ClickHouse SQL playground. يمكننا الاتصال بـ ClickHouse SQL playground باستخدام clickhouse-client:

clickhouse client -m \
  -h sql-clickhouse.clickhouse.com \
  -u demo \
  --secure

سنُجري استعلامًا على الجدول uk_price_paid، لذا فلنستعرض البيانات في هذا الجدول:

SELECT * FROM uk.uk_price_paid LIMIT 1 FORMAT Vertical;

Row 1:
──────
price:     145000
date:      2008-11-19
postcode1:
postcode2:
type:      semi-detached
is_new:    0
duration:  leasehold
addr1:
addr2:
street:    CURLEW DRIVE
locality:  SCARBOROUGH
town:      SCARBOROUGH
district:  SCARBOROUGH
county:    NORTH YORKSHIRE
category:  0

يمكننا أن نرى أعلاه أن الجدول يضم حقولًا متنوعة تتعلق بمبيعات العقارات في المملكة المتحدة.

التجميع والتلخيص حسب العقد الزمني

لنحسب وسيط الأسعار بحسب المقاطعة لكل عقد زمني في مجموعة البيانات:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices
FROM uk.uk_price_paid
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices───────────────────────────────────────┐
│ GREATER LONDON     │ {1990:89972.5,2000:215000,2010:381500,2020:485000} │
│ TYNE AND WEAR      │ {1990:46500,2000:93000,2010:130000,2020:139000}    │
│ WEST MIDLANDS      │ {1990:50000,2000:110000,2010:149950,2020:185000}   │
│ GREATER MANCHESTER │ {1990:47000,2000:97000,2010:141171,2020:178000}    │
│ MERSEYSIDE         │ {1990:46750,2000:94972.5,2010:128000,2020:149000}  │
│ HERTFORDSHIRE      │ {1990:86500,2000:193000,2010:315000,2020:415000}   │
│ WEST YORKSHIRE     │ {1990:48995,2000:99950,2010:139000,2020:164950}    │
│ BRIGHTON AND HOVE  │ {1990:70000,2000:173000,2010:288000,2020:387000}   │
│ DORSET             │ {1990:76500,2000:182000,2010:250000,2020:315000}   │
│ HAMPSHIRE          │ {1990:79950,2000:177500,2010:260000,2020:335000}   │
    └────────────────────┴────────────────────────────────────────────────────┘

تصفية النتائج

يمكننا تصفية النتائج بحيث تشمل فقط البيانات من عام 2010 فصاعدًا:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices────────────────┐
│ GREATER LONDON     │ {2010:384975,2020:485919.5} │
│ TYNE AND WEAR      │ {2010:130000,2020:140000}   │
│ WEST MIDLANDS      │ {2010:146500,2020:185000}   │
│ GREATER MANCHESTER │ {2010:140000,2020:177500}   │
│ MERSEYSIDE         │ {2010:130000,2020:150000}   │
│ HERTFORDSHIRE      │ {2010:315000,2020:415000}   │
│ WEST YORKSHIRE     │ {2010:140000,2020:162500}   │
│ BRIGHTON AND HOVE  │ {2010:287500,2020:387000}   │
│ DORSET             │ {2010:255750,2020:315000}   │
│ HAMPSHIRE          │ {2010:265000,2020:330000}   │
    └────────────────────┴─────────────────────────────┘

دمج عدة عمليات تجميع

وإذا أردنا العثور على أعلى سعر لكل عقد زمني، يمكننا فعل ذلك باستخدام الدالة maxMap التي رأيناها سابقًا:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices,
    maxMap(map(year, price)) AS maxPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices──────────────┬─maxPrices───────────────────────┐
│ GREATER LONDON     │ {2010:385000,2020:485250} │ {2010:594300000,2020:630000000} │
│ TYNE AND WEAR      │ {2010:130000,2020:141000} │ {2010:448300979,2020:93395000}  │
│ WEST MIDLANDS      │ {2010:149000,2020:184250} │ {2010:415000000,2020:104500000} │
│ GREATER MANCHESTER │ {2010:140000,2020:175000} │ {2010:107086856,2020:319186000} │
│ MERSEYSIDE         │ {2010:129950,2020:150000} │ {2010:300000000,2020:93395000}  │
│ HERTFORDSHIRE      │ {2010:315000,2020:415000} │ {2010:254325163,2020:93395000}  │
│ WEST YORKSHIRE     │ {2010:138500,2020:165000} │ {2010:246300000,2020:109686257} │
│ BRIGHTON AND HOVE  │ {2010:285000,2020:387000} │ {2010:200000000,2020:71540000}  │
│ DORSET             │ {2010:250000,2020:315000} │ {2010:150000000,2020:20230000}  │
│ HAMPSHIRE          │ {2010:264000,2020:330000} │ {2010:150000000,2020:48482500}  │
    └────────────────────┴───────────────────────────┴─────────────────────────────────┘

تطبيق الدوال على قيم `map`

بدلًا من ذلك، يمكننا حساب متوسط السعر باستخدام avgMap. تحتوي هذه القيم على الكثير من الأرقام بعد الفاصلة العشرية، ويمكننا تبسيطها باستخدام الدالة mapApply لاستدعاء الدالة floor على كل قيمة في map:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices,
    mapApply((k, v) -> (k, floor(v)), avgMap(map(year, price))) AS avgPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices──────────────┬─avgPrices─────────────────┐
│ GREATER LONDON     │ {2010:382000,2020:490000} │ {2010:626091,2020:807240} │
│ TYNE AND WEAR      │ {2010:127000,2020:140000} │ {2010:176955,2020:225770} │
│ WEST MIDLANDS      │ {2010:148500,2020:183000} │ {2010:204128,2020:257226} │
│ GREATER MANCHESTER │ {2010:140000,2020:177500} │ {2010:195592,2020:251165} │
│ MERSEYSIDE         │ {2010:127995,2020:150000} │ {2010:182194,2020:206062} │
│ HERTFORDSHIRE      │ {2010:317500,2020:415000} │ {2010:414134,2020:529409} │
│ WEST YORKSHIRE     │ {2010:140000,2020:164500} │ {2010:185121,2020:234870} │
│ BRIGHTON AND HOVE  │ {2010:285000,2020:387000} │ {2010:372285,2020:527184} │
│ DORSET             │ {2010:250000,2020:315000} │ {2010:305581,2020:370739} │
│ HAMPSHIRE          │ {2010:265000,2020:330000} │ {2010:335945,2020:425196} │
    └────────────────────┴───────────────────────────┴───────────────────────────┘

تجميع مرن: المقاطعات والمناطق والرموز البريدية

لنجرّب التجميع حسب بعض الحقول المختلفة. هذه المرة سنحسب السعر الوسيط لكل عقد زمني مع التجميع حسب المقاطعة والمنطقة:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    district,
    medianMap(map(year, price)) AS medianPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10

    ┌─county─────────────┬─district───────────────┬─medianPrices────────────────┐
│ GREATER LONDON     │ CROYDON                │ {2010:298475,2020:400000}   │
│ GREATER LONDON     │ CITY OF WESTMINSTER    │ {2010:800000,2020:935000}   │
│ GREATER LONDON     │ SOUTHWARK              │ {2010:437000,2020:540000}   │
│ TYNE AND WEAR      │ NEWCASTLE UPON TYNE    │ {2010:144000,2020:162500}   │
│ WEST MIDLANDS      │ WALSALL                │ {2010:137450,2020:162000}   │
│ GREATER LONDON     │ CITY OF LONDON         │ {2010:725875,2020:840000}   │
│ GREATER LONDON     │ HILLINGDON             │ {2010:329125,2020:439000}   │
│ GREATER MANCHESTER │ MANCHESTER             │ {2010:144972.5,2020:190000} │
│ GREATER LONDON     │ HAMMERSMITH AND FULHAM │ {2010:622250,2020:750000}   │
│ GREATER LONDON     │ ISLINGTON              │ {2010:500000,2020:640000}   │
    └────────────────────┴────────────────────────┴─────────────────────────────┘

يمكننا أيضًا اختيار التجميع حسب السنة ثم دمج postcode1 وpostcode2 في الـ map:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    year,
    medianMap(map(postcode1 || ' ' || postcode2, price)) AS medianPrices
FROM uk.uk_price_paid
WHERE postcode1 LIKE 'NP1'
GROUP BY ALL;

   ┌─year─┬─medianPrices────────────────────────────────────────────────────────┐
1. │ 1990 │ {'NP1 4PB':9000}                                                    │
2. │ 2000 │ {'NP1 4SR':28475,'NP1 7HZ':200000}                                  │
3. │ 2010 │ {'NP1 4PB':5000,'NP1 4QJ':1075000,'NP1 4SR':58000,'NP1 8BR':200000} │
4. │ 2020 │ {'NP1 5DW':140000}                                                  │
   └──────┴─────────────────────────────────────────────────────────────────────┘

​المقدمة

​فهم مُعدِّلات الدوال التجميعية

​تطبيق عملي واقعي: مجموعة بيانات أسعار المساكن في المملكة المتحدة

​التجميع والتلخيص حسب العقد الزمني

​تصفية النتائج

​دمج عدة عمليات تجميع

​تطبيق الدوال على قيم map

​تجميع مرن: المقاطعات والمناطق والرموز البريدية