Можно ли использовать PIVOT в ClickHouse?

Введение

В ClickHouse нет оператора PIVOT, но аналогичного поведения можно добиться с помощью комбинаторов агрегатных функций, в частности комбинаторов с суффиксом -Map. В этой статье мы разберем, как это сделать. Ниже также доступно видео с тем же материалом:

Что такое комбинаторы агрегатных функций

Начнем с простого примера. Мы будем использовать clickhouse-local, который можно запустить следующей командой:

clickhouse -m --output_format_pretty_row_numbers=0

Следующий запрос вызывает функцию sumMap, которая принимает объект типа Map и суммирует значения для каждого ключа:

SELECT sumMap(map('ClickHouse', 1, 'ClickBench', 2));

┌─sumMap(map('ClickHouse', 1, 'ClickBench', 2))─┐
│ {'ClickBench':2,'ClickHouse':1}               │
└───────────────────────────────────────────────┘

Это не самый интересный пример, поскольку он возвращает то же значение Map, которое мы передали. Теперь вызовем sumMap для нескольких строк со значениями Map;

WITH values AS (
  SELECT map('ClickHouse', 3) AS value
  UNION ALL
  SELECT map('ClickBench', 2, 'ClickHouse', 4) AS value
)
SELECT sumMap(value)
FROM values;

┌─sumMap(value)───────────────────┐
│ {'ClickBench':2,'ClickHouse':7} │
└─────────────────────────────────┘

Ключ ClickHouse присутствовал в обеих строках, и его значения были суммированы. Ключ ClickBench присутствовал только в одной строке, поэтому суммируется только одно значение — в результате возвращается оно же! Мы также можем использовать maxMap, чтобы найти максимальные значения для каждого ключа:

WITH values AS (
  SELECT map('ClickHouse', 3) AS value
  UNION ALL
  SELECT map('ClickBench', 2, 'ClickHouse', 4) AS value
)
SELECT maxMap(value)
FROM values;

┌─maxMap(value)───────────────────┐
│ {'ClickBench':2,'ClickHouse':4} │
└─────────────────────────────────┘

Или можно использовать avgMap, чтобы вычислить среднее значение по каждому ключу:

WITH values AS (
  SELECT map('ClickHouse', 3) AS value
  UNION ALL
  SELECT map('ClickBench', 2, 'ClickHouse', 4) AS value
)
SELECT avgMap(value)
FROM values;

┌─avgMap(value)─────────────────────┐
│ {'ClickBench':2,'ClickHouse':3.5} │
└───────────────────────────────────┘

Надеюсь, теперь вы лучше представляете, как работают эти комбинаторы функций.

Практическое применение: набор данных о ценах на жильё в Великобритании

Теперь применим их к более крупному набору данных в Песочнице ClickHouse. Мы можем подключиться к песочнице с помощью clickhouse-client:

clickhouse client -m \
  -h sql-clickhouse.clickhouse.com \
  -u demo \
  --secure

Мы будем выполнять запросы к таблице uk_price_paid, поэтому давайте сначала посмотрим, какие данные в ней хранятся:

SELECT * FROM uk.uk_price_paid LIMIT 1 FORMAT Vertical;

Row 1:
──────
price:     145000
date:      2008-11-19
postcode1:
postcode2:
type:      semi-detached
is_new:    0
duration:  leasehold
addr1:
addr2:
street:    CURLEW DRIVE
locality:  SCARBOROUGH
town:      SCARBOROUGH
district:  SCARBOROUGH
county:    NORTH YORKSHIRE
category:  0

Как видно выше, таблица содержит различные поля, связанные с продажей недвижимости в Великобритании.

Группировка и агрегация по десятилетиям

Давайте вычислим медианные цены по графствам для каждого десятилетия в наборе данных:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices
FROM uk.uk_price_paid
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices───────────────────────────────────────┐
│ GREATER LONDON     │ {1990:89972.5,2000:215000,2010:381500,2020:485000} │
│ TYNE AND WEAR      │ {1990:46500,2000:93000,2010:130000,2020:139000}    │
│ WEST MIDLANDS      │ {1990:50000,2000:110000,2010:149950,2020:185000}   │
│ GREATER MANCHESTER │ {1990:47000,2000:97000,2010:141171,2020:178000}    │
│ MERSEYSIDE         │ {1990:46750,2000:94972.5,2010:128000,2020:149000}  │
│ HERTFORDSHIRE      │ {1990:86500,2000:193000,2010:315000,2020:415000}   │
│ WEST YORKSHIRE     │ {1990:48995,2000:99950,2010:139000,2020:164950}    │
│ BRIGHTON AND HOVE  │ {1990:70000,2000:173000,2010:288000,2020:387000}   │
│ DORSET             │ {1990:76500,2000:182000,2010:250000,2020:315000}   │
│ HAMPSHIRE          │ {1990:79950,2000:177500,2010:260000,2020:335000}   │
    └────────────────────┴────────────────────────────────────────────────────┘

Фильтрация результатов

Мы можем отфильтровать результаты так, чтобы в них остались только данные за 2010 год и позже:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices────────────────┐
│ GREATER LONDON     │ {2010:384975,2020:485919.5} │
│ TYNE AND WEAR      │ {2010:130000,2020:140000}   │
│ WEST MIDLANDS      │ {2010:146500,2020:185000}   │
│ GREATER MANCHESTER │ {2010:140000,2020:177500}   │
│ MERSEYSIDE         │ {2010:130000,2020:150000}   │
│ HERTFORDSHIRE      │ {2010:315000,2020:415000}   │
│ WEST YORKSHIRE     │ {2010:140000,2020:162500}   │
│ BRIGHTON AND HOVE  │ {2010:287500,2020:387000}   │
│ DORSET             │ {2010:255750,2020:315000}   │
│ HAMPSHIRE          │ {2010:265000,2020:330000}   │
    └────────────────────┴─────────────────────────────┘

Объединение нескольких агрегаций

Если мы хотим найти максимальную цену для каждого десятилетия, это можно сделать с помощью функции maxMap, которую мы уже видели ранее:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices,
    maxMap(map(year, price)) AS maxPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices──────────────┬─maxPrices───────────────────────┐
│ GREATER LONDON     │ {2010:385000,2020:485250} │ {2010:594300000,2020:630000000} │
│ TYNE AND WEAR      │ {2010:130000,2020:141000} │ {2010:448300979,2020:93395000}  │
│ WEST MIDLANDS      │ {2010:149000,2020:184250} │ {2010:415000000,2020:104500000} │
│ GREATER MANCHESTER │ {2010:140000,2020:175000} │ {2010:107086856,2020:319186000} │
│ MERSEYSIDE         │ {2010:129950,2020:150000} │ {2010:300000000,2020:93395000}  │
│ HERTFORDSHIRE      │ {2010:315000,2020:415000} │ {2010:254325163,2020:93395000}  │
│ WEST YORKSHIRE     │ {2010:138500,2020:165000} │ {2010:246300000,2020:109686257} │
│ BRIGHTON AND HOVE  │ {2010:285000,2020:387000} │ {2010:200000000,2020:71540000}  │
│ DORSET             │ {2010:250000,2020:315000} │ {2010:150000000,2020:20230000}  │
│ HAMPSHIRE          │ {2010:264000,2020:330000} │ {2010:150000000,2020:48482500}  │
    └────────────────────┴───────────────────────────┴─────────────────────────────────┘

Применение функций к значениям Map

В качестве альтернативы можно вычислить среднюю цену с помощью avgMap. У этих значений слишком много знаков после запятой, но это можно исправить, применив функцию mapApply, чтобы вызвать функцию floor для каждого значения в Map:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices,
    mapApply((k, v) -> (k, floor(v)), avgMap(map(year, price))) AS avgPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices──────────────┬─avgPrices─────────────────┐
│ GREATER LONDON     │ {2010:382000,2020:490000} │ {2010:626091,2020:807240} │
│ TYNE AND WEAR      │ {2010:127000,2020:140000} │ {2010:176955,2020:225770} │
│ WEST MIDLANDS      │ {2010:148500,2020:183000} │ {2010:204128,2020:257226} │
│ GREATER MANCHESTER │ {2010:140000,2020:177500} │ {2010:195592,2020:251165} │
│ MERSEYSIDE         │ {2010:127995,2020:150000} │ {2010:182194,2020:206062} │
│ HERTFORDSHIRE      │ {2010:317500,2020:415000} │ {2010:414134,2020:529409} │
│ WEST YORKSHIRE     │ {2010:140000,2020:164500} │ {2010:185121,2020:234870} │
│ BRIGHTON AND HOVE  │ {2010:285000,2020:387000} │ {2010:372285,2020:527184} │
│ DORSET             │ {2010:250000,2020:315000} │ {2010:305581,2020:370739} │
│ HAMPSHIRE          │ {2010:265000,2020:330000} │ {2010:335945,2020:425196} │
    └────────────────────┴───────────────────────────┴───────────────────────────┘

Гибкая группировка: графства, районы и почтовые индексы

Давайте попробуем выполнить группировку по другим полям. На этот раз мы вычислим медианную цену за десятилетие с группировкой по графству и району:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    district,
    medianMap(map(year, price)) AS medianPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10

    ┌─county─────────────┬─district───────────────┬─medianPrices────────────────┐
│ GREATER LONDON     │ CROYDON                │ {2010:298475,2020:400000}   │
│ GREATER LONDON     │ CITY OF WESTMINSTER    │ {2010:800000,2020:935000}   │
│ GREATER LONDON     │ SOUTHWARK              │ {2010:437000,2020:540000}   │
│ TYNE AND WEAR      │ NEWCASTLE UPON TYNE    │ {2010:144000,2020:162500}   │
│ WEST MIDLANDS      │ WALSALL                │ {2010:137450,2020:162000}   │
│ GREATER LONDON     │ CITY OF LONDON         │ {2010:725875,2020:840000}   │
│ GREATER LONDON     │ HILLINGDON             │ {2010:329125,2020:439000}   │
│ GREATER MANCHESTER │ MANCHESTER             │ {2010:144972.5,2020:190000} │
│ GREATER LONDON     │ HAMMERSMITH AND FULHAM │ {2010:622250,2020:750000}   │
│ GREATER LONDON     │ ISLINGTON              │ {2010:500000,2020:640000}   │
    └────────────────────┴────────────────────────┴─────────────────────────────┘

Мы также могли бы выполнить группировку по году, а затем объединить postcode1 и postcode2 в map:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    year,
    medianMap(map(postcode1 || ' ' || postcode2, price)) AS medianPrices
FROM uk.uk_price_paid
WHERE postcode1 LIKE 'NP1'
GROUP BY ALL;

   ┌─year─┬─medianPrices────────────────────────────────────────────────────────┐
1. │ 1990 │ {'NP1 4PB':9000}                                                    │
2. │ 2000 │ {'NP1 4SR':28475,'NP1 7HZ':200000}                                  │
3. │ 2010 │ {'NP1 4PB':5000,'NP1 4QJ':1075000,'NP1 4SR':58000,'NP1 8BR':200000} │
4. │ 2020 │ {'NP1 5DW':140000}                                                  │
   └──────┴─────────────────────────────────────────────────────────────────────┘

​Введение

​Что такое комбинаторы агрегатных функций

​Практическое применение: набор данных о ценах на жильё в Великобритании

​Группировка и агрегация по десятилетиям

​Фильтрация результатов

​Объединение нескольких агрегаций

​Применение функций к значениям Map

​Гибкая группировка: графства, районы и почтовые индексы