> ## Documentation Index
> Fetch the complete documentation index at: https://private-7c7dfe99-mintlify-fbfa8bee.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

> Введение в использование Apache Spark с ClickHouse

# Интеграция Apache Spark с ClickHouse

export const ClickHouseSupportedBadge = () => {
  return <div className="ClickHouseSupportedBadge">
            <div className="ClickHouseSupportedIcon">
                <svg width="16" height="16" viewBox="0 0 16 16" fill="none" xmlns="http://www.w3.org/2000/svg">
                    <path d="M1.30762 1.39073C1.30762 1.3103 1.37465 1.22986 1.46849 1.22986H2.64824C2.72868 1.22986 2.80912 1.29689 2.80912 1.39073V14.4886C2.80912 14.5691 2.74209 14.6495 2.64824 14.6495H1.46849C1.38805 14.6495 1.30762 14.5825 1.30762 14.4886V1.39073Z" fill="currentColor" />
                    <path d="M4.2832 1.39073C4.2832 1.3103 4.35023 1.22986 4.44408 1.22986H5.62383C5.70427 1.22986 5.7847 1.29689 5.7847 1.39073V14.4886C5.7847 14.5691 5.71767 14.6495 5.62383 14.6495H4.44408C4.36364 14.6495 4.2832 14.5825 4.2832 14.4886V1.39073Z" fill="currentColor" />
                    <path d="M7.25977 1.39073C7.25977 1.3103 7.3268 1.22986 7.42064 1.22986H8.60039C8.68083 1.22986 8.76127 1.29689 8.76127 1.39073V14.4886C8.76127 14.5691 8.69423 14.6495 8.60039 14.6495H7.42064C7.3402 14.6495 7.25977 14.5825 7.25977 14.4886V1.39073Z" fill="currentColor" />
                    <path d="M10.2354 1.39073C10.2354 1.3103 10.3024 1.22986 10.3962 1.22986H11.576C11.6564 1.22986 11.7369 1.29689 11.7369 1.39073V14.4886C11.7369 14.5691 11.6698 14.6495 11.576 14.6495H10.3962C10.3158 14.6495 10.2354 14.5825 10.2354 14.4886V1.39073Z" fill="currentColor" />
                    <path d="M13.2256 6.6057C13.2256 6.52526 13.2926 6.44482 13.3865 6.44482H14.5662C14.6466 6.44482 14.7271 6.51186 14.7271 6.6057V9.27354C14.7271 9.35398 14.6601 9.43442 14.5662 9.43442H13.3865C13.306 9.43442 13.2256 9.36739 13.2256 9.27354V6.6057Z" fill="currentColor" />
                </svg>
            </div>
            Поддерживается в ClickHouse
        </div>;
};

[Apache Spark](https://spark.apache.org/) — это многоязычный движок для выполнения задач data engineering, data
science и машинного обучения на односерверных системах или в кластерах.

Существует два основных способа интеграции Apache Spark с ClickHouse:

1. [Коннектор Spark](/ru/integrations/connectors/data-ingestion/apache-spark/spark-native-connector) — Spark-коннектор реализует `DataSourceV2` и самостоятельно управляет каталогом.
   На сегодняшний день это рекомендуемый способ интеграции ClickHouse и Spark.
2. [Spark JDBC](/ru/integrations/connectors/data-ingestion/apache-spark/spark-jdbc) — интегрируйте Spark и ClickHouse
   с помощью [источника данных JDBC](https://spark.apache.org/docs/latest/sql-data-sources-jdbc.html).

<br />

Оба решения успешно протестированы и полностью совместимы с различными API, включая Java, Scala, PySpark и Spark SQL.

<div id="spark-runtime-environment">
  ### Среды выполнения Spark
</div>

<div id="standard-spark-runtime">
  #### Стандартные среды выполнения Spark
</div>

Коннектор Spark работает без дополнительной настройки в средах, близких к стандартной среде выполнения Apache Spark, например в Amazon EMR или в развертываниях Spark на базе Kubernetes.

<div id="managed-spark-platforms">
  #### Управляемые платформы Spark
</div>

Такие платформы, как [AWS Glue](/ru/integrations/connectors/data-ingestion/AWS/glue) и [Databricks](/ru/integrations/connectors/data-ingestion/apache-spark/databricks), добавляют дополнительные абстракции и особенности, зависящие от конкретной среды.
Хотя сама интеграция остаётся той же, для этих платформ могут потребоваться отдельные шаги по конфигурации и настройке. Подробности см. на соответствующих страницах документации.