Puedes leer todo sin registrarte. Solo crearemos un perfil anónimo cuando decidas guardar tu progreso.
Professional
OpenSharing (antes Delta Sharing) y Federation
Comparte o consulta datos externos con el mínimo movimiento y un perímetro gobernado.
- Comparar Databricks-to-Databricks y Databricks-to-Open
- Configurar federation con pushdown
- Elegir compartir, federar o ingerir
01Modelo mentalOpenSharing, shares y recipients
Distingue Databricks-to-Databricks OpenSharing de Open-to-Databricks y elige autenticación OIDC antes que credenciales portables de larga duración.
+
OpenSharing, shares y recipients
Distingue Databricks-to-Databricks OpenSharing de Open-to-Databricks y elige autenticación OIDC antes que credenciales portables de larga duración.
- Objetivo
- Distingue Databricks-to-Databricks OpenSharing de Open-to-Databricks y elige autenticación OIDC antes que credenciales portables de larga duración.
- Duración estimada
- 17 min aprox.
- Dificultad
- Professional
- Prerrequisitos
- m30
OpenSharing es la evolución del intercambio abierto conocido históricamente como Delta Sharing. Entre metastores Databricks, el recipient accede mediante integración nativa y no necesita un fichero de credenciales. Para receptores sin Unity Catalog, el protocolo abierto permite Spark, pandas, Power BI y otros conectores mediante bearer token u OIDC federation.
Los activos se consumen en modo read-only y el proveedor controla qué agrega al share. Prefiere OIDC con tokens cortos cuando el receptor puede federar su identidad; los bearer tokens requieren distribución segura, rotación y revocación. La nube del proveedor y receptor puede diferir, pero egress, ubicación y residencia siguen siendo decisiones de arquitectura.
Modelo mental
OpenSharing mueve acceso gobernado hacia el consumidor sin copiar previamente el dataset a una base intermediaria. El proveedor registra un share de activos de solo lectura y un recipient; el consumidor consulta datos actualizados mediante el protocolo y credenciales autorizadas. Databricks-to-Databricks aprovecha Unity Catalog en ambos extremos y puede compartir más tipos de activo entre cuentas y nubes. Databricks-to-Open atiende herramientas o plataformas externas y sus capacidades dependen del protocolo abierto. La autenticación es una decisión separada: OIDC federation intercambia identidad del recipient por tokens cortos; bearer tokens son credenciales portables y duraderas con mayor carga de rotación y exposición. Compartir lectura no transfiere ownership ni aplica mágicamente toda política del proveedor al consumidor.
Modelo de OpenSharing entre metastores de Unity Catalog donde proveedor y recipient usan Databricks, incluso en cuentas o nubes distintas.
Aprovecha identidad y gobierno nativos en ambos lados y admite tipos de activo más ricos según compatibilidad.Modelo de OpenSharing para consumidores externos que acceden mediante clientes compatibles con el protocolo abierto de intercambio.
Amplía interoperabilidad, pero exige revisar formatos, autenticación y capacidades disponibles fuera de Unity Catalog del proveedor.Intercambio de una identidad afirmada por el IdP del consumidor por credenciales OAuth cortas aceptadas por Databricks.
Evita distribuir bearer tokens duraderos y mejora revocación, atribución y alineación con el ciclo de identidad.CREATE SHARE IF NOT EXISTS retail_partner;
ALTER SHARE retail_partner
ADD TABLE prod.shared.daily_inventory;
SHOW ALL IN SHARE retail_partner;Antes de asignar un recipient, revisa columnas, historial compartido, región y contrato de datos.
Puntos clave
- Databricks-to-Databricks evita intercambiar ficheros de credenciales.
- OIDC reduce riesgo frente a bearer tokens largos.
- Compartir es read-only y no copia necesariamente los datos al receptor.
Evita
- Enviar un bearer token por correo o guardarlo en un notebook compartido.
- Asumir que read-only elimina coste de egress o riesgo de reidentificación.
Recuerdo activo
¿Qué ventaja de seguridad ofrece OIDC frente a un bearer token duradero?
Borrador privado · solo en este navegador02ImplementaciónDatabricks-to-Databricks
Publica un producto de datos mínimo mediante shares, views y recipients con ownership, contrato y revocación ensayada.
+
Databricks-to-Databricks
Publica un producto de datos mínimo mediante shares, views y recipients con ownership, contrato y revocación ensayada.
- Objetivo
- Publica un producto de datos mínimo mediante shares, views y recipients con ownership, contrato y revocación ensayada.
- Duración estimada
- 17 min aprox.
- Dificultad
- Professional
- Prerrequisitos
- m30
El proveedor crea un share, añade tablas, vistas u otros activos compatibles y concede acceso a un recipient. Una vista compartida puede minimizar columnas y filtrar datos según contrato, pero sus capacidades y coste dependen del modelo de sharing. El owner del share debe ser un grupo operativo y los cambios deben pasar revisión igual que un API público.
Versiona esquema y comunica breaking changes. Monitoriza accesos, establece fecha de expiración del acuerdo y prueba revocación. No compartas la tabla bronze por conveniencia: crea una capa estable, documentada y sin campos internos. Si el receptor necesita escribir o transformar en origen, sharing no satisface ese requisito read-only.
Modelo mental
Un share debe ser un producto de datos mínimo y contractual, no un catálogo entero expuesto por comodidad. El provider conserva tablas internas, transformaciones y PII; publica sólo activos estables, documentados y apropiados para la audiencia, a menudo mediante views que fijan columnas y semántica. El recipient obtiene acceso al share, no ownership sobre los objetos origen, y puede delegar lectura internamente según su modelo. Añadir o retirar activos cambia el contrato y requiere versionado o comunicación. La revocación forma parte del diseño inicial: debe saberse quién puede retirar recipient o share, cuánto tarda en surtir efecto y qué copias legítimas pudo materializar ya el consumidor.
Securable de Unity Catalog que agrupa un conjunto explícito de activos read-only ofrecidos por un proveedor a recipients autorizados.
Define la frontera revocable y auditable del producto compartido sin transferir propiedad del almacenamiento subyacente.Entidad registrada que representa a una organización consumidora y su método de autenticación para acceder a shares concedidos.
Separa consumidores, credenciales y revocación, evitando una identidad compartida cuyo uso no puede atribuirse.Compromiso versionado sobre schema, significado, frescura, compatibilidad y proceso de cambio de los activos publicados.
Permite que consumidores dependan del producto sin quedar expuestos a cada detalle interno o columna futura.CREATE OR REPLACE VIEW prod.shared.partner_inventory AS
SELECT
sku,
DATE_TRUNC('day', snapshot_ts) AS snapshot_date,
region,
available_units
FROM prod.gold.inventory
WHERE partner_visible = TRUE;
ALTER SHARE retail_partner
ADD VIEW prod.shared.partner_inventory;Comprueba requisitos actuales para compartir vistas y quién paga el compute asociado; prueba el resultado como recipient.
Puntos clave
- Comparte un contrato estable, no una tabla interna mutable.
- Ownership y revocación forman parte del producto.
- Read-only no cubre casos que requieren escritura remota.
Evita
- Compartir campos internos y confiar en que el receptor no los use.
- Cambiar nombres/tipos sin versión ni aviso porque el share sigue siendo accesible.
Recuerdo activo
¿Por qué conviene compartir una vista estable en lugar de la tabla operacional?
Borrador privado · solo en este navegador03OperaciónDatabricks-to-Open y OIDC
Gobierna sharing con auditoría, residencia, egress, rotación y compatibilidad de políticas antes de incorporar un consumidor.
+
Databricks-to-Open y OIDC
Gobierna sharing con auditoría, residencia, egress, rotación y compatibilidad de políticas antes de incorporar un consumidor.
- Objetivo
- Gobierna sharing con auditoría, residencia, egress, rotación y compatibilidad de políticas antes de incorporar un consumidor.
- Duración estimada
- 17 min aprox.
- Dificultad
- Professional
- Prerrequisitos
- m30
El proveedor conserva el control y puede revocar el recipient o retirar activos. Registra owner, propósito, región, base legal, clasificación, protocolo y método de autenticación. Audita acciones de shares/recipients y accesos según las system tables disponibles. Si usas bearer credentials, almacénalas como secretos, rota con solapamiento y destruye copias antiguas.
Row filters/masks y ABAC tienen limitaciones específicas al compartir; no presupongas que una política aplicada a la fuente se reproduce igual en el receptor. Prueba el share con una identidad real del recipient. Modela egress cloud y foreign compute en el coste, especialmente para vistas, materialized views, streaming tables o datos federados.
Modelo mental
Sharing cruza una frontera organizativa aunque los datos permanezcan en almacenamiento del proveedor. Cada consulta puede generar transferencia, credenciales temporales y eventos de acceso; por eso la evaluación abarca residencia, egress, identidad, retención y compatibilidad, no sólo un GRANT. Provider y recipient tienen responsabilidades distintas: el primero decide qué expone y monitorea solicitudes; el segundo gobierna quién puede leer el catálogo recibido y qué copias deriva. Una política ABAC del proveedor puede tener limitaciones o no gobernar el lado receptor como se imagina; el consumidor necesita sus propios controles. Bearer tokens se rotan y distribuyen con cuidado, OIDC se prefiere cuando está disponible, y todo onboarding incluye una prueba real de revocación.
Transferencia de datos desde la región o proveedor de almacenamiento hacia otra red, región, nube o consumidor externo.
Puede introducir coste, latencia y restricciones de residencia aunque OpenSharing evite una copia administrada previa.Credencial de alcance y duración reducidos generada para que un cliente lea únicamente datos autorizados de un share.
Limita exposición frente a claves permanentes, pero su generación y uso todavía requieren auditoría y controles.División de obligaciones donde provider gobierna publicación y recipient gobierna acceso y derivados dentro de su organización.
Evita asumir que una policy del origen protege automáticamente copias, usuarios o retención en el consumidor.SHOW SHARES;
SHOW RECIPIENTS;
SHOW ALL IN SHARE retail_partner;
-- Conserva la salida con owner, propósito y fecha de revisión
-- en una tabla de control gobernada, no en una hoja personal.Complementa el inventario con audit logs y el contrato del recipient; `SHOW` por sí solo no describe la base legal ni el coste.
Puntos clave
- Prueba la experiencia y restricciones desde el lado receptor.
- Incluye egress, compute y fuente remota en FinOps del share.
- Ensaya rotación y revocación antes del incidente.
Evita
- Suponer que una mask de la tabla base siempre se conserva igual en OpenSharing.
- Crear recipients sin owner o fecha de revisión y acumular acceso huérfano.
Recuerdo activo
¿Qué prueba demuestra mejor que una revocación funciona?
Borrador privado · solo en este navegador04DiagnósticoLakehouse Federation y connections
Diferencia query federation de catalog federation y entiende dónde se ejecuta cada parte, qué se empuja y por qué ambas son read-only.
+
Lakehouse Federation y connections
Diferencia query federation de catalog federation y entiende dónde se ejecuta cada parte, qué se empuja y por qué ambas son read-only.
- Objetivo
- Diferencia query federation de catalog federation y entiende dónde se ejecuta cada parte, qué se empuja y por qué ambas son read-only.
- Duración estimada
- 17 min aprox.
- Dificultad
- Professional
- Prerrequisitos
- m30
Lakehouse Federation ofrece acceso gobernado mediante foreign catalogs. Query federation conecta bases relacionales por JDBC: Databricks empuja filtros/agregaciones compatibles y parte de la consulta se ejecuta en el sistema remoto. Catalog federation conecta catálogos externos como Hive Metastore, AWS Glue o plataformas compatibles y Databricks lee datos del object storage con su propio compute.
Ambas rutas son read-only y sirven exploración, BI o migración gradual, no sustituyen una ingesta para cargas intensivas repetidas. Comprueba pushdown con `EXPLAIN`, latencia de red, límites del origen y concurrencia. Una consulta que extrae millones de filas sin filtro puede saturar la base operacional aunque el warehouse Databricks tenga capacidad.
Modelo mental
Lakehouse Federation consulta datos donde viven, pero hay dos arquitecturas diferentes. Query federation conecta mediante JDBC a una base operacional; parte del plan se empuja al motor remoto y el resto se ejecuta en Databricks. Catalog federation integra metadatos de un catálogo externo y Databricks lee directamente sus archivos de object storage con su propio compute. Ambas se presentan como foreign catalogs gobernados por Unity Catalog y son normalmente read-only, pero el lugar de ejecución, coste y límites no coinciden. El pushdown no es todo o nada: depende del conector y operación. Una consulta que devuelve demasiadas filas puede saturar la base remota o un executor aunque el SQL parezca simple.
Acceso read-only a bases externas mediante JDBC, con pushdown compatible y ejecución repartida entre sistema remoto y Databricks.
Permite análisis in situ rápido, pero puede trasladar carga a un sistema operacional y limitar throughput.Integración de metadatos de un catálogo externo mientras Databricks lee directamente los archivos subyacentes con su propio compute.
Facilita modelos híbridos y migraciones sin JDBC, siempre que almacenamiento, credenciales y formatos sean compatibles.Traducción de filtros, proyecciones o agregaciones para ejecutarlos en la fuente antes de transferir el resultado a Databricks.
Reduce movimiento cuando es compatible, pero debe verificarse porque operadores no soportados se ejecutan localmente.CREATE FOREIGN CATALOG finance_postgres
USING CONNECTION finance_pg
OPTIONS (database 'finance');
EXPLAIN FORMATTED
SELECT region, SUM(amount) AS revenue
FROM finance_postgres.public.invoices
WHERE invoice_date >= current_date() - INTERVAL 7 DAYS
GROUP BY region;La conexión debe usar secretos y red privada/permitida; revisa el plan para verificar qué predicados se empujan.
Puntos clave
- Query federation usa JDBC y compute remoto con pushdown.
- Catalog federation lee object storage usando compute Databricks.
- Para transformación frecuente o escritura, ingiere y materializa en lakehouse.
Evita
- Tratar un foreign catalog como destino escribible de ETL.
- Lanzar scans completos contra una base OLTP en horario de máxima carga.
Recuerdo activo
¿Dónde se ejecuta una consulta de query federation?
Borrador privado · solo en este navegador05Decisión de diseñoMatriz compartir, federar o copiar
Selecciona sharing, federation o ingestión comparando dirección, frecuencia, frescura, escritura, gobierno, coste y aislamiento operacional.
+
Matriz compartir, federar o copiar
Selecciona sharing, federation o ingestión comparando dirección, frecuencia, frescura, escritura, gobierno, coste y aislamiento operacional.
- Objetivo
- Selecciona sharing, federation o ingestión comparando dirección, frecuencia, frescura, escritura, gobierno, coste y aislamiento operacional.
- Duración estimada
- 17 min aprox.
- Dificultad
- Professional
- Prerrequisitos
- m30
Sharing publica un producto gobernado hacia consumidores externos; federation consulta una fuente externa in situ; ingestión copia cambios al lakehouse para transformación y SLA propios. Si un partner necesita leer una tabla curada, sharing evita una exportación. Si un analista explora PostgreSQL unas veces, federation reduce time-to-value. Si cientos de jobs agregan esa base cada hora, ingiere incrementalmente.
Interoperabilidad no elimina contratos. Documenta tipos, time zones, semántica de deletes, límites y ownership. Considera Iceberg REST Catalog u otros protocolos cuando clientes externos deban leer tablas gobernadas directamente, siempre contrastando soporte de features Delta/ABAC. Diseña una salida: cómo revocar, materializar o migrar sin romper consumidores.
Modelo mental
Sharing, federation e ingestión resuelven direcciones distintas. Sharing publica desde un proveedor hacia consumidores read-only y conserva el producto en origen. Federation permite a Databricks consultar un sistema externo in situ, normalmente para exploración o modelo híbrido. Ingestión mueve cambios a Delta para que Databricks controle rendimiento, historial, calidad y escritura downstream. La decisión se formula con dirección, frecuencia, frescura, volumen, write needs, gobierno, egress y aislamiento operacional. La menor latencia aparente puede esconder carga en OLTP; la copia más robusta puede incumplir residencia; sharing puede ser perfecto para colaboración pero no para actualizar el sistema del provider. Ninguna etiqueta sustituye una matriz de requisitos y una prueba de fallo.
Relación entre quien posee el dato, quien inicia la consulta y dónde debe materializarse el estado resultante.
Distingue publicar a consumidores, consultar una fuente externa y copiar datos para procesamiento controlado.Grado en que fallos, carga o cambios de un sistema pueden afectar disponibilidad y rendimiento del otro.
Una consulta federada puede impactar OLTP, mientras una copia ingerida desacopla ambos a cambio de frescura.Edad observable del dato utilizable después de transporte, procesamiento, validación y disponibilidad para el consumidor.
Evita comparar sólo frecuencia de trigger y revela retrasos de calidad, backlog o publicación downstream.{
"use_case": "partner_inventory_daily",
"direction": "outbound",
"write_required": false,
"freshness": "daily",
"consumer_platform": "non_databricks",
"classification": "internal",
"selected_pattern": "open_sharing_oidc",
"rejected": {
"federation": "el partner no debe acceder al sistema operacional",
"file_export": "duplica datos y credenciales"
}
}Una decisión útil conserva también el motivo de alternativas rechazadas y la fecha de revisión.
Puntos clave
- Sharing sirve publicación; federation, consulta in situ; ingestión, procesamiento controlado.
- La frecuencia y carga sobre el origen suelen decidir entre federation e ingesta.
- Cada patrón necesita contrato, owner, coste y estrategia de salida.
Evita
- Usar federation para una transformación horaria pesada y trasladar el cuello al OLTP.
- Exportar ficheros con credenciales estáticas cuando OpenSharing cubre el contrato.
Recuerdo activo