Flujos de datos de auditoría

Objective

After completing this lesson, you will be able to flujos de datos de auditoría

Auditoría

Es posible recopilar estadísticas sobre los datos que salen de cualquier objeto de Data Services, como una fuente, una transformación o un destino.

Estas estadísticas pueden ayudar a determinar si el flujo de datos se ha realizado según lo previsto.

La auditoría le permitirá saber que algo está mal, pero entonces tendrá que investigar para comprender qué ocurrió. Puede tratarse de datos fuente erróneos como en el ejemplo anterior, de algo que falta en la configuración de transformación o de un problema con el proceso de carga.

Configuración de auditoría

Para utilizar la auditoría, debe:

  • Definir puntos de auditoría: los puntos de auditoría recopilan y almacenan estadísticas de tiempo de ejecución sobre los datos que fluyen fuera de los objetos.
  • Definir reglas: utilice estadísticas de tiempo de ejecución para definir reglas que verifiquen que los datos en puntos específicos de un flujo de datos sean lo que espera. La verificación se produce cuando los datos alcanzan el siguiente movimiento en el flujo de datos:
    • Extraído de fuentes.
    • Procesado por transformaciones.
    • Cargado en destinos.
  • Generar una notificación de tiempo de ejecución: la notificación incluye una lista de reglas de auditoría que han fallado y los valores de las estadísticas de auditoría en el momento del fallo.
  • Mostrar las estadísticas de auditoría: después de ejecutar una tarea, las estadísticas de auditoría identifican el objeto u objetos en el flujo de datos que produjeron datos incorrectos.

Puntos de auditoría y etiquetas

Un punto de auditoría representa el objeto en un flujo de datos en el que se recopilan estadísticas. Auditar un origen, una transformación o un destino en un flujo de datos.

Cuando se definen puntos de auditoría en objetos en un flujo de datos, especifique una función de auditoría. Una función de auditoría representa la estadística de auditoría que Data Services recopila para una tabla, esquema de salida o columna.

Las funciones de auditoría disponibles dependen del tipo de punto de auditoría.

Funciones de auditoría

Seleccione entre estas funciones de auditoría:

Objeto de datosFunciónDescripción
Tabla o esquema de salidaRecuentoEsta función recopila dos estadísticas:
  • Recuento correcto de filas que se procesaron correctamente
  • Recuento de errores para filas que han generado algún tipo de error si ha activado el tratamiento de errores

El tipo de datos de esta función es un número entero.

ColumnaSumSuma de los valores numéricos de la columna. Esta función solo incluye las filas correctas. Esta función se aplica a columnas con un tipo de datos entero, decimal, doble y real.
ColumnaPromedioPromedio de los valores numéricos en la columna. Esta función solo incluye las filas correctas. Esta función se aplica a columnas con un tipo de datos entero, decimal, doble y real.
ColumnaSuma de verificaciónDetecta errores en los valores de la columna utilizando el valor de suma de verificación. Esta función solo se aplica a columnas con un tipo de datos de varchar.

Una etiqueta de auditoría representa el nombre único en el flujo de datos que Data Services genera para las estadísticas de auditoría. Las etiquetas de auditoría se recopilan para cada función de auditoría definida en cada punto de auditoría.

Etiquetas de auditoría

Si el punto de auditoría está en una tabla o esquema de salida, estas dos etiquetas se generan para la función Auditoría de recuento:

$Count_objectname

$CountError_objectname

Si el punto de auditoría está en una columna, la etiqueta de auditoría se genera con este formato:

$auditfunc_objectname

Nota

Una etiqueta de auditoría puede dejar de ser válida si un objeto que tenía un punto de auditoría definido en ella se elimina o se le cambia el nombre. Las etiquetas no válidas se enumeran como un nodo separado en la ficha Etiquetas. Para resolver el problema, vuelva a crear las etiquetas y elimine los elementos no válidos.

Definición de reglas y acciones de auditoría

Utilice reglas de auditoría al comparar estadísticas de auditoría para un objeto con otro objeto. Por ejemplo, utilice una regla de auditoría para verificar que el recuento de filas de la tabla de origen es igual a las filas de la tabla de destino.

Una regla de auditoría es una expresión booleana, que consta de un lado izquierdo (LHS), un operador booleano y un lado derecho (RHS). El LHS puede ser una etiqueta de auditoría única, varias etiquetas de auditoría que forman una expresión con uno o más operadores matemáticos, o una función con etiquetas de auditoría como parámetros. Además del LHS, el RHS también puede ser una constante.

Ejemplos de reglas de auditoría

  • $Count_CUSTOMER = $Count_CUSTDW
  • $Sum_ORDER_US + $Sum_ORDER_EUROPE = $Sum_ORDER_DW
  • round($Avg_ORDER_TOTAL) >= 10000

Acciones de auditoría

Seleccione cualquier combinación de las acciones enumeradas para la notificación de un error de auditoría:

  • Correo electrónico a la lista: Data Services envía una notificación de qué regla de auditoría ha fallado a las direcciones de correo electrónico enumeradas en esta opción. Utilice una coma para separar la lista de direcciones de correo o especifique una variable para la lista de distribución.
  • Script: Data Services ejecuta el script personalizado creado en esta opción.
  • Emitir excepción: Cuando una regla de auditoría falla, el Registro de errores muestra la regla que falló. El trabajo se detiene en la primera regla de auditoría que falla.

    Esta acción es la predeterminada. Si la acción se borra y falla una regla de auditoría, el trabajo se completa correctamente y la auditoría no escribe mensajes en el registro de trabajos.

Si se seleccionan las tres acciones, Data Services las ejecuta en el orden presentado.

Nota

La opción Correo electrónico para lista utiliza la función smtp_to para enviar un correo electrónico. Defina el servidor y el emisor para Simple Mail Tool Protocol (SMTP) en Data Services Server Manager.

Estado de auditoría

El estado de auditoría se puede visualizar en una de estas ubicaciones:

Acción en caso de falloLugares en los que puede ver la información de auditoría
Emitir una excepciónLog de errores de job, informes de metadatos
Enviar por correo electrónico a la listaMensaje de correo electrónico, informes de metadatos
ScriptDondequiera que el script personalizado envíe los mensajes de auditoría, Informes de metadatos

Auditoría de rastreo

La auditoría se puede activar o desactivar en el cuadro de diálogo Propiedades de ejecución de tareas.

Para ver los resultados de la auditoría en el log, puede establecer Rastrear datos de auditoría en en el cuadro de diálogo Propiedades de ejecución de tarea.

Intentémoslo

Le guiaré a través del uso de la función Auditoría: