Diskutieren Sie über die Teststrategie für Datenprodukte

Bevor wir uns eingehend mit der Teststrategie für Datenschriften befassen, wollen wir zunächst kurz die Grundbegriffe von Datenschriften wiederholen, um den Zusammenhang besser verstehen zu können. 

Rückblick auf Datenschriften

Was sind Datenschriften?

Datenschriften sind " eine integrierte und unabhängige Kombination von Daten, Metadaten, Semantik und Modellen . Sie enthalten implementierte und logisch authentifizierte Lösungen, um bestimmte Datenszenarien und Analyseszenarien zu bewältigen und Wiederverwendung zu ermöglichen. Datenschriften müssen folgende Bedingungen erfüllen: Verfügbarkeit für die Verbraucher (Vertrauen der Verbraucher gewinnen), Aktualität (Wartung durch das Engineering-Team) sowie Genehmigung zur Nutzung (unterworfenen Regulierungen).“ (Quelle: Gartner) 

Welche Bestandteile umfasst eine Plattform zur Datenschriftenentwicklung?

*Aus Sicht der Implementierung/ Ausführung 

Im Kontext von Datenschriften auf einer Plattform zur Datenentwicklung oder einer Plattform zur Implementierung von Datenschriften (DDP) repräsentiert sie die architecturale Einheit, die kleinste deployierbare Einheit mit hoher funktionaler Kohäsion. Sie kapselt alle notwendigen Komponenten für einen eigenständigen Betrieb, einschließlich Code, Infrastrukturkonfiguration, Unterstützung für die Verarbeitung von mehrsprachigen Daten sowie die Fähigkeit, Produktmetriken zu generieren. 

(1) Code

Die Logik, Algorithmen und Datenverarbeitungsabläufe, die die Funktionen der Datenschrift antreiben. Dies umfasst Datenumwandlungen, Analysemodelle sowie jeglichen benutzerdefinierten Code, der zur Verarbeitung und Analyse von Daten erforderlich ist. Entwickelt mit branchenüblichen Programmiersprachen und Frameworks, um Wartbarkeit und Skalierbarkeit zu gewährleisten. 

(2) Infrastruktur

Die unterliegende System-, Hardware- und Softwarekonfiguration, die für die Ausführung der Datenschrift erforderlich ist. Dies umfasst Rechenleistung, Speicherplatz, Netzwerkverbindungen sowie andere Infrastrukturressourcen, die für die Datenverarbeitung und -lieferung benötigt werden. Die Infrastruktur ist skalierbar, zuverlässig und elastisch konzipiert, um eine effiziente Ausführung der Datenschrift zu ermöglichen. 

(3) Mehrsprachige Daten (Eingabe und Ausgabe)

Die Datenschrift unterstützt die Verarbeitung von mehrsprachigen Daten, d. h. verschiedene Datenformate, -strukturen und -quellen, die in der Datenumgebung vorhanden sind. Sie unterstützt die Verarbeitung von strukturierten, halbstrukturierten und unstrukturierten Daten, ermöglicht eine nahtlose Integration und unterstützt das Einlesen, Umwandeln und Verbessern von Daten, um eine umfassende Datenverarbeitung zu ermöglichen. 

(4) Produktmetriken

Die Fähigkeit, Produktmetriken zu generieren, ist für die Bewertung der Leistung, Nutzung und Effektivität der Datenschrift von entscheidender Bedeutung. Diese Metriken können die Datenverarbeitungszeit, den Durchsatz, die Fehlerrate, Nutzungsstatistiken und andere relevante Leistungsindikatoren umfassen (auch als Metadaten der Datenschrift bezeichnet). Dies hilft, das Verhalten, die Effizienz und die Auswirkungen der Datenschrift besser zu verstehen, sodass Datenspezialisten ihre Leistung überwachen, die Ressourcenallokation optimieren und Bereiche identifizieren können, in denen Verbesserungen erforderlich sind. 

Welche Phasen umfasst der Lebenszyklus von Datenschriften?

Um die Teststrategie gut verstehen zu können, ist es besonders wichtig, das Konzept des Lebenszyklus von Datenschriften neu zu betrachten, da Tests in jede Phase eingreifen und die nächste Phase iterativ vorantreiben. 

Der Lebenszyklus von Datenschriften umfasst vier Phasen: Entwurf , Entwicklung , Bereitstellung und Entwicklung . 

Ziele des Datenschriftentests

Sicherung der Datenqualität und -konsistenz

Um effektive Entscheidungen treffen zu können, müssen die Daten genau, vollständig und zuverlässig sein. 

Warum wird dieses Ziel gesetzt? Schlechte Datenqualität kann zu fehlerhaften Erkenntnissen, geringer betrieblicher Effizienz und einem Verlust des Vertrauens in die Analyse führen. Ohne automatisierte Prüfungen können Probleme wie fehlende Werte, Schemaänderungen sowie Inkonsistenzen in Formaten und Ergebnissen die Entscheidungsqualität und die Effizienz nachfolgender Prozesse stumm verschlechtern. 

Dann gibt es tatsächlich drei verschiedene Antworten auf dieselbe Frage. Dies führt dazu, dass die Interessengruppen das Vertrauen in die Daten verlieren, da sie nicht verstehen, warum es drei verschiedene Antworten auf dieselbe Frage gibt. Sie wissen nicht, welcher Antwort sie vertrauen sollen. 

Durch die Einbindung von Echtzeitüberprüfungen und Anomalieerkennungen können Organisationen kostspielige Fehler vermeiden, nahtlose Datenoperationen sicherstellen und das Vertrauen in ihre Analyse- und Künstliche-Intelligenz-Programme aufrechterhalten .

Validierung der Geschäftsprozesse, -umwandlungen und -semantik

Maße, Modelle und Transformationen müssen mit den Geschäftszielen übereinstimmen, um sinnvolle Erkenntnisse zu erhalten. 

Warum tritt dies auf? Fehlerhafte Geschäftsprozesse können zu ungenauen KPIs, inkonsistenten Berichten und fehlerhaften strategischen Entscheidungen führen. Ohne kontinuierliche Validierung können Umwandlungsfehler, semantische Inkonsistenzen und Modellkonfigurationsfehler die Ergebnisse verzerrt und das Vertrauen in die Datenschrift verringern . 

Jedes Datenprojekt sollte eng mit dem Geschäftswert verbunden sein, wobei der Schwerpunkt darauf liegt, wie unsere Arbeit zur Einnahmeerzeugung oder Kostensenkung beiträgt . Dieser Ansatz stellt sicher, dass unsere Datenarbeit mit den Organisationszielen übereinstimmt, wodurch unser Verständnis und die Kommunikation unseres eigenen Werts vertieft werden . 

Ergebnis der Zielerreichung: Ein zuverlässiger Validierungsrahmen stellt sicher, dass die Geschäftsprozesse konsistent bleiben , die Umwandlungen die tatsächlichen Betriebssituationen widerspiegeln und die Analyse handlungsfähige und hochzuverlässige Erkenntnisse liefert. 

Überwachung der Systemleistung und -skalierbarkeit

Datenschriften müssen effizient funktionieren und bei zunehmender Arbeitslast nahtlos skalierbar sein. Die kontinuierliche Überwachung führt auch dazu, dass Funktionen bereitgestellt werden, die den tatsächlichen Bedürfnissen der Benutzer entsprechen. 

Warum wird dieses Ziel gesetzt? Mit zunehmender Datenmenge treten Leistungsprobleme auf, die zu langsamer Verarbeitung, Verzögerungen bei den Erkenntnissen und letztendlich zu einer schlechten Benutzererfahrung führen. Ohne proaktive Überwachung sind Unternehmen dem Risiko von Systemausfällen, ineffizienten Abfragen und unvorhergesehenen Ausfällen ausgesetzt. 

Das Ergebnis der kontinuierlichen Leistungstests zur Zielerreichung bedeutet, dass die Datenschrift in großem Maßstab schnell, reaktionsschnell und kostengünstig bleibt, um den zunehmenden Benutzerbedürfnissen und den sich ändernden Geschäftsanforderungen gerecht zu werden, ohne Unterbrechungen zu verursachen. 

Governance, Sicherheit und Compliance

Daten müssen sicher, reguliert und den branchenüblichen Vorschriften entsprechen. 

Warum wird dieses Ziel gesetzt? Schwache Governance kann Organisationen dem Risiko von Sicherheitslücken, Regulierungsstrafen und Rufschädigungen aussetzen. Ohne angemessene Kontrollen können unbefugter Zugang, Datenlecks und Verstöße zu schwer zu kontrollierenden Geschäftsrisken werden. 

Das Datengovernance-Framework muss auf die spezifischen Bedürfnisse der Organisation zugeschnitten sein, da jedes Unternehmen über einzigartige Systeme und Ressourcen verfügt . Datengovernance ist nicht nur auf den Zugangsbeschränkungen beschränkt, sondern vor allem darauf, sicherzustellen, dass nur die richtigen Personen auf die Daten zugreifen können. Der Erfolg jedes Governance-Frameworks hängt letztendlich von den Menschen ab, und Datengovernance-Ambassadoren spielen eine entscheidende Rolle bei seiner Effektivität. 

Ergebnis der Zielerreichung: Ein starkes Governance-Framework, automatisierte Sicherheitsüberprüfungen und die Validierung der Regulierungscompliance sorgen für die Datenintegrität, schützen sensible Informationen und wahren das Vertrauen gegenüber Kunden und Interessengruppen. 

Kontinuierliche Bereitstellung

Datenschriften sollten schnell bereitgestellt werden können, ohne dass die Funktionen beeinträchtigt werden. 

Warum wird dieses Ziel benötigt? Langsame manuelle Bereitstellungsprozesse bergen Risiken, verzögern die Innovation und erhöhen die betrieblichen Reibungen. Ohne automatisierte Tests und kontinuierliche Integration/ kontinuierliche Bereitstellung (CI/CD) kann jede Aktualisierung zu einem Fehlerpunkt werden, was die Agilität und Reaktionsfähigkeit verringert. 

Datenschriften können nicht isoliert entwickelt werden - sie benötigen kontinuierliche Eingaben , um effektiv zu sein. Der Wert von Metriken hängt von der bereitgestellten Kontext ab, daher bedeutet die Sicherstellung ihrer Stabilität, dass man ihre zugrunde liegenden Dimensionen genau beobachtet und ständig optimiert .

Ergebnis der Zielerreichung: Automatisierte Validierungs- und Bereitstellungspipelines ermöglichen es dem Datenteam, schnell zu iterieren, Ausfallzeiten zu minimieren und die Wertschöpfung zu beschleunigen - sicherstellen, dass die Datenschrift führend bleibt, ohne die Stabilität zu opfern. 

Bestandteile der Teststrategie für Datenschriften

Die sieben Schlüsselbestandteile der Teststrategie für Datenschriften umfassen: 

• Klarstellung des Testumfangs
• Mehrschichtige Integrationstests
• Spezifikation der Testumgebung
• Testmethoden
• Integrations- und Releaseverwaltung
• Notfallplanung bei Testfehlern
• Testüberprüfung und -genehmigung

Klarstellung des Testumfangs

Klare Zuständigkeiten und Entscheidungsstrukturen sind die Grundlage einer effektiven Teststrategie für Datenschriften. Ohne eine klare Definition des Umfangs gerät das Team in die Irre - es ist unklar, wer die wichtigen Datenumwandlungen überprüft, wer die Genauigkeit der Modelle bestätigt und wer die Compliance sicherstellt. Diese Unsicherheit führt zu Ineffizienz, Verzögerungen und dem Versäumen von Risiken. 

Exzellente Datenorganisationen betrachten den Genehmigungsworkflow als strategisches Hebelwerk und beauftragen Fachleute, die Aspekte zu überprüfen, die sie am besten kennen - Dateningenieure für die Integrität der Pipeline, Analysten für die Geschäftsprozesse, Compliance-Teams für die Sicherheit.

Was ist das Ergebnis? Schnellere Entscheidungen, weniger Engpässe und eine nahtlose Verbindung zwischen Testen und Bereitstellung. 

Mehrschichtige Integrationstests

Einfache Tests bedeuten Einzelpunktausfälle.

Eine starke Teststrategie für Datenschriften ist wie ein gut konstruiertes System - elastisch, redundant und tief integriert. 

Unit-Tests gewährleisten die Richtigkeit auf Umwandlungsebene. 

Integrationstests stellen sicher, dass die Datenströme nahtlos interagieren. 

Regressionstests verhindern, dass Änderungen bestehende Funktionen beeinträchtigen. 

Automatisierte Tests integrieren die Qualität in die CI/CD-Pipeline, und 

Datenüberwachung und Observability wandeln die statische Validierung in eine dynamische Echtzeitsicherung um. 

Wenn diese Schichten nicht zusammenarbeiten, bleibt das Datensystem anfällig - anfällig für stumme Ausfälle, kostspielige Rücknahmen und den Verlust des Vertrauens in das Geschäft. 

Spezifikation der Testumgebung

Das Testen in einer Umgebung, die nicht der Produktionsumgebung entspricht, ist wie das Testfahren eines Autos auf einem Parkplatz und die Annahme, dass es auch auf der Autobahn gut läuft. 

Viele Fehler - wie Schemainkompatibilitäten, unerwartete Verzögerungen oder Skalierbarkeitsprobleme - treten erst auf, wenn das System unter realen Belastungen steht. 

Dennoch testen zu viele Organisationen unter unrealistischen Bedingungen, was zu einem falschen Gefühl der Sicherheit führt. Eine erstklassige Strategie besteht darin, die Testumgebung als Übungsumgebung für die Produktionsumgebung zu betrachten und sicherzustellen, dass jedes Extremfall, jede Datenmenge und jede Integration unter Druck getestet wird, bevor die echten Benutzer und die Systemabhängigkeiten hinzukommen. 

Testmethoden

Tests sollten kein Nachgedanke sein, sondern müssen in alle Aspekte des Datenworkflows integriert werden . Wenn die Validierung außerhalb der Datenplattform erfolgt, werden die Tests zu einem Engpass statt einem Treiber .

Die reifsten Datenteams integrieren die Tests direkt in ihre Orchestrierungsebene, Umwandlungstools und CI/CD-Pipeline, um so in jeder Phase des Lebenszyklus der Datenschrift eine Echtzeitvalidierung durchführen zu können. 

Diese Integration schafft ein System, in dem Fehler frühzeitig erkannt werden können, Probleme kontextuell diagnostiziert werden können und die Tests sich synchron mit der Entwicklung weiterentwickeln können, anstatt diese zu verlangsamen. Diese hochintegrierte Testumgebung und -methode sind auf einer einheitlichen