Pataljoonatason logistiikkaupseeri pyytää valmiusraporttia. C2-järjestelmässä on 47 yksikölle sijoitettua ajoneuvoa. Materiaalivastuun järjestelmässä on kirjattu 51 ajoneuvoa samalla yksikön tunnuksella. Kunnossapitojärjestelmä seuraa 44:ää niistä eri sarjanumeromuodoilla, ja kolme on merkitty käytöstä poistetuiksi tunnuksilla, joita ei näy kummassakaan muussa järjestelmässä. Kukaan ei voi vastata kysymykseen ”kuinka monta käyttökelpoista ajoneuvoa tällä yksiköllä on juuri nyt” ilman soittoa — koska samat fyysiset entiteetit on esitetty eri tietueina, eri tunnisteina ja eri attribuuttiarvoina järjestelmissä, joita ei ole koskaan suunniteltu yhtäpitäviksi.

Tämä on puolustuksen MDM-ongelma yleisimmässä muodossaan. Päädatanhallinta (MDM) on toimiala, joka luo kustakin ydin­entiteetistä — henkilöstä, organisaatiosta, kalustosta, sijainnista — yhden auktoritatiivisen esityksen, johon kaikki järjestelmät viittaavat johdonmukaisesti. Se ei ole raportointityökalu eikä tietovarasto. Se on kerros, joka tekee järjestelmien välisistä yhteenliitoksista merkityksellisiä, monialaisesta analytiikasta luotettavaa ja tietoihin perustuvista operatiivisista päätöksistä luotettavia. Tässä artikkelissa käsitellään puolustuksen MDM-järjestelmän arkkitehtuuria hub-mallin valinnasta entiteettien yhdistämisen, kultatietueen rakentamisen, vastuuhenkilötyönkulkujen ja toimintakykyvaatimusten kautta, jotka tekevät MDM:stä käyttökelpoisen uhkaavissa ympäristöissä.

Puolustuksen MDM-ongelma — kalustotietueita kolmessa järjestelmässä kolmella eri tunnisteella, henkilöstötietueet eroavat HR:n ja C2:n välillä, epäyhdentämukaisuuden kustannus

Puolustusorganisaatiot kasaavat totuuslähteen pirstoutumista orgaanisesti. HR-järjestelmä hankittiin henkilöstöhallintoa varten. C2-järjestelmä rakennettiin yksikön rakenteen ja taktisten tehtävänantojen seurantaan. Logistiikkajärjestelmä suunniteltiin hankinnan ja materiaalivastuun hallintaan. Kunkin suunnitteli eri ohjelmistoimisto, kullakin on käyttöönotto eri vuosikymmenellä ja kukin käyttää eri tietomallia. Yhtäkään niistä ei suunniteltu yhteentoimivaksi muiden kanssa entiteetti-identiteetin tasolla.

Tuloksena on joukko tunnistemalleja, jotka ovat yhteensopimattomia suunnittelustaan. Henkilö voidaan tunnistaa HR:ssä henkilötunnuksellaan, C2:ssä sotilasammattikoodin ja sotilasarvon yhdistelmällä ja logistiikassa kalustovastuuhenkilön tunnuksella — kolme tunnisteetta yhdelle ihmiselle ilman järjestelmän ylläpitämää kuvatusta niiden välillä. Kalusto on huonompaa: M1A2-panssarivaunussa voi olla runkoon maalattu bumper-tunnus (jota miehistö ja C2-operaattorit käyttävät), puolustusministeriön toimipaikkakoodi logistiikassa, yksilöivä tunniste (UII) -viivakoodi materiaalivastuussa ja kunnossapitotilauksen numero kunnossapitojärjestelmässä. Mikään näistä tunnisteista ei ole samassa muodossa, eikä niitä käyttäviä järjestelmiä rakennettu kääntämään niitä toistensa välillä.

Tämän epäyhdentämukaisuuden kustannus ei ole pelkkää vaivaa. Kun valmiusanalyytikko yhdistää C2:n yksikön sijoitustiedot logistiikan hankintatietoihin laskeakseen yksikön operatiivisen kyvykkyyden, yhteenliitos ei löydä vastaavia tietueita, jotka viittaavat samaan fyysiseen kalustoon eri tunnisteilla. Tuloksena oleva kyvykkyyspiste on väärä — ja se on väärä suunnassa, jota analyytikko ei voi havaita ilman kunkin järjestelmän itsenäistä tarkistamista, mikä kumoaa analyysimallin tarkoituksen. Yhtenäiseen näkymään siitä, miten nämä integraatiovirheet ilmenevät laajemmassa data-arkkitehtuurissa, tutustu käsittelyymme puolustuksen dataintegraatiomalleista.

Henkilöstötietueiden eriytyminen HR:n ja C2:n välillä on erillinen lisäongelma. HR ylläpitää hallinnollista tietuetta: pysyvä sotilasarvo, tehtäväpaikka, sijoitettu yksikkö, turvallisuusluokitus, koulutushistoria. C2 ylläpitää operatiivista kuvaa: kuka on fyysisesti missäkin yksikössä, mitä roolia hän hoitaa nykyisessä tehtäväorganisaatiossa, mitä järjestelmiä hänellä on valtuudet käyttää. Vakaissa varusmiestilanteissa nämä tietueet ovat kohtuullisen yhtäpitävät. Operaatioiden aikana — kun henkilöstöä liitetään eri yksiköihin, kun tehtäväorganisaatio poikkeaa henkilöstö- ja kalustojärjestystä (TO&E), kun tilapäiset tehtävänannot luovat toissijaisia alaisuuksia — tietueet eriytyvät nopeasti. MDM-järjestelmän, joka hallinnoi henkilöentiteettiä, on sovitettava sekä hallinnollinen että operatiivinen esitys yhtenäiseksi kultatietueeksi, joka on hyödyllinen sekä valmiusraportoinnille että operatiiviselle suunnittelulle.

MDM-hub-arkkitehtuuri — rekisteri-, konsolidointi- ja rinnakkaisuus-hub-mallit, valintakriteerit puolustusympäristöille, hubin sijoitus luokitellulle ja luokittelemattomalle datalle

Kolme hub-mallia hallitsee tuotannon MDM-käyttöönottoja. Kullakin on oma suhteensa palveltaviin lähdejärjestelmiinsä ja erilainen joukko operatiivisia tasapainotuksia, joilla on merkitystä puolustusympäristöissä.

Rekisterimalli tallentaa vain ristiviitetaulukon — kuvauksen kunkin lähdejärjestelmän tunnisteesta MDM:n määräämään globaaliin entiteettitunnukseen — ilman entiteettiattribuuttien replikointia tai tallentamista hubiin itseensä. Kun käyttäjä tarvitsee entiteettitietoja, se kysyy hubista globaalia tunnusta ja kysyy sitten asianmukaisista lähdejärjestelmistä ristiviitteen palauttamilla lähteekohtaisilla tunnisteilla. Rekisterimallilla on pienin datanjälki, eikä se vaadi attribuuttitietojen synkronointia hubiin, mikä tekee siitä houkuttelevan ympäristöissä, joissa luokitellun datan replikointi keskuspaikkaan nostaa valtuutuskysymyksiä. Sen rajoitus on, että se pakottaa jokaisen käyttäjän ratkaisemaan entiteetit useiden lähdejärjestelmien välillä kyselyhetkellä, mikä on operatiivisesti epäkäytännöllistä usein toistuville operatiivisille kyselyille.

Konsolidointimalli kopioi ja normalisoi entiteettiattribuutit kaikista osallistuvista lähdejärjestelmistä hubiin, ajaa entiteettien yhdistämisen yhdistääkseen kaksoiskappaleet ja tarjoaa yhtenäisen entiteetinäkymän käyttäjille. Lähdejärjestelmiä ei muuteta — hub on lukuoptimoitu lähdetietojen käyttäjä, eikä se kirjoita takaisin niihin. Tämä malli on käytännöllisin puolustusympäristöille, koska se ei vaadi lähdejärjestelmien muokkausoikeuksia (C2-, HR- ja logistiikkajärjestelmiä ei tyypillisesti voi muokata MDM-ohjelma), ja se keskittää entiteettien yhdistämisen laskennan hubiin jakamatta sitä käyttäjille. Sotilaallinen datajärviarkkitehtuuri käyttää tyypillisesti MDM-konsolidointihubin kultatietueita kuratoituna viitekerroksena eikä yhdistä suoria lähdetaulukoita.

Rinnakkaisuusmalli lisää takaisinkirjoituskyvyn konsolidointimalliin: hub rakentaa kultatietueen ja levittää sitten auktoritatiiviset attribuuttiarvot takaisin lähdejärjestelmiin ja korvaa paikallisesti ylläpidetyt arvot hubin määrittämällä auktoritatiivisella arvolla. Tämä malli tuottaa vahvimman yhdenmukaisuuden järjestelmien välillä mutta edellyttää, että jokainen mukana oleva lähdejärjestelmä hyväksyy hubista tulevat kirjoitukset — vaatimus, jonka usein estävät järjestelmän valtuutusrajoitukset, toimittajan muutostenhallintaprosessit ja operatiivinen riskin karttaminen tuotantojärjestelmissä.

Hubin sijoittaminen luokitellulle ja luokittelemattomalle datalle edellyttää erillisiä hub-instansseja kunkin turvaluokituksen rajalla. Yksi MDM-hub, joka käsittelee sekä luokiteltua että luokittelematonta entiteettidataa, edellyttäisi hubin toimivan korkeammalla turvaluokalla, mikä estäisi luokittelemattomat käyttäjät saamasta mitään entiteettitietoja hubista — mikä kumoaa sen tarkoituksen. Käytännöllinen arkkitehtuuri ottaa käyttöön luokittelemattoman hubin entiteeteille, jotka ovat kokonaan luokittelemattomissa lähdejärjestelmissä (yleiset viitetiedot, luokittelemattomat sijaintitiedot, kaupallisten toimittajien tiedot), ja luokitellun hubin asianmukaisella turvaluokalla entiteeteille, joilla on luokiteltuja attribuutteja. Turvaluokitusrajat ylittävä entiteettien yhdistäminen — sen ratkaiseminen, että luokittelemattomassa järjestelmässä oleva entiteetti vastaa samaa fyysistä entiteettiä luokitellussa järjestelmässä — edellyttää erikoistunutta monialaratkaisun valvontaa, joka kantaa turvaluokituksen rajan yli vain tunnisteiden ristiviitteen eikä koskaan itse luokiteltuja attribuutteja.

Entiteettityypit puolustuksen MDM:ssä — henkilö (sotilashenkilöstö), organisaatio (yksikkö/komento), kalusto (alusta/yksikkö), sijainti (laitos/asema)

Puolustuksen MDM hallinnoi neljää ensijaista entiteettialuetta, joilla kullakin on omat lähdejärjestelmänsä, tunnistemallinsa, attribuuttirakenteensa ja datan laadun haasteensa.

Henkilöentiteetin alue kattaa sotilashenkilöstön, urakoitsijat ja koalitiokumppanit. Keskeisiä lähdejärjestelmiä ovat henkilöstöhallintajärjestelmä (hallinnollinen tietue, pysyvä sijoitus, sotilasarvo), C2-järjestelmä (nykyinen operatiivinen sijoitus, tehtäväorganisaation asema) ja turvallisuusselvitysten hallintajärjestelmä (turvallisuusluokitus, osasto-oikeudet, pääsyn päättymispäivät). Keskeinen tunnishaaste on, että sama henkilö voi esiintyä HR:ssä pysyvällä tehtäväyksiköllään ja olla operatiivisesti liitettynä toiseen yksikköön C2:ssä — molemmat tietueet ovat oikeita omassa järjestelmässään, mutta ne edustavat kahta eri operatiivista tilaa samalle entiteetille. Henkilöalueen kultatietueen rakentamisen on kaapattava sekä hallinnollinen että operatiivinen tila erillisiksi attribuuttiryhmiksi eikä kutistettava niitä yhdeksi yksikön sijoituskentäksi.

Organisaatioentiteetin alue kattaa yksiköt, komentopaikat, alayksiköt ja tehtäväjoukot. Organisaatioilla puolustusympäristöissä on hierarkkinen vanhempi-lapsi-rakenne (prikaati sisältää pataljoonia, pataljoona komppanioita) ja ajallinen ulottuvuus (tehtäväjoukot luodaan, yhdistyvät, järjestäytyvät uudelleen ja hajoavat operatiivisella aikataululla). MDM-järjestelmän on ylläpidettävä nykyistä organisaatiohierarkiaa, sen historiallisia tiloja menneinä aikaleimoina sekä suhteita hallinnollisen TO&E-rakenteen ja nykyisen operatiivisen tehtäväorganisaation välillä. Lähdejärjestelmiä ovat yksikköhierarkia C2-järjestelmässä, TO&E henkilöstöhallintajärjestelmässä ja komentoelementin tietue logistiikkajärjestelmissä.

Kalustoentiteetin alue kattaa alustat, ajoneuvot, asejärjestelmät ja yksikköinventaarion. Käytännössä tämä on eniten tunnisteissa pirstoutunut alue: yksi fyysinen yksikkö kantaa tyypillisesti neljää tai useampaa erillistä tunnistemallia niissä järjestelmissä, jotka sitä hallinnoivat. UII (unique item identifier) on puolustusministerion standardi globaalisti yksilöivä viivakoodi sarjanumeroiduille kalustoyksiköille ja sen pitäisi toimia kalustoalueen pääatunnistimena, mutta UII-standardia edeltävät vanhat järjestelmät käyttävät omia tunnisteitaan, jotka vaativat kuvaustaulun yhdistääkseen UII-tilaan. Vastaavuus järjestelmien välillä edellyttää sumeaa vastaavuutta sarjanumerokentissä, jotka voivat sisältää eri erottimia, etunollia tai valmistajakoodin etuliitteitä riippuen siitä, mikä järjestelmä kirjasi tunnisteen.

Sijaintientiteetin alue kattaa laitokset, varuskunta-alueet, nimetyt kiinnostuksen kohteet ja taktiset asemat. Sijaintien vastaavuus on perustaltaan geopositiota ongelma: sama fyysinen paikka voidaan viitata MGRS-koordinaateilla yhdessä järjestelmässä, desimaaliasteilla toisessa ja luonnollisen kielen paikannimellä kolmannessa. Geopositioblokkaus ryhmittää ehdokassijaintitietueet läheisyyden mukaan geohash-ruudukolla, ja vastaavuus määrittää, viittaavatko kaksi avaruudellisesti läheistä tietuetta samaan laitokseen vai eri läheisiin paikkoihin. Sijaintientiteeteillä on myös ajallinen ulottuvuus — laitoksen turvaluokitus, operatiivinen tila ja hallitseva voima muuttuvat ajan myötä — mikä edellyttää kultatietueen kantavan ajallisia voimassaolovälejä keskeisille sijaintiattribuuteille. Reaaliaikainen tiedustelufuusio -kerros, joka korreloi ISR-havainnot tunnettuihin sijainteihin, riippuu suoraan sijaintientiteetin pääaineiston tarkkuudesta ja täydellisyydestä.

Entiteettien yhdistäminen: vastaavuus lähdejärjestelmien välillä — blokkausstrategiat suurille puolustusentiteettijoukoille, ML-vastaavuusmallit, deterministinen vs todennäköisyyspohjainen vastaavuus

Entiteettien yhdistäminen on prosessi, joka määrittää, mitkä tietueet lähdejärjestelmien välillä viittaavat samaan todelliseen entiteettiin, ja yhdistää ne jaetun globaalin tunnuksen alle. Suuren puolustusaineiston mittakaavassa — miljoonia kalustotietueita logistiikan, kunnossapidon ja materiaalivastuun järjestelmissä; satoja tuhansia henkilöstötietueita HR-, C2- ja turvallisuusselvitysjärjestelmissä — naiivi parittainen vertailu kaikkia tietueita kaikkia muita vastaan on laskennallisesti mahdotonta. Vastaavuusputki on rakennettava kaksivaiheiseksi prosessiksi: blokkaus, joka supistaa ehdokasparien tilan käsiteltävään kokoon; ja sen jälkeen vastaavuus, joka arvioi ehdokasparit riittävällä tarkkuudella erottaakseen aidot vastaavuudet lähes-osuneista.

Blokkausstrategiat puolustuksen entiteettialueille käyttävät aluekohtaisia jakoavaimia ryhmitelläkseen tietueet, jotka voisivat periaatteessa olla sama entiteetti. Henkilöstötietueille foneettinen blokkaus sukunimikentässä Soundex- tai Double Metaphone -algoritmilla ryhmittää tietueet, joissa eri järjestelmät ovat kirjoittaneet saman nimen eri kirjoitusasuilla, ylimääräisillä välilyönneillä tai yhdysmerkkierotuksilla — kaikki yleisiä henkilöstöhallintajärjestelmissä, jotka edeltävät Unicode-normalisointia. Kalustotietueille etuliiteblokkaus sarjanumeron kuudessa ensimmäisessä merkissä (välilyönnit ja kirjainkoko normalisoituaan) ryhmittää tietueet järjestelmistä, jotka esittävät saman sarjanumeron eri erottimilla. Sijaintitietueille geohash-ruudukko tarkkuustasolla 6 (noin 1,2 km:n solun leveys) ryhmittää avaruudellisesti läheiset tietueet ja sulkee pois selvästi erilliset paikat. Blokkaussuunnitelma on validoitava tunnetuista vastaavuuksista koostuvaan kulta-aineistoon ennen käyttöönottoa — blokkausvaiheen on säilytettävä vähintään 95 prosenttia aidosta vastaavuusparista ehdokasjoukossa, tai ratkaisuputki tuottaa järjestelmällisiä ohitusvirheitä pois suljetuille tietueetyypeille.

Kunkin ehdokasblokin sisällä vastaavuusmalli arvioi kunkin parin:

  • Deterministinen vastaavuus soveltaa kiinteää sääntöjoukkoa, joka tuottaa binäärisen vastaavuus/epävastaavuus-päätöksen. Deterministinen sääntö kalustotietueille: kaksi tietuetta vastaa toisiaan jos ja vain jos niiden UII-viivakoodit ovat identtiset (ei-alfanumeeriset merkit poistettuaan) tai jos niiden sarjanumerot ovat identtiset ja niiden kansalliset varastotunnisteet ovat yhtäpitävät ensimmäiseen yhdeksään numeroon. Deterministiset säännöt eivät vaadi koulutusaineistoa, ovat täysin auditointikelpoisia ja tuottavat nolla väärää vastaavuutta, kun sääntö on määritetty oikein. Ne sopivat attribuuteille, jotka on tarkoitettu globaalisti yksilöiviksi ja joita ylläpidetään tietosyöttövalvonnan alaisuudessa.
  • Todennäköisyyspohjainen vastaavuus laskee yhdistelmävastaavuusarvon painotetuista kenttätason samankaltaisuusmittareista. Henkilöstötietueen vertailu voi soveltaa Jaro-Winkler-samankaltaisuutta etunimelle, foneettista vastaavuutta sukunimelle, tarkkaa vastaavuutta syntymäaikaa ja sumeaa vastaavuutta sotilasarvon lyhenteelle (vaihtelevan muotoilun hallintaan), ja yhdistää ne logistisen regressio- tai gradienttivahvistetun puuluokittelijan kanssa, joka on koulutettu nimetyistä vastaavuus/epävastaavuuspareista todellisista lähdejärjestelmistä. Koulutettu malli oppii kunkin kentän suhteellisen merkityksen tässä likaisen datan ympäristössä — joissakin lähdejärjestelmissä syntymäaika on erittäin luotettava; toisissa sillä on 3 prosentin virhemäärä, joka tekee siitä heikon erottavan tekijän.
  • ML-vastaavuusmallit laajentavat todennäköisyyspohjaista vastaavuutta opituilla esityksillä entiteettiattribuuttitekstistä. Henkilöstön nimipareille koulutettu Siamese-verkko oppii vektriesityksen nimistä siten, että foneettisesti tai ortografisesti samankaltaisilla nimillä on samankaltaiset vektorit — se kaappaa samankaltaisuusmalleja, jotka käsin tehdyt merkkijonoetäisyysmittarit ohittavat. ML-mallit vaativat suurempia nimettyjä koulutusaineistoja ja ovat vaikeampia auditoida kuin deterministiset säännöt, mutta ne ylittävät klassiset todennäköisyysmallit korkean kohinan entiteettijoukoissa, joissa tietosyöttövirheet ovat monimutkaisia ja epätasaisia lähdejärjestelmien välillä.

Vastaavuusputken tuotos kullekin ehdokasparille on vastaavuuspäätös (vastaavuus / epävastaavuus / tarkastus) ja luottamusarvo. Vastaavuuskynnysarvon ylittävät parit yhdistetään automaattisesti jaetun globaalin entiteettitunnuksen alle. Tarkastusvyöhykkeellä olevat parit — joissa luottamusarvo jää epävastaavuuskynnysarvon ja vastaavuuskynnysarvon väliin — ohjataan ihmiselle vastuuhenkilölle ratkaistavaksi eikä ratkaista automaattisesti.

Kultatietueen rakentaminen ja ylläpito — arvonvalintasäännöt ristiriitaisille lähdeattribuuteille, kultatietueen luottamusarvot, automaattinen vs vastuuhenkilön avustama ratkaisu

Kun entiteettien yhdistäminen on yhdistänyt tietueet useista lähdejärjestelmistä samaan globaaliin entiteettitunnukseen, MDM-järjestelmä rakentaa kultatietueen: auktoritatiivisen, yhtenäisen esityksen kyseisestä entiteetistä, jonka attribuutit tulevat parhaasta mahdollisesta lähteestä kullekin kentälle. Kultatietue ei ole yksinkertainen kaikkien lähdeattribuuttien yhdistelmä — kun lähteet ovat eri mieltä, arvonvalintasäännön on määrättävä, minkä arvon kultatietue kantaa.

Arvonvalintasäännöt määritellään attribuuttikohtaisesti kunkin entiteettialueen osalta ja koodaavat kyseisen attribuutin auktoriteettihierarkian:

# Kalustoentiteetti — arvonvalintasäännöt attribuuttiin serial_number: source_priority=[property_acct, maintenance, logistics] national_stock_num: source_priority=[property_acct, logistics] unit_assignment: source_priority=[c2_system, logistics] maintenance_status: source_priority=[maintenance, logistics] condition_code: source_priority=[maintenance, property_acct] location_mgrs: most_recent_update # C2 tai logistiikka, kumpi viimeksi päivitti end_item_code: source_priority=[property_acct] # Yksi auktoritatiivinen lähde # Henkilöentiteetti — arvonvalintasäännöt attribuuttiin permanent_rank: source_priority=[hr_system] operational_unit: source_priority=[c2_system, hr_system] clearance_level: source_priority=[clearance_mgmt] duty_position: most_recent_update # HR tai C2 sijoitustyypin mukaan name_legal: source_priority=[hr_system] name_preferred: most_complete # Lähde, jolla on vähiten null-nimikenttiä, voittaa

Kussakin kultatietueen attribuutissa on arvonsa lisäksi kolme metatietokenttää: lähdeviite (mikä lähdejärjestelmä toimitti tämän arvon ja kyseisen lähdetietueen tunnus), päivitysaikaleima (milloin lähdejärjestelmä viimeksi vahvisti tämän arvon) ja luottamusarvo (normalisoitu arvo, joka kuvaa lähteen luotettavuutta ja sen vastaavuuden laatua, joka yhdisti tämän tietueen kultaentiteettiin). Luottamusarvo 1,0 tarkoittaa determinististä vastaavuutta globaalisti yksilöivästä tunnuksesta erittäin luotettavasta lähteestä; alemmat arvot heijastavat todennäköisyyspohjaisia vastaavuustuloksia, tunnetusti huonolaatuisia lähteitä tai attribuutteja, joissa arvonvalinta oli riitaisaa ristiriitaisten arvojen lähteiden välillä.

Luottamusarvo ei ole koriste — sillä on operatiivista merkitystä. Valmiusarviota rakentava analyytikko voi suodattaa kultatietueen kyselyä pois attribuutit, jotka jäävät luottamuskynnysarvon alapuolelle, tai analytiikkakerros voi painottaa kunkin kalustotietueen panosta yksikön valmiuspisteeseen sen kunnossapidon tila -attribuutin luottamuksella. Analyytikko, joka saa valmiusmittarin ilman näkyvyyttä taustalla oleviin luottamusarvoihin, ei voi erottaa korkean luottamuksen arviota luvusta, joka on koottu huonolaatuisista vastaavuuksista ja vanhentuneista lähdetiedoista.

Kultatietueen ylläpito on jatkuva prosessi, ei kertaluonteinen erätoiminto. Kun lähdejärjestelmä päivittää entiteettitietueen, MDM-sisääntostoputki vastaanottaa päivityksen, arvioi uudelleen arvonvalinnan kaikille vaikuttuneille attribuuteille ja päivittää kultatietueen vastaavasti. Jos päivitys aiheuttaa muutoksen kultatietueen attribuuttiin, jonka alaspäin suuntautuvat järjestelmät ovat jo käyttäneet, muutosilmoitus julkaistaan MDM-tapahtumaväylään, jotta käyttävät järjestelmät voivat kysyä päivitettyä kultatietuetta uudelleen. Muutosilmoituksessa on entiteetin globaali tunnus, muuttuneiden attribuuttien luettelo ja ennen/jälkeen-arvot — riittävästi tietoa käyttävälle järjestelmälle sen päättämiseen, vaikuttaako muutos sen aktiivisiin operatiivisiin tietoihin ilman koko kultatietueen uudelleenhakua.

Datanhallintavastuun työnkulut — vastuuhenkilön määrääminen alueittain (kalustovastuuhenkilö, henkilöstövastuuhenkilö), riidanratkaisuprosessi, kultatietueen muutosten auditointijälki

Automaattinen entiteettien yhdistäminen ja arvonvalintasäännöt hoitavat suurimman osan vastaavuus- ja attribuuttiristiriidatapauksista tuotannon MDM-järjestelmässä — tyypillisesti 85–95 prosenttia tietueista voidaan ratkaista ilman ihmisen puuttumista, kun vastaavuusputki on kalibroitu hyvin kyseisten lähdejärjestelmien datan mukaan. Loput 5–15 prosenttia tapauksista — matalan luottamuksen vastaavuudet, riitaiset attribuuttiarvot, joissa useat lähteet vaativat saman auktoriteetin, ja entiteettien jakamiset tai yhdistämiset, jotka vaativat harkintaa — on ohjattava ihmiselle data stewardille ratkaistavaksi.

Vastuu on järjestetty entiteettialueittain, ja kullekin alueelle on nimetty vastuuhenkilö, jolla on sekä toimialan osaaminen että riitojen ratkaisemiseen tarvittava järjestelmäpääsyvaltuus:

  • Kalustovastuuhenkilö — tyypillisesti materiaalivastuun tai logistiikan toiminnassa, on valtuutettu määrittämään oikea kalustotietue, kun järjestelmät ovat eri mieltä sarjanumerosta, yksikön sijoituksesta tai kunnon koodista. Kalustovastuuhenkilöllä on suora pääsy fyysisiin tietueisiin, ja hän voi todentaa todellisen tilan kysymällä alkuperäisestä paperijäljestä tai koordinoimalla kalustovastuuhenkilöiden kanssa.
  • Henkilöstövastuuhenkilö — tyypillisesti HR- tai henkilöstöhallinnon toiminnassa, on valtuutettu ratkaisemaan ristiriitaiset nimen kirjoitusasut, kaksoishenkilöstötietueet (yleisiä, kun henkilö astuu uudelleen palvelukseen ja saa uuden järjestelmän generoiman tunnuksen) ja sijoituserot hallinnollisten ja operatiivisten tietueiden välillä.
  • Organisaatiovastuuhenkilö — tyypillisesti J1- tai J3-esikuntaelementti, on valtuutettu ratkaisemaan yksikköhierarkian epäselvyydet tehtäväorganisaation muutosten aikana, vahvistamaan yksiköiden aktivoinnin ja lakkauttamisen päivämäärät ja ratkaisemaan emoyksikön sijoituksen, kun alayksiköt on tilapäisesti liitetty useisiin esikuntiin.
  • Sijaintivastuuhenkilö — tyypillisesti geospatiaalisen tiedustelun tai kiinteistöhallinnon toiminto, on valtuutettu vahvistamaan, edustavatko kaksi avaruudellisesti läheistä tietuetta samaa laitosta vai erillisiä samassa paikassa olevia laitoksia, ja määrittämään kanonisen koordinaatin ja nimen sijainnille, joka esiintyy eri nimillä eri järjestelmissä.

Riidanratkaisuprosessi esittää kunkin vastuuhenkilötapauksen rakennettuna pakettina. Tapauspaketti sisältää: ehdokastietueet kustakin lähdejärjestelmästä, jotka MDM-järjestelmä uskoo viittaavan samaan entiteettiin, kenttätason samankaltaisuusarvot kullekin vertailulle attribuutille, MDM-järjestelmän automaattisen suosituksen (vastaavuus, epävastaavuus tai suositeltu voittaja-arvo riitaiselle attribuutille) ja selkeän esityksen siitä, missä lähteet ovat samaa ja eri mieltä. Vastuuhenkilö valitsee saatavilla olevista ratkaisuvaihtoehdoista — vahvistaa automaattisen suosituksen, ohittaa sen vaihtoehtoisella ratkaisulla tai merkitsee tapauksen vaativaksi lisätietoja ennen ratkaisua. Vapaatekstinen perustelukenttä mahdollistaa vastuuhenkilölle epäselvien päätösten perustelun dokumentoimisen.

Kultatietueen muutosten auditointijälki kirjaa jokaisen tilamuutoksen kultatietueen historiassa riippumatta siitä, aiheuttiko muutoksen automaattinen arvonvalintapäivitys vai manuaalinen vastuuhenkilön päätös. Kussakin auditointitietueessa on:

  • Entiteetin globaali tunnus ja entiteettialue
  • Muuttuneet attribuutit ja kunkin ennen/jälkeen-arvot
  • Muutoksen laukaisin: automaattinen arvonvalintasääntö (sääntötunnuksella ja versiolla), saapuva lähdepäivitys (lähdejärjestelmän tunnuksella ja lähdetietueen tunnuksella) tai vastuuhenkilön päätös (vastuuhenkilön tapaustunnuksella)
  • Muutoksesta vastuussa olevan päähenkilön todennettu identiteetti — järjestelmän palvelutili automaattisille muutoksille, vastuuhenkilön todennettu identiteetti manuaalisille päätöksille
  • Muutoksen aikaleima (looginen kelloarvo jaetuissa käyttöönotoissa, seinäkello yksittäisessä hubissa)

Auditointitietueet kirjoitetaan vain lisäys -tallennukseen eikä niitä voi muuttaa kirjoituksen jälkeen. Tämä muuttumattomuus mahdollistaa sen, että MDM-järjestelmä rekonstroi minkä tahansa kultatietueen täydellisen tilan millä tahansa menneellä hetkellä toistamalla auditointijäleen alkaen alkuperäisestä tietueen luonnista eteenpäin — kyky, joka on operatiivisesti välttämätön, kun analyytikot tarvitsevat arviota siitä, mitä MDM-järjestelmä uskoi entiteetistä tiettynä historiallisena hetkenä, ja vaatimus luokiteltujen entiteettien hallintajärjestelmien vaatimustenmukaisuudelle.

MDM:n toimintakyky yhteydettömissä ympäristöissä — paikallinen MDM-välimuisti eteenpäin sijoitetuille järjestelmille, ristiriitojenratkaisu yhteyden palautuessa, lopullisen yhdenmukaisuuden malli yhteydettömille solmuille

Keskitetty MDM-hub, joka vaatii verkkoyhteyden takalinjaan jokaiseen entiteettikyselyyn, on operatiivisesti käyttökelvoton uhkaavassa ympäristössä, jossa viestintä on heikentynyt tai katkennut. Eteenpäin sijoitetut C2-järjestelmät, logistiikkajärjestelmät ja operatiiviset suunnittelutyökalut kaikki riippuvat entiteettien yhdistämisestä toimiakseen oikein — jos MDM-hub ei ole tavoitettavissa, niiden on palattava raakoihin lähdetunnisteisiin, jotka eivät välttämättä vastaa toisiaan järjestelmien välillä, ja operatiivinen kuva palaa MDM:ää edeltävään pirstoutuneen entiteetti-identiteetin tilaan. MDM:n toimintakyvyn suunnittelu estää tämän paluun sijoittamalla paikallisen välimuistin eteenpäin ja määrittelemällä tarkan synkronointiprotokollan yhteyden palauttamisvaiheelle.

Eteenpäin sijoitettu MDM-välimuisti on ennalta sijoitettu luku-kopio kultatietueista ja ristiviitetaulukosta siitä entiteettijoukosta, joka liittyy eteenpäin sijoitetun elementin toiminta-alueeseen. ”Relevantti alue” määritellään kahdella ulottuvuudella: maantieteellinen toiminta-alue (kaikki sijaintientiteetit AO:lla, kaikki kalustoentiteetit, joiden viimeisin tunnettu sijainti on AO:lla) ja tehtäväorganisaatio (kaikki henkilö-, organisaatio- ja kalustoentiteetit, jotka liittyvät eteenpäin sijoitetun elementin tehtäväorganisaation yksiköihin). Välimuisti täytetään ennen eteenpäin sijoitetun elementin lähtöä keskushubin tilannekuvapurulla. Se otetaan käyttöön laitteistolla, joka toimii itsenäisesti laajaverkosta — kestäväksi rakennettu palvelin rinnakkain eteenpäin sijoitetun C2-solmun kanssa tai upotettuna taktisen komentopaikan tietotekniikkaympäristöön.

Yhteydettömän toiminnan aikana taktiset järjestelmät kysyvät paikallisesta välimuistista täsmälleen samalla tavalla kuin keskushubista — sama API, sama vastausmuoto. Entiteettien yhdistämisen pyynnöt palvelletaan paikallisesta ristiviitetaulukosta. Kultatietuekyselyt palauttavat välimuistissa olevat attribuuttiarvot tuoreusajaleimalla, joka kertoo, milloin keskushubi viimeksi vahvisti kunkin attribuutin. Taktiset järjestelmät vastaavat tämän tuoreusajaleiman esittämisestä käyttäjille, kun tiedot voivat olla vanhentuneet, eivätkä siitä, että välimuistissa oleva data esitetään kuin se olisi ajantasaista.

Kaikki entiteettien luonnit, päivitykset, yhdistämiset ja jakamiset yhteydettömän jakson aikana kirjataan paikalliseen muutoslokiin — järjestettyyn, rajoitettuun jonoon entiteetin muutostapahtumia. Kussakin tapahtumassa on vektorikelloaikaleima, joka muodostaa osittaisen järjestyksen tapahtumille yhteydettömien solmujen välillä ilman synkronoituja seinäkelloja. Muutoslokin kapasiteetti rajoittaa yhteydettömän toiminnan keston: tyypilliseen operatiiviseen entiteettipäivitystaajuuteen mitoitettu 72 tunnin muutosloki tarjoaa 72 tuntia itsenäistä toimintaa ennen kuin synkronointi pakottaa estämään lokin ylivuodon. Operatiivisen suunnittelun prosessin on otettava tämä rajoite huomioon.

Yhteyden palauttamisen synkronointiprotokolla toimii kolmessa vaiheessa, kun eteenpäin sijoitettu elementti palauttaa verkkoyhteyden keskushubiin:

Vaihe 1 — Muutoslokin siirto: Eteenpäin sijoitettu solmu siirtää koko muutoslokinsa keskushubiin. Hubi vahvistaa vastaanoton ja antaa kullekin tapahtumalle globaalin järjestysnumeron. Eteenpäin sijoitettu solmu jatkaa paikallisten kyselyjen palvelemista välimuistista tässä vaiheessa. Vaihe 2 — Ristiriitojen havaitseminen ja ratkaiseminen: Hubi toistaa eteenpäin sijoitetun muutoslokin nykyistä entiteettitilaansa vastaan. Kullekin eteenpäin sijoitetulle tapahtumalle hubi tarkistaa, päivitettiinkö sama attribuutti hubissa tai toisessa eteenpäin sijoitetussa solmussa yhteydettömän jakson aikana. Ei ristiriitaa: eteenpäin sijoitettu muutos sovelletaan sellaisenaan. Ristiriita (sama attribuutti päivitetty kahdesta lähteestä): Sovelletaan määritettyä arvonvalintasääntöä (luotetuin lähde, viimeisin looginen kello). Jos arvonvalintasääntö ei tuota selvää voittajaa: ohjataan vastuuhenkilön jonoon. Vaihe 3 — Välimuistin uudelleensynkronointi: Hubi siirtää yhdistetyn ristiriitojen jälkeisen entiteettitilan eteenpäin sijoitettuun välimuistiin. Eteenpäin sijoitettu välimuisti korvaa tilannekuvansa yhdistetyllä tilalla. Hubi siirtää ratkaistun muutoslokin kaikkiin muihin eteenpäin sijoitettuihin välimuisteihin, jotta nekin saavat tästä solmusta lähteneet päivitykset. Kaikki solmut vahvistavat vastaanoton ennen kuin hubi merkitsee synkronointisyklin valmiiksi.

Tähän arkkitehtuuriin perustuva lopullisen yhdenmukaisuuden malli antaa takuun: yhteyden palauttamisen ja synkronointiprotokollan onnistuneen päättymisen jälkeen kaikki MDM-topologian solmut — keskushubi ja kaikki eteenpäin sijoitetut välimuistit — pitävät identtistä entiteettitilaa. Yhteydettömän jakson aikana solmut voivat eriytyä. Synkronointiprotokolla on suunniteltu siten, että eriytyminen on rajoitettua, havaittavissa ja ratkaistavissa ilman tietojen menetystä — yhtään entiteetin päivitystä yhteydettömän jakson aikana ei hylätä, vain järjestellään uudelleen ja mahdollisesti ohitetaan arvonvalintasäännöllä, joka soveltaa organisaation määrittämää auktoriteettihierarkiaa.

Operatiivinen seuraus on, että eteenpäin sijoitetun välimuistin käyttäjien ja järjestelmien yhteydettömän jakson aikana on ymmärrettävä työskentelevänsä epävarman ajantasaisuuden tilannekuvasta. Eteenpäin sijoitetun välimuistin pitäisi esittää ”viimeisin synkronointiaikaleima” -kenttä välimuistitasolla ja ”viimeksi vahvistettu” -aikaleima yksittäisen kultatietueen attribuutin tasolla, ja antaa alaspäin suuntautuville järjestelmille tiedot, joita ne tarvitsevat esittääkseen asianmukaiset luottamusvaroitukset, kun operatiiviset päätökset riippuvat entiteettitiedoista, joita keskushubi ei ole vähän aikaa sitten vahvistanut. Yksikön valmiusarvio, joka on rakennettu kaluston kultatietueista 12 tuntia vanhalla tilannekuvalla ja 71 tunnin yhteydettömällä jaksolla, vaatii erilaisen luottamustason kuin arvio, joka on rakennettu tietueista, jotka synkronoitiin 30 minuuttia ennen arvion luomista. Tämän eron tekeminen näkyväksi datassa — sen sijaan että se piilotettaisiin kultatietueen attribuuttien tasapäisen esityksen taakse — tekee MDM:stä hyödyllisen eikä harhaanjohtavan uhkaavissa operatiivisissa ympäristöissä.