Senior Streaming Data Engineer
Functieomschrijving
Als Senior Streaming Data Engineer speel je een cruciale rol binnen ons team. Je werkt samen met collega Data Engineers om geavanceerde data-oplossingen te ontwikkelen. Met jouw diepgaande kennis van Spark Structured Streaming en PySpark, draag je bij aan het ontwerp en de implementatie van schaalbare data-oplossingen die onze analytics teams in staat stellen om de beste beslissingen te nemen. Je zorgt ervoor dat data betrouwbaar is en efficiënt en schaalbaar verwerkt wordt. Daarnaast voldoen de oplossingen aan de security- en privacyvereisten van NS.
Je zal deel uitmaken van een team dat zich richt op grote, semigestructureerde sensorische databronnen en ontwikkelt additionele diensten voor opslag en verwerking van beeldmateriaal. Jouw doortastendheid en leergierigheid zullen van onschatbare waarde zijn bij het:
Achterhalen van de vraag achter de vraag waardoor je passende oplossingen kunt adviseren.
Inrichten van de data pipeline tussen databronnen en onze analytics teams.
Opzetten en beheren van de CI/CD pipeline waarbinnen een streaming pipeline van ontwikkeling tot productie wordt gerealiseerd.
Bouwen in onze Azure cloud omgeving aan een fundament waarin alle streaming en sensorische databronnen ontsloten worden voor verdere analyses.
Werkomgeving
Welkom in de wereld van ‘DIA’ – Data, Innovatie & Analyse bij NS! DIA telt op dit moment ruim 300 medewerkers. Op het hoofdkantoor in Utrecht bij het Centraal Station, en gedeeltelijk hybride vanuit huis, bundelen collega’s hun krachten. Een mix van ervaringen en persoonlijkheden, die elkaar graag opzoeken om met elkaar te sparren en kennis te delen. Binnen DIA werken wij Agile in Scrum teams om samen kwalitatief hoogwaardige en innovatieve oplossingen, platformen en dataproducten te ontwikkelen en onderhouden. Onze analytics teams kunnen hierdoor snel en betrouwbaar inzichten genereren om tot juiste acties te komen. Jij wordt onderdeel van het team IoTeam. Dit team bestaat uit vijf Data Engineers, een Product Owner en een Scrum Master. Bij NS vinden we diversiteit en inclusie belangrijk, het maakt samenwerken leuker en het resultaat wordt er ook nog beter van. Wat jouw achtergrond of levensovertuiging is, maakt dan ook niet uit: we zijn vooral benieuwd naar jou als persoon en wat jij meebrengt naar als Senior Streaming Data Engineer.
Functie-eisen
Je hebt als Data Engineer minimaal 7 jaar ervaring met het verwerken van grote hoeveelheden data en minimaal 3 jaar ervaring met Spark Structured Streaming.
Je hebt minimaal 7 jaar ervaring met Python en PySpark, het ontwikkelen van CI/CD-pipelines, geautomatiseerd testen en Infrastructure-as-Code.
Je hebt ervaring met Java en/of Scala, Microsoft Azure, Databricks, Azure DevOps, Terraform en/of Bicep, OpenTofu, Kafka, AMQP, RabbitMQ en/of Event Hub.
Je hebt een actueel en relevant inzicht in technologische ontwikkelingen binnen dit domein en gebruikt jouw expertise graag om innovatieve oplossingen en platformen te creëren.
Je bent een zelfstarter die graag werkt in een Agile omgeving binnen een jong en gedreven team.
Je hebt een waarde- en organisatiegerichte mindset, waardoor je wensen kunt vertalen naar duurzame oplossingen en je goed kunt samenwerken met collega’s om een kwalitatief product neer te zetten.
Bereikbaarheidsdiensten kunnen in de toekomst onderdeel uitmaken van deze rol.
Je beheerst de Nederlandse taal uitstekend, zowel mondeling als schriftelijk.
Bij NS vinden we het belangrijk dat we elkaar durven aanspreken en ons altijd kunnen uitspreken.
We zoeken collega’s met lef, die open staan voor verandering. Voor deze functie ligt de nadruk op proactief handelen. Dit betekent dat je zelfstandig initiatief neemt, zelfs bij onvolledige informatie, en actief bijdraagt aan verbeteringen binnen je team en de business.