Senior Streaming Data Engineer – Nederlandse Spoorwegen (NS) - Verloning opdracht

Opdrachtomschrijving

Welkom in de wereld van ‘DIA’ – Data, Innovatie & Analyse bij NS! DIA telt op dit moment ruim 300 medewerkers. Op het hoofdkantoor in Utrecht bij het Centraal Station, en gedeeltelijk hybride vanuit huis, bundelen collega’s hun krachten. Een mix van ervaringen en persoonlijkheden, die elkaar graag opzoeken om met elkaar te sparren en kennis te delen. Binnen DIA werken wij Agile in Scrum teams om samen kwalitatief hoogwaardige en innovatieve oplossingen, platformen en dataproducten te ontwikkelen en onderhouden. Onze analytics teams kunnen hierdoor snel en betrouwbaar inzichten genereren om tot juiste acties te komen. Jij wordt onderdeel van het team IoTeam. Dit team bestaat uit vijf Data Engineers, een Product Owner en een Scrum Master. Bij NS vinden we diversiteit en inclusie belangrijk, het maakt samenwerken leuker en het resultaat wordt er ook nog beter van. Wat jouw achtergrond of levensovertuiging is, maakt dan ook niet uit: we zijn vooral benieuwd naar jou als persoon en wat jij meebrengt naar als Senior Streaming Data Engineer

Als Senior Streaming Data Engineer speel je een cruciale rol binnen ons team. Je werkt samen met collega Data Engineers om geavanceerde data-oplossingen te ontwikkelen. Met jouw diepgaande kennis van Spark Structured Streaming en PySpark, draag je bij aan het ontwerp en de implementatie van schaalbare data-oplossingen die onze analytics teams in staat stellen om de beste beslissingen te nemen. Als onderdeel van onze afdeling werk je aan het bouwen en onderhouden van real-time streaming platformen, met focus op semigestructureerde sensorische databronnen en beeldverwerking. Je zorgt ervoor dat data betrouwbaar is en efficiënt en schaalbaar verwerkt wordt. Daarnaast voldoen de oplossingen aan de security- en privacyvereisten van NS. Het team waarin je gaat samenwerken richt zich op grote, semigestructureerde sensorische databronnen en ontwikkelt additionele diensten voor opslag en verwerking van beeldmateriaal.

Eisen

• Je hebt als Data Engineer minimaal 7 jaar ervaring met het verwerken van grote hoeveelheden data en minimaal 3 jaar ervaring met Spark Structured Streaming.
• Je hebt minimaal 7 jaar ervaring met Python en PySpark, het ontwikkelen van CI/CD-pipelines, geautomatiseerd testen en Infrastructure-as-Code.
• Je hebt ervaring met Java en/of Scala, Microsoft Azure, Databricks, Azure DevOps, Terraform en/of Bicep, OpenTofu, Kafka, AMQP, RabbitMQ en/of Event Hub.

Wensen

• Je hebt een actueel en relevant inzicht in technologische ontwikkelingen binnen dit domein en gebruikt jouw expertise graag om innovatieve oplossingen en platformen te creëren.
• Je bent een zelfstarter die graag werkt in een Agile omgeving binnen een jong en gedreven team.
• Je hebt een waarde- en organisatiegerichte mindset, waardoor je wensen kunt vertalen naar duurzame oplossingen en je goed kunt samenwerken met collega’s om een kwalitatief product neer te zetten.
• Bereikbaarheidsdiensten kunnen in de toekomst onderdeel uitmaken van deze rol.
• Je beheerst de Nederlandse taal uitstekend, zowel mondeling als schriftelijk.

Competenties

• Dankzij jouw doortastendheid en leergierigheid ben je van onschatbare waarde bij het: Achterhalen van de vraag achter de vraag waardoor je passende oplossingen kunt adviseren.
• Inrichten van de data pipeline tussen databronnen en onze analytics teams.
• Opzetten en beheren van de CI/CD pipeline waarbinnen een streaming pipeline van ontwikkeling tot productie wordt gerealiseerd.
• Bouwen in onze Azure cloud omgeving aan een fundament waarin alle streaming en sensorische databronnen ontsloten worden voor verdere analyses.

Overige informatie

Deze opdracht is alleen geschikt voor kandidaten die in loondienst zijn en waarvoor loonbelasting en premies volks- en werknemersverzekeringen (WW, WAO, WIA en ZW) worden afgedragen. Deze opdracht is niet geschikt voor zelfstandig ondernemers en professionals (waaronder zzp’ers) die zichzelf uitlenen. Deze opdracht is ook niet geschikt voor de directeur-grootaandeelhouder die niet is verzekerd voor de werknemersverzekeringen. Ik verklaar dat de aangeboden kandidaat geen zelfstandig professional is, ook niet via een doorleenconstructie.