Lead MLOps / LLM Ops (Director Level)

The Opportunity

The Lead MLOps / LLM Ops will own the design, recommendation & implementation of platform, infrastructure and best MLOps/LLMOps practices to support all data science teams and projects in US Segment Advanced Analytics! Directly report of Head of US Segment AI/Advanced Analytics, this role will closely work with multi-functional teams such as IT, Data Office, Operation, Sales & Distribution, etc. to strategize and implement AI/Advanced Analytics applications and deployment. It’s a unique position to bring innovative ideas (such as Gen-AI solutions) to life and have business impact directly with sound architecture, effective MLOps/LLMOps processes and comprehensive controls!

Responsibilities

• Design and implement optimal MLOps framework, standards, and guidelines, maintaining the central GitHub MLOps repository, driving adption and fostering a community around it.
• Work closely with Data Scientists, Data & Platform Engineers, Architects and IT partners to design and implement MLOps /LLMOps processes to enable seamless deployment, integration with systems and monitoring of AI models on cloud environment.
• Lead and manage high-quality Generative AI tech development (prompt engineering, RAG applications, and fine-tune LLM models to meet business need) and streamline Generative AI model development and deployment using Azure infrastructure and capabilities like Azure AI studio
• Manage and architect AI solutions and deployment with systematic approach to allow implementation at-scale
• Continually assess maturity of teams MLOps/LLM Ops tools and practices, establish and drive standard methodologies for model versioning, testing, and monitoring to ensure the reliability and performance of AI/ML solutions
• Jointly shape the global rollout of Continuous Monitoring capabilities, working closely with cloud and 3rd party vendors ensuring reliability and scalability, and maintaining comprehensive documentation of MLOps processes and procedures
• Develop close partnership with Data Science Teams, Data Office and IT partners, foster strong collaboration
• Stay up to date with the latest advancements in machine learning and MLOps /LLMOps techniques, closely follow industrial trend, and contribute to the continuous improvement of our machine learning capabilities.

What motivates you?

• You obsess about customers, listen, engage and act for their benefit.
• You think big, with curiosity to discover ways to use your agile approach and enable business outcomes.
• You thrive in teams and enjoy getting things done together.
• You take ownership and build solutions, focusing on what matters.
• You do what is right, work with integrity and speak up.
• You share your humanity, helping us build a diverse and inclusive work environment for everyone.

What we are looking for

• An advanced degree in Data Science, Computer Science, Engineering, Physics, or Statistics and Math
• Minimum of 5 years of combined experience as an ML engineer, DevOps engineer, system architect or lead data scientist in Big Data ecosystems or similar distributed or public cloud platforms.
• Proven experience as a Data/ML Engineer, with a strong focus on MLOps, design and productionize code through the DevOps pipeline (git, orchestration pipelines, code reliability security scanning ) to enable seamless deployment and monitoring of machine learning models
• 2-3 years hands-on experience with Azure tech stack, particularly Databricks and MLFlow, including Azure AI studio, Langchain, Vector stores. Experienced in Azure OpenAI and open-source models like Llama.
• Experience in deploying ML models either via native infrastructure (such as Azure DevOps etc.) or 3rd party MLOps platforms.
• Strong software development skills, familiar with C/C++/Java, proficiency in Python and SQL, hands-on experience with Azure ML, Databricks, AWS, etc.
• Experience with Generative AI, prompt engineering, and RAG applications
• Solid understanding of modern Cloud tech, bridge Data Science solution and IT system integration
• Solid understanding of machine learning algorithms, statistical modeling, and data analysis techniques.
• Strong partner management, ability to translate sophisticated technical topics into business language, presentation skills, and an ability to balance a sense of urgency with shipping high-quality and pragmatic solutions.
• Strong problem-solving skills and a passion for using AI to drive business impact

Preferred Qualifications

• Experience with LLMs (extractive and generative), fine-tuning, and operationalizing LLM pipelines.
• Familiarity with higher-level trends in LLMs and open-source platforms.
• Experience in building and maintaining a centralized code base or framework used by multiple teams will be a plus.
• Experience with infrastructure as code like Terraform.
• Excellent communication and presentation skills in English, both verbal and written.
• Bachelor's or Master's degree in Computer Science, Engineering, or a related field.

What can we offer you?

• A competitive salary and benefits packages.
• A growth trajectory that extends upward and outward, encouraging you to follow your passions and learn new skills.
• A focus on growing your career path with us.
• Flexible work policies and strong work-life balance.
• Professional development and leadership opportunities.

Our commitment to you

• Values-first culture: We lead with our Values every day and bring them to life together.
• Boundless opportunity: We create opportunities to learn and grow at every stage of your career.
• Continuous innovation: We invite you to help redefine the future of financial services.
• Delivering the promise of Diversity, Equity and Inclusion: We foster an inclusive workplace where everyone thrives.
• Championing Corporate Citizenship: We build a business that benefits all partners and has a positive social and environmental impact.

#LI-Hybrid

#LI-JH

À propos de Manuvie et de John Hancock

La Société Financière Manuvie est un chef de file mondial des services financiers qui aide les gens à prendre leurs décisions plus facilement et à vivre mieux. Pour en apprendre plus à notre sujet, rendez vous à l’adresse www.manuvie.com.

Manuvie est un employeur qui souscrit au principe de l’égalité d’accès à l’emploi

À Manuvie/John Hancock, nous embrassons notre diversité. Nous nous efforçons d’attirer, de perfectionner et de maintenir un effectif qui est aussi varié que nos clients, et de favoriser la création d’un milieu de travail inclusif qui met à profit la diversité de nos employés et les compétences de chacun. Nous nous engageons à assurer un recrutement, une fidélisation, une promotion et une rémunération équitables, et nous administrons toutes nos pratiques et tous nos programmes sans discrimination en raison de la race, de l’ascendance, du lieu d’origine, de la couleur, de l’origine ethnique, de la citoyenneté, de la religion ou des croyances ou des convictions religieuses, du genre (y compris grossesse et affection liée à une grossesse), de l’orientation sexuelle, des caractéristiques génétiques, du statut d’ancien combattant, de l’identité de genre, de l’expression de genre, de l’âge, de l’état matrimonial, de la situation de famille, d’une invalidité ou de tout autre motif protégé par la loi applicable.

Nous nous sommes donné comme priorité d’éliminer les obstacles à l’accès égalitaire à l’emploi. C’est pourquoi un représentant des Ressources humaines collaborera avec les candidats qui demandent une mesure d’adaptation raisonnable pendant le recrutement. Tous les renseignements communiqués pendant le processus de demande de mesures d’aménagement seront stockés et utilisés conformément aux lois et aux politiques applicables de Manuvie/John Hancock. Pour demander une mesure d’aménagement raisonnable dans le cadre du recrutement, écrivez à recruitment@manulife.com.

Région principale

Semaine de travail comprimée

L’échelle salariale devrait se situer entre

Si vous posez votre candidature à ce poste en dehors de la région principale, veuillez écrire à recruitment@manulife.com pour obtenir l’échelle salariale correspondant à votre région. Le salaire varie en fonction des conditions du marché local, de la géographie et de facteurs pertinents liés au poste telles les connaissances, les compétences, les qualifications, l’expérience et l’éducation ou la formation. Les employés ont également la possibilité de participer à des programmes de motivation et de toucher une rémunération incitative liée au rendement de l’entreprise et au rendement individuel.

Manuvie offre aux employés admissibles une vaste gamme d’avantages sociaux personnalisables, notamment une assurance soins médicaux, soins dentaires, santé mentale, soins de la vue, invalidité de courte et de longue durée, assurance vie et assurance DMA, assurance adoption, de maternité de substitution et de soins médicaux non urgents ainsi que des programmes d’aide aux employés et leur famille. Nous proposons également aux employés admissibles différents régimes d’épargne-retraite (y compris des régimes de rente et un programme international d’actionnariat assortie de cotisations patronales de contrepartie) ainsi que des ressources en matière d’éducation et de conseils financiers. Notre généreux programme de congés rémunérés au Canada comprend les jours fériés, les congés annuels, les congés personnels et les congés de maladie, et nous offrons toute la gamme des congés autorisés prévus par la loi. Si vous posez votre candidature à ce poste aux États-Unis, veuillez écrire à recruitment@manulife.com pour obtenir de plus amples renseignements sur les dispositions relatives aux congés rémunérés spécifiques aux États-Unis.