Chercheur principal / Principal Researcher
Microsoft
Montreal, QC, Canada
Le groupe Microsoft Applied Sciences conçoit et développe des technologies disruptives pour les produits matériels de nouvelle génération de Microsoft. Il travaille sur plusieurs projets passionnants qui façonneront la manière dont les ordinateurs et autres appareils perçoivent l’utilisateur ainsi que son environnement. Cette équipe collabore étroitement avec plusieurs équipes de recherche et de produits afin de proposer sur le marché des expériences innovantes et convaincantes. Bon nombre de ces expériences reposent sur l’apprentissage automatique (machine learning) – et, au sein de cette équipe, vous aurez l’opportunité unique de travailler sur presque tous les aspects d’un projet de machine learning, de l’idéation à la mise en production. Vous aurez l’occasion de transformer des idées en solutions concrètes ayant un impact réel à l’échelle de Microsoft.
En tant que Chercheur principal (Principal Researcher), vous aurez l’opportunité de concevoir et de diriger la mise en œuvre de modèles de langage et multimodaux de pointe afin de transformer les produits et les expériences à l’échelle de Microsoft. Vous collaborerez avec des experts reconnus dans leur domaine, issus de toute l’organisation, et verrez vos idées se concrétiser en solutions réelles à fort impact. Il s’agit d’un rôle opérationnel (« hands-on »).
La mission de Microsoft est de donner à chaque personne et à chaque organisation les moyens d’accomplir davantage. En tant qu’employés, nous adoptons un état d’esprit de croissance, innovons pour donner les moyens d’agir aux autres et collaborons pour atteindre nos objectifs communs. Chaque jour, nous nous appuyons sur nos valeurs de respect, d’intégrité et de responsabilité afin de créer une culture inclusive où chacun peut s’épanouir au travail et au-delà.
The Microsoft Applied Sciences Group incubates disruptive technologies for Microsoft’s next-gen hardware products and is working on several exciting projects that will shape how computers and other devices perceive the user and the user’s environment. This team works closely with several research and product teams to bring compelling new experiences to the market. A lot of these experiences are powered by machine learning – and as part of this team, you will have the unique opportunity to work on almost every aspect of a machine learning project - from ideation to shipping. You will have the opportunity to turn ideas into reality with real-world impact at Microsoft scale.
As Principal Researcher you will have the opportunity to design and lead the implementation of state-of-the-art language and multimodal models to transform products and experiences at Microsoft scale. You will have the opportunity to collaborate with people at the forefront of their field from across the organization and see your ideas turn ideas into reality with real-world impact at Microsoft scale. This is a hands-on role.
Microsoft’s mission is to empower every person and every organization on the planet to achieve more. As employees we come together with a growth mindset, innovate to empower others, and collaborate to realize our shared goals. Each day we build on our values of respect, integrity, and accountability to create a culture of inclusion where everyone can thrive at work and beyond.
Responsibilities
Recherche axée sur les modèles de fondation (foundation models) : conception et apprentissage de modèles de langage et multimodaux (ainsi que leurs adaptations) à l’aide de techniques telles que le fine-tuning supervisé, la distillation, l’apprentissage par renforcement et l’adaptation à faible rang (LoRA).
Recherche sur l’interaction avec l’environnement : définition et vérification de politiques, et alignement des modèles avec les intentions humaines.
Implémentation : entraîner, distiller et affiner des modèles de langage et de vision à l’aide de PyTorch, DeepSpeed et de la stack Azure ML.
Architecture de modèles : concevoir de nouvelles architectures de modèles optimisées pour une inférence efficace tout en maintenant un haut niveau de qualité.
Data science : concevoir et développer des stratégies de génération de données synthétiques.
Veille et diffusion scientifique : suivre activement l’état de l’art, partager les dernières avancées, rédiger des publications, participer à des conférences et diffuser les connaissances au sein de l’équipe.
Research focusing on foundation models – Designing and training language and multimodal models (and finetunes) with supervised finetuning, distillation, reinforcement learning, low-rank adaptation.
Research focusing on environment interaction, policy specification and verification and human intent alignment.
Implementation: Train, distill, and finetune language and vision models in PyTorch, DeepSpeed, AzureML stack.
Designing novel model: architectures geared towards efficient inference while maintaining quality
Data science - Research and develop synthetic data generation strategies.
Proactively follow state of the art research and share latest work, write papers, attend conferences and share knowledge in the wider team.
Qualifications
Qualifications requises :
- Doctorat dans un domaine pertinent ET 3+ années d’expérience en recherche connexe
OU maîtrise dans un domaine pertinent ET 4+ années d’expérience en recherche connexe
OU baccalauréat dans un domaine pertinent ET 6+ années d’expérience en recherche connexe - OU expérience équivalente.
Autres exigences :
- Capacité à satisfaire aux exigences de vérification de sécurité de Microsoft, des clients et/ou des organismes gouvernementaux. Ces exigences incluent notamment les vérifications spécialisées suivantes :
- Vérification des antécédents Microsoft Cloud : Ce poste exige la réussite de cette vérification lors de l’embauche ou d’un transfert, puis tous les deux ans par la suite.
Qualifications souhaitées :
- 3+ années d’expérience dans l’entraînement et/ou le fine-tuning de grands modèles de langage (LLM) et multimodaux, ainsi que dans la distillation vers des modèles plus compacts
- 3+ années d’expérience avec Python et des bibliothèques de deep learning
- Dossier avéré de publications dans des conférences ou revues de premier plan (ICLR, ACL, EMNLP, ICML, CVPR, ICCV, ECCV, NeurIPS, TPAMI, etc.)
- Expérience dans la création de bibliothèques et de packages logiciels réutilisables
- Expérience en curation de données, génération de données via prompting de LLMs de pointe et/ou alignement de modèles
- Expérience avec des bibliothèques d’apprentissage par renforcement ou avec des méthodes formelles et la vérification (atout)
- Capacité démontrée et passion pour incubuer de nouvelles idées, résoudre des problèmes et développer des systèmes fonctionnels
Required Qualifications:
- Doctorate in relevant field AND 3+ years related research experience OR Master's Degree in relevant field AND 4+ years related research experience OR Bachelor's Degree in relevant field AND 6+ years related research experience
- OR equivalent experience.
Other Requirements: Ability to meet Microsoft, customer and/or government security screening requirements are required for this role. These requirements include but are not limited to the following specialized security screenings:
- Microsoft Cloud Background Check: This position will be required to pass the Microsoft Cloud background check upon hire/transfer and every two years thereafter.
Preferred Qualification:
- 3+ years' experience training and/or finetuning large language & multimodal models and distillation to small models.
- 3+ years' experience with Python and deep learning libraries
- Demonstrated record of publications in top-tier conferences or journals (ICLR, ACL, EMLP, ICML, CVPR, ICCV, ECCV, NeurIPS, TPAMI, etc.).
- Experience in creating reusable software libraries and packages.
- Experience using dataset curation, data generation using prompting state of art LLMs and/or model alignment.
- Experience with reinforcement learning libraries or formal methods and verification is a plus.
- Demonstrated ability and passion for incubating new ideas, solving problems, and building working systems.
#W+DJOBS
#AI
#LLM
#Efficiency
#W+D
Research Sciences IC5 - The typical base pay range for this role across Canada is CAD $142,400 - CAD $257,500 per year.
Find additional pay information here:
https://careers.microsoft.com/v2/global/en/canada-pay-information.html
Research Sciences IC5 - L'échelle salariale de base typique pour ce rôle dans l'ensemble du Canada est de 142,400 $ CAD à 257,500 $ CAD par année.
Pour plus d'information au sujet de la rémunération, veuillez cliquer ici:
https://careers.microsoft.com/v2/global/en/canada-pay-information.html
Ce poste sera ouvert pendant au moins cinq jours et les candidatures seront acceptées de façon continue jusqu’à ce que le poste soit pourvu.
This position will be open for a minimum of 5 days, with applications accepted on an ongoing basis until the position is filled.
Microsoft est un employeur offrant l’égalité d’accès à l’emploi. Tous les candidats qualifiés seront pris en considération pour l’emploi, sans égard à l’âge, à l’ascendance, à la citoyenneté, à la couleur, aux congés médicaux ou familiaux, à l’identité ou à l’expression de genre, aux renseignements génétiques, à l’état d’immigration, à l’état matrimonial, à l’état de santé, à l’origine nationale, à un éventuel handicap physique ou mental, à l’affiliation politique, au statut de vétéran protégé ou au statut militaire, à la race, à l’ethnie, à la religion, au sexe (y compris la grossesse), à l’orientation sexuelle ou à toute autre caractéristique protégée par les lois, ordonnances et règlements locaux applicables. Si vous avez besoin d’aide avec des accommodements religieux et/ou d’un accommodement raisonnable en raison d’un handicap pendant le processus de candidature, apprenez-en plus sur la demande d’accommodement.
Microsoft is an equal opportunity employer. All qualified applicants will receive consideration for employment without regard to age, ancestry, citizenship, color, family or medical care leave, gender identity or expression, genetic information, immigration status, marital status, medical condition, national origin, physical or mental disability, political affiliation, protected veteran or military status, race, ethnicity, religion, sex (including pregnancy), sexual orientation, or any other characteristic protected by applicable local laws, regulations and ordinances. If you need assistance with religious accommodations and/or a reasonable accommodation due to a disability during the application process, read more about requesting accommodations.