[Sorbonne Université ] MCF en Éthique, Confiance, Équité et Robustesse dans l'Intelligence Artificielle
Victoria Eyharabide
Le (la) MCF devra rejoindre le département d’Informatique, Mathématiques et de Linguistique appliquées (actuellement 2 PRAG, 5 MCF et 2 PR) de l’UFR de Sociologie et d'Informatique pour les Sciences Humaines. Ce département participe à des formations pluridisciplinaires de licence (Sciences du langage option informatique) et de master (spécialité Langue et Informatique). Il est également chargé de l’enseignement de Pix (compétences numérique) pour les étudiants de la Faculté des Lettres. Le poste mettra l'accent sur les dimensions éthiques et sociétales de l'IA, en lien avec les sciences humaines et sociales, dans le cadre des enseignements au sein de la Faculté des Lettres de Sorbonne Université. Le candidat devra également démontrer une compréhension avancée des méthodes de l’état de l’art en matière de fiabilité des modèles génératifs, notamment dans les contextes de génération de texte ou de contenu multimodal.
Le candidat participera à l’enseignement dans les formations suivantes : Licence en Sciences du Langage, option Informatique, Master en Langue et Informatique, avec des modules spécifiques sur les questions éthiques et sociétales, l’explicabilité, la confiance dans l’IA et la détection des hallucinations génératives, Enseignements transversaux dans le cadre du programme Pix (compétences numériques) pour les étudiants de la Faculté des Lettres
Ce poste de Maître de Conférences à pourvoir requiert un haut niveau d’excellence scientifique dans le domaine de l’éthique, de la confiance, de l'équité et de la robustesse dans l'Intelligence Artificielle
Le candidat devra démontrer des compétences reconnues dans les aspects critiques et sociétaux de l’IA de confiance, avec une expertise particulière dans les champs suivants : Explicabilité et interprétabilité des systèmes d'IA, IA de confiance : conception d’algorithmes garantissant sécurité et robustesse, Gestion de l’incertitude dans l’IA, Détection et modélisation des hallucinations génératives, Choix social computationnel et prise de décision équitable. Le candidat sera rattaché à l’équipe de Linguistique Computationnelle du laboratoire Sens Texte Informatique Histoire (STIH, EA 4509), et mènera des recherches sur les enjeux éthiques et techniques associés à l’IA générative, notamment en ce qui concerne la confiance et la fiabilité des modèles. Les axes de recherche privilégiés incluront :
Éthique de l’IA : analyse des enjeux éthiques liés à l’utilisation des systèmes d’IA, avec un accent particulier sur la confiance, l’équité et l’impact sociétal.
Confiance, transparence et explicabilité : exploration des mécanismes d’explicabilité et de transparence des modèles d’IA, permettant de renforcer la confiance des utilisateurs dans les systèmes, développement de modèles d’IA explicables, capables de garantir une prise de décision éthique, transparente et sans biais.
Fiabilité et robustesse des systèmes d’IA : développement de méthodes pour assurer la fiabilité des modèles d’IA, en particulier ceux basés sur des architectures de langage génératif.
Détection des hallucinations génératives : recherche de nouvelles approches pour identifier les hallucinations ou les fabrications non intentionnelles dans les modèles d’IA générative, avec une attention particulière pour les mesures d’entropie sémantique et d’autres techniques de détection d’incohérences.
Équité et biais algorithmiques : évaluation et correction des biais dans les modèles d’IA afin d’assurer une prise de décision équitable, en particulier dans des contextes sensibles ou critiques pouvant nuire à certaines populations, développement de modèles garantissant des décisions justes et inclusives.
Les aspects écologiques (IA frugale), normatifs et sociaux devront être au cœur des projets de recherche du candidat. Celui-ci devra présenter un programme de recherche s’insérant dans ces thématiques en réponse aux enjeux contemporains liés à la confiance, l’équité et la sécurité dans l'IA.
Sorbonne University invites applications for a full-time Associate Professor position in Trustworthy and Ethical Artificial Intelligence, within the Department of Computer Science, Mathematics, and Applied Linguistics (Faculty of Arts and Humanities). The department offers interdisciplinary undergraduate and graduate programs in Language Sciences and Computer Science, and delivers digital literacy training through the Pix program.
Teaching
The successful candidate will teach at undergraduate and graduate levels, in close interaction with the humanities and social sciences. Teaching responsibilities include: Courses in the Bachelor’s program in Language Sciences (Computer Science track); Courses in the Master’s program in Language and Computer Science, covering AI ethics, explainability, trust and reliability, and generative AI hallucination detection; Cross-disciplinary teaching in digital literacy (Pix). Candidates should demonstrate a strong understanding of state-of-the-art methods for evaluating and improving the reliability of generative AI systems, particularly in text and multimodal generation.
Research
Applicants must demonstrate excellent research potential and a clear trajectory toward international visibility in ethical, trustworthy, fair, and robust AI. Research interests may include (but are not limited to): Explainable and interpretable AI; Trustworthy AI: safety, robustness, and uncertainty modeling; Generative AI reliability and hallucination detection; Computational social choice and fair decision-making; Fairness and bias mitigation in AI systems. The position is affiliated with the Computational Linguistics team of the STIH research laboratory (EA 4509). The successful candidate is expected to develop an independent research agenda, contribute to collaborative projects, and integrate ethical, societal, and environmental (frugal AI) considerations into their research.
Contacts : Claude....@sorbonne-universite.fr, maria-victor...@sorbonne-universite.fr