Résumé :
Les systèmes d'IA basés sur l'apprentissage profond ont fait des avancées spectaculaires dans les dernières années. Si on continuait sur cette lancée, cela pourrait révolutionner la science, les technologies et bouleverser la société en bien ou en mal. Les risques qui me semblent les plus inquiétants pour la survie de la démocratie et de l'humanité pourraient être regroupés en ces trois catégories: (1) utilisations volontairement dangereuses de l’IA, (2) concentration excessive du pouvoir menaçant la démocratie, les droits humains et la stabilité géopolitique, et (3) perte de contrôle d’IAs suffisamment compétentes dans l’atteinte de leurs objectifs pour mettre la société et l’humanité en danger. Cette présentation résumera les concepts pertinents à la compréhension et la mitigation de ces risques: ce qui manque pour atteindre l'intelligence de niveau humain, ce qui pourrait mener à la dépasser, la ruée vers l'or en cours, l'enjeu de l'alignement (entre nos intentions et les comportements de l'IA) et du piratage de récompense (reward hacking), et la nécessité d'une gouvernance démocratique beaucoup plus grande au fur et à mesure que les capacités de l'IA avancent.
Biographie:
Yoshua Bengio est professeur titulaire au département d’informatique et de recherche opérationnelle de l’Université de Montréal, fondateur et directeur scientifique de Mila et directeur scientifique d’IVADO. Reconnu mondialement comme l’un des plus grands experts en intelligence artificielle et en apprentissage profond, il est colauréat, avec Geoff Hinton et Yann LeCun, du Prix A.M. Turing 2018, considéré comme le ' prix Nobel de l'informatique'.
Il est à la fois Fellow de la Royal Society de Londres et de la Société Royale du Canada, Chevalier de la Légion d’honneur en France, Officier de l’Ordre du Canada, membre du Conseil scientifique consultatif de l’ONU pour les percées de la science et de la technologie et titulaire d’une chaire en IA Canada-CIFAR
