La Chine adopte de nouvelles règles éthiques pour les activités scientifiques en intelligence artificielle
La Chine publie des mesures d'éthique pour encadrer les activités scientifiques et technologiques liées à l'IA.
La Chine a récemment introduit des règles éthiques provisoires pour encadrer les activités scientifiques et technologiques liées à l'intelligence artificielle (IA). Ces nouvelles mesures, émises par le ministère de l'Industrie et des Technologies de l'information en collaboration avec neuf autres départements, visent à renforcer la gouvernance éthique dans le domaine de l'IA.
Des règles couvrant tous les aspects des activités en IA
Intitulées " Mesures pour l'examen et les services d'éthique en science et technologie de l'IA (Essai) ", ces directives établissent des procédures d'examen éthique pour les activités scientifiques et technologiques en IA menées en Chine. Elles s'appliquent aux activités susceptibles de poser des risques éthiques liés à la dignité humaine, à l'ordre public, à la vie et à la santé, à l'environnement écologique ou au développement durable.
Les mesures insistent sur l’intégration des exigences éthiques tout au long du processus des activités en IA. Elles énoncent des principes fondamentaux tels que la promotion du bien-être humain, le respect de la vie et des droits, l'équité et la justice, le contrôle raisonnable des risques, la transparence, la protection de la vie privée et la fiabilité.
Soutenir l'innovation responsable
Le texte souligne également l’importance d’un soutien accru pour garantir une innovation sûre et responsable. Il appelle à l’amélioration des normes éthiques en matière d’IA, incluant des standards internationaux, nationaux, industriels et de groupe. Les mesures incluent des initiatives pour renforcer la surveillance des risques, les tests, les certifications et les services de conseil.
Par ailleurs, des actions spécifiques sont prévues pour aider les petites et micro-entreprises, promouvoir l'ouverture ordonnée des ensembles de données de haute qualité, développer des outils d'évaluation des risques et d'audit, et former des talents spécialisés en éthique de l'IA.
Rôles des institutions et comités d’éthique
Les universités, les institutions de recherche, les établissements médicaux et sanitaires, ainsi que les entreprises impliquées dans des activités d'IA sont désormais tenus de gérer les examens éthiques au sein de leurs propres organisations. Ces entités doivent également établir des comités d’éthique dédiés.
En complément, les autorités locales et départements concernés peuvent mettre en place des centres spécialisés offrant des services d'examen, de réexamen, de formation et de conseil. Cependant, ces centres ne sont pas autorisés à réaliser à la fois l’examen initial et le réexamen pour une même activité d’IA.
Procédures et délais d’examen
Les règles détaillent plusieurs procédures d’examen, incluant des processus généraux, simplifiés, d’expertise pour réexamens, et des procédures d’urgence. Les décisions d’examen ordinaire doivent être rendues dans un délai de 30 jours après acceptation, bien que ce délai puisse être prolongé pour les cas complexes. En situation d'urgence, un examen doit être finalisé dans un délai de 72 heures.
Une attention particulière est portée sur les systèmes intégrés homme-machine ayant une forte influence sur le comportement humain, les émotions ou la santé, ainsi que sur les modèles algorithmiques et systèmes capables de mobiliser ou guider la conscience sociale. Les systèmes de décision automatisés hautement autonomes utilisés dans les scénarios présentant des risques pour la sécurité ou la santé font également l’objet d’une surveillance stricte.
Sanctions pour les violations
Les violations des mesures peuvent être examinées et sanctionnées en vertu de lois existantes, telles que la Loi sur la cybersécurité, la Loi sur la sécurité des données, la Loi sur la protection des informations personnelles et la Loi sur le progrès scientifique et technologique. Selon le texte, ces nouvelles règles prennent effet immédiatement après leur publication.
En adoptant ces directives, la Chine réaffirme son engagement en faveur d'un développement éthique et responsable des technologies d'intelligence artificielle, dans un contexte de progrès rapide et de préoccupations croissantes quant à leur impact sociétal.
Yohann B.
