Washington, le 21 octobre /QNA/ La société Anthropic a proposé un nouveau cadre législatif visant à réglementer la sécurité de l’Intelligence Artificielle (IA) aux États-Unis. Celui-ci prévoit la possibilité de suspendre le lancement de modèles avancés s’ils présentent un risque imminent susceptible d’entraîner la mort ou des blessures graves de plus de 50 personnes, ou de provoquer des dommages matériels dépassant un milliard de dollars.
Selon le site Politico, le projet de loi prévoit des cas précis dans lesquels il serait possible d’intervenir pour empêcher le déploiement ou l’utilisation de modèles d’IA, notamment lorsque le risque est lié à la création d’armes biologiques, au lancement de cyberattaques ou au contournement, par les modèles, des mesures de sécurité mises en place par leurs développeurs.
Le projet propose également de soumettre les entreprises d’Intelligence Artificielle à des évaluations périodiques réalisées par des évaluateurs indépendants enregistrés auprès du département américain du Commerce. Les entreprises seraient autorisées à financer ces évaluations, à condition que la rémunération des évaluateurs ne soit pas liée à leurs conclusions.
Selon la proposition, les évaluateurs seraient tenus d’informer le département américain du Commerce dans un délai de 72 heures après avoir identifié l’existence d’un risque catastrophique imminent. Le département pourrait alors demander une ordonnance judiciaire afin de suspendre le lancement ou l’utilisation du modèle. Le projet empêcherait, en revanche, les autres organismes fédéraux de prendre unilatéralement une telle décision sans saisir la justice.
Les critères proposés sont similaires à certaines dispositions de la législation de l’État de Californie relatives aux risques catastrophiques liés à l’Intelligence Artificielle.
Un porte-parole d’Anthropic a indiqué que le projet reflète les propositions figurant dans le cadre élaboré par l’entreprise pour la sécurité de l’IA avancée, précisant que celle-ci appelle, depuis juin dernier, les législateurs aux niveaux fédéral et des États à adopter de telles mesures.