L’AI Safety Institute du Royaume-Uni s’étend aux États-Unis et révèle les résultats des tests de sécurité
Summary:
L’Institut britannique pour la sécurité de l’intelligence artificielle (IA) ouvre son premier bureau international à San Francisco, dans le but d’exploiter les talents technologiques et de s’engager auprès des principaux laboratoires d’IA. L’expansion vise à renforcer les relations avec des acteurs américains importants, favorisant ainsi la sécurité mondiale de l’IA. L’Institut a également révélé les résultats des tests de sécurité de cinq modèles d’IA avancés, montrant un potentiel pour relever les défis de la cybersécurité et des connaissances approfondies en chimie et en biologie, tout en démontrant une grande vulnérabilité aux jailbreaks simples et un besoin de supervision humaine pour des tâches complexes.
Dans le but d’étendre sa portée mondiale, l’Institute for Artificial Intelligence (AI) Safety du Royaume-Uni va ouvrir une succursale à l’étranger aux États-Unis. La secrétaire britannique à la Technologie, Michelle Donelan, a annoncé la nouvelle le 20 mai, indiquant que San Francisco avait été choisi comme site pour le premier bureau à l’étranger, qui devrait ouvrir ses portes cet été. Le positionnement stratégique de l’institut à San Francisco offre au Royaume-Uni l’occasion d’exploiter les nombreux talents technologiques de la région de la baie et de s’engager dans l’un des plus grands laboratoires d’IA situés entre Londres et San Francisco. L’institut a exprimé son espoir de renforcer les relations avec des acteurs américains importants, encourageant la sécurité mondiale de l’IA orientée vers l’intérêt public. L’AI Safety Institute, basé à Londres, compte 30 employés prêts à se développer et à acquérir plus de connaissances, principalement en ce qui concerne l’évaluation des risques pour les modèles d’IA de pointe. Donelan a considéré cette prolongation comme un témoignage de la vision pionnière et stratégique du Royaume-Uni en matière de sécurité de l’IA. Elle a réitéré l’engagement du pays à étudier les risques et les avantages potentiels de l’IA à l’échelle mondiale, à renforcer le lien avec les États-Unis et à ouvrir la voie à d’autres nations pour approfondir leur expertise. Cette annonce fait suite à l’important sommet sur la sécurité de l’IA, qui s’est tenu à Londres en novembre 2023. Le sommet, le premier du genre, s’est concentré sur la sécurité de l’IA à l’échelle mondiale. D’éminents dirigeants du monde entier, tels que le président de Microsoft, Brad Smith, le PDG d’OpenAI, Sam Altman, le PDG de Google et de DeepMind, Demis Hassabiss, Elon Musk, ainsi que des dirigeants des États-Unis et de la Chine, ont honoré l’événement. Le Royaume-Uni a également divulgué certains des résultats des tests de sécurité précédents de l’institut sur cinq modèles d’IA avancés ouverts au public. Les modèles ont été anonymisés et les résultats représentent un aperçu des capacités du modèle plutôt que de les considérer comme sans risque ou dangereux. Certains des résultats ont révélé que si certains modèles étaient équipés pour résoudre les problèmes de cybersécurité, ils étaient aux prises avec les plus difficiles. Quelques modèles ont montré une connaissance approfondie de la chimie et de la biologie au niveau du doctorat. Cependant, tous les modèles examinés ont montré une forte susceptibilité aux jailbreaks simples et un besoin de supervision humaine pour des tâches complexes et chronophages. Ian Hogearth, président de l’institut, affirme que ces évaluations aideront à évaluer empiriquement les capacités des modèles, nous rappelant que la sécurité de l’IA reste un domaine naissant et en développement, et que ces résultats ne représentent qu’un segment de l’approche d’évaluation mondiale dont l’AISI est le pionnier.
Published At
5/20/2024 1:00:21 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.