OpenAI va lancer un « cadre de préparation » pour évaluer les risques liés à l’IA, après la réintégration de son PDG
Summary:
OpenAI, un développeur d’intelligence artificielle (IA), prévoit d’introduire un « cadre de préparation ». Ce dispositif comprend une équipe dédiée chargée d’évaluer les risques potentiels. La stratégie vise à ajouter un système de freins et contrepoids pour se protéger contre les risques possibles des modèles avancés. Le plan comprend un processus dans le cadre duquel les rapports de sécurité sont examinés, puis envoyés pour examen au niveau de l’entreprise, le nouveau cadre permettant au conseil d’administration d’annuler les décisions en matière de sécurité. Cela fait suite à une période turbulente pour OpenAI, avec le licenciement puis la réintégration du PDG Sam Altman. Dans un contexte d’intérêt et d’inquiétudes croissants du public pour l’IA, des développeurs de premier plan, dont OpenAI, ont créé le Frontier Forum pour l’autorégulation et l’administration Biden a défini de nouvelles normes de sécurité de l’IA.
OpenAI, un développeur d’intelligence artificielle (IA), a récemment divulgué son intention de lancer un « cadre de préparation ». Cette stratégie implique la formation d’une équipe dédiée visant à évaluer et à prévoir les risques potentiels. Le billet de blog récemment publié par la société, daté du 18 décembre, indiquait que cette « équipe de préparation » reliera les divisions de sécurité et de politique d’OpenAI. Ce système, qui fonctionne selon un système de freins et contrepoids, devrait servir de garde-fou contre les « risques catastrophiques » imminents déclenchés par des modèles de plus en plus sophistiqués. OpenAI a insisté sur le fait qu’elle ne déploierait sa technologie que sous l’assurance de la sécurité. La nouvelle stratégie proposée implique que le comité consultatif examine les rapports de sécurité qui seraient ensuite transmis aux dirigeants de l’entreprise et au conseil d’administration d’OpenAI pour examen. Bien que les dirigeants aient le pouvoir de rendre le verdict final, la dernière proposition accorde au conseil d’administration la flexibilité nécessaire pour annuler les décisions en matière de sécurité. Cette décision fait suite à un bouleversement qu’OpenAI a connu en novembre, marqué par le licenciement soudain et la réintégration conséquente de Sam Altman en tant que PDG. Après le retour d’Altman dans l’entreprise, OpenAI a révélé son nouveau conseil d’administration, dont Bret Taylor (président), Larry Summers et Adam D’Angelo. À la lumière des récents lancements comme ChatGPT en novembre 2022, l’intérêt du public pour l’IA a grimpé en flèche, parallèlement aux inquiétudes croissantes quant à ses dommages potentiels pour la société. En juillet dernier, les meilleurs développeurs d’IA, avec des participants tels qu’OpenAI, Microsoft, Google et Antropic, ont lancé le Frontier Forum. Ce forum se concentre sur la supervision de l’autorégulation introduite dans l’élaboration d’une IA responsable. L’administration Biden a également introduit un décret en octobre spécifiant de nouvelles restrictions de sécurité pour les organisations qui développent des modèles avancés et les exécutent. Avant la déclaration de ce décret, les principaux développeurs d’IA ont été convoqués à la Maison Blanche pour s’engager à créer des modèles d’IA sûrs et transparents, OpenAI faisant partie des participants.
Published At
12/19/2023 11:36:24 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.