Les dirigeants d’OpenAI contestent les critiques en matière de sécurité suite à la démission du responsable de la sécurité
Summary:
Le PDG d’OpenAI, Sam Altman, et le président Greg Brockman ont discuté publiquement de la récente démission du responsable de la sécurité, Jan Leike, sur une plateforme en ligne, X.com. Leike avait accusé l’entreprise de donner la priorité aux produits plutôt qu’aux mesures de sécurité. En réponse aux allégations, les dirigeants de la société ont affirmé qu’OpenAI s’engageait à amplifier les mesures de sécurité. Brockman a précisé la stratégie en trois volets de l’entreprise pour l’alignement de la sécurité et a déclaré que les délais de publication pourraient être retardés pour des raisons de sécurité. Altman, tout en concédant certains des points de Leike, a assuré un engagement continu à maintenir les normes de sécurité.
Le PDG et le président d’OpenAI, Sam Altman et Greg Brockman respectivement, se sont rendus sur une plateforme en ligne le X.com pour discuter ouvertement du récent départ de Jan Leike, un responsable clé de la sécurité qui a servi l’entreprise. Selon un récent rapport de Cointelegraph, Leike a dirigé le département de l’alignement avant de remettre sa démission le 17 mai en invoquant des désaccords avec l’équipe de direction de l’entreprise. D’après son compte @janleike X.com, il a déclaré que les produits sur papier glacé d’OpenAI ont éclipsé ses protocoles et processus de sécurité.
Altman et Brockman n’ont pas tardé à répondre à ces allégations, partageant leurs réponses sur X.com dans la journée qui a suivi le post de Leike. Brockman, dans son long discours, a présenté un plan tripartite pour maintenir l’alignement de la sécurité au sein de l’entreprise. Tout en louant les contributions de Leike, il a rejeté l’idée qu’OpenAI mettait de côté les considérations de sécurité. Selon @gdb sur X.com, « Nous avons amplifié la prise de conscience des risques et des perspectives liés à l’AGI », a commencé Brockman, affirmant que la société exigeait un contrôle mondial sur l’AGI avant qu’elle ne devienne une tendance.
« De plus, nous avons commencé à définir les bases nécessaires à l’utilisation sûre de systèmes de plus en plus avancés. Établir la sécurité d’une nouvelle technologie n’est pas une tâche simple », a-t-il ajouté. Il a conclu en mettant en garde contre les défis futurs, insistant sur la nécessité d’élever les efforts de sécurité d’OpenAI pour correspondre à l’importance de chaque nouveau modèle.
Il a indiqué que l’entreprise ne suit pas la norme technologique de progrès rapide et de perturbation. Il a déclaré : « Nous ne savons pas quand nous atteindrons nos normes de sécurité pour le lancement, même si cela entraîne des retards dans les délais de publication. »
D’autre part, Sam Altman, le PDG et cofondateur, a gardé sa réponse courte mais a laissé entendre qu’il discuterait davantage de la question à l’avenir. Se référant aux plaintes de Leike, Altman a concédé : « Il a raison. Nous avons encore beaucoup de travail à faire ; et nous nous engageons à l’entreprendre ».
À la suite d’une proposition d’accord de partage de données avec OpenAI, les actions de Reddit ont chuté après le marché.
Published At
5/19/2024 7:04:24 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.