OpenAI 利用其 AI 进行数字欺骗阻止在线活动
Summary:
人工智能公司OpenAI已经进行了干预，以阻止一些利用其技术进行全球舆论操纵的在线活动。在过去三个月中，该公司已停用参与此类活动的帐户。犯罪分子利用人工智能来生成评论、姓名和简历，以及出于欺骗目的翻译和编辑文本。OpenAI表示，这些秘密行动集中在各种争议上，从俄乌冲突到对中国政府的批评。该公司进一步澄清说，由于其服务，此类欺骗性活动在受众参与度或覆盖面方面并未得到任何显着提升。
著名的人工智能公司OpenAI最近破坏了多个旨在利用其人工智能技术操纵全球舆论的在线活动。5 月 30 日，由 Sam Altman 创立的 OpenAI 宣布已关闭某些与不正当影响力有关的账户。该公司证实，在过去的一个季度里，它已经阻止了五项旨在利用其模型进行在线欺骗的秘密举措。
不法分子部署了人工智能来制造出版物的评论，为社交网络帐户捏造姓名和简历，以及翻译和编辑文本。ChatGPT 的开发者 OpenAI 报告说，一项名为“Spamouflage”的操作利用他们的服务来探测社交媒体并在 X、Medium 和 Blogspot 等平台上制作多语言内容。其目的是影响公众舆论并塑造政治结果。人工智能还被用于纠正代码和管理数据库以及网站。
OpenAI 透露了一项名为“Bad Grammar”的行动，该行动针对乌克兰、摩尔多瓦、波罗的海国家和美国等国家，利用 OpenAI 模型为 Telegram 机器人提供动力并生成政治化评论。一个名为 Doppelganger 的集体使用 AI 生成各种语言的评论，将它们发布在 X 和 9GAG 上，以达到操纵舆论的目的。
该公司还提到了一个名为“国际虚拟媒体联盟”的实体，该实体利用人工智能为其相关网站撰写长篇文章、标题和网络内容。据报道，商业公司 STOIC 利用 AI 在 Instagram、Facebook、X 和相关网站上制作文章和社交媒体对话，也被 OpenAI 打乱。
根据 OpenAI 的说法，这些不同行动的帖子涉及各种主题，例如俄罗斯入侵乌克兰、加沙冲突、印度选举、西方和美国政治，以及中国持不同政见者和外国政府对中国政府的批评。
据报道，一家领先的人工智能公司首次公布了其独特的工具如何被用于在线口是心非。OpenAI 的首席研究员 Ben Nimmo 向《纽约时报》表示，他们的案例研究展示了从一些当前活跃、最普遍和持续时间最长的影响力活动中获得的例子。OpenAI 得出的结论是，由于他们的服务，这些操作似乎没有获得任何有意义的受众参与或覆盖面。
Published At
5/31/2024 7:05:18 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.