据OpenAI周三发布的一份报告，一个源自俄罗斯的网络利用ChatGPT推广一个伪装成学术机构的组织。该组织名为“国际伯克研究所”（International Burke Institute），声称是以色列专家团体，但其实际运营者通过俄罗斯语提示词生成社交媒体帖子和评论，多数为英语，并指示ChatGPT隐藏内容来自俄罗斯的痕迹。
OpenAI表示：“虽然该活动似乎只覆盖了相对较小的受众，但其精心构建的架构使其区别于自乌克兰战争开始以来我们破坏的其他与俄罗斯相关的影响力操作。”由于ChatGPT在俄罗斯无法使用，该组织使用虚拟专用网络（VPN）伪装位置并访问服务。
该组织利用ChatGPT创建看似官方资料和冒充普通用户的账号，推广国际伯克研究所。OpenAI发现，该研究所网站上36篇文章中有34篇系抄袭，部分文章署名给并未撰写的学者。例如，一篇关于中巴经济走廊的文章似乎抄袭自剑桥大学出版社的原文，但错误地署名给诺丁汉大学一位南亚政治学教授。
类似的政治影响力活动也曾使用生成式AI。2024年，OpenAI识别出另一个俄罗斯关联活动“Doppelganger”，该网络利用ChatGPT创建文章、社交媒体帖子和评论，赞扬俄罗斯并攻击乌克兰、北约和美国。此外，与俄罗斯军事情报相关的“Forest Blizzard”组织使用ChatGPT研究目标、编写脚本和支持钓鱼攻击。
OpenAI称，以色列可能有人代表该研究所参加会议或提交文章，但他们与活动的关系尚不明确。“我们无法确定这些个人、国际伯克研究所与俄罗斯运营者之间的关系。”OpenAI写道。