美官员：中伊及以色列团体利用中国开源AI模型发动未见的社媒影响力运动
近几个月来，伊朗、中国以及以色列境内的团体以新颖的方式利用人工智能，在社交媒体上发起了前所未有的影响力运动，这加剧了美国官员和安全研究人员对人工智能这项快速发展技术的担忧。
发表时间： 更改时间：
16 分钟 浏览时间
据《纽约时报》援引知情的美国官员和安全研究人员报导称，这些国家和团体结合了人工智能手段，在极少需要人工干预的情况下，大幅提升了网络影响力运动的速度与规模，使其远超仅靠人力所能轻易实现的水平。
报导指，首先，这些国家和团体转向了中国的“开源”人工智能模型——这类系统功能日益强大，且可供免费下载和修改。随后，他们利用这些人工智能模型创建了智能体（agents），即能够自主操作软件并完成工作的机器人。
上述美国官员和安全研究人员称，一旦数百个此类人工智能智能体被投入使用，它们便开始在Instagram、脸书、X和TikTok等平台上自主建立虚假账户网络。接着，这些智能体迅速利用虚假账户发布有关政治和时事的虚假内容，旨在左右舆论并激化事态。
这些美国官员称，这是由中国模型支持的人工智能智能体首次被用于执行影响力运动的各个环节——从创建虚假账户到协调网上的信息发布。这些官员补充道，在大多数情况下，系统操作者关闭了旨在阻止人工智能模型创建虚假账户或操纵网络讨论的安全防护机制。
据知情人士透露，这些具有“智能体”的影响力运动虽然手段粗糙，却引起了美国情报机构、大型科技公司及安全专家的关注。这些机构随后着手调查幕后主使及其运作手法，结果发现，来自中国和伊朗的运动有国家背景，而两项源自以色列的影响力运动则被追溯到了私营企业。
这些网络影响力运动引发了人们的担忧：公开可用的人工智能模型可能被用来在很大程度上自主开展网络舆论影响活动。一些美国官员表示，担心在11月中期选举前，类似的手段可能会被用来针对美国选民。
报导称，在过去的选举周期中，俄罗斯、伊朗和中国都曾针对美国选民开展网络影响力活动，且各自都使用了至少处于初级阶段的人工智能技术。一些美国官员和立法者担心，人工智能技术的最新进展可能会导致针对美国乃至全球的选举影响力运动变得更加频繁，且更易于策划实施。
近几周，关于人工智能安全性的争论愈演愈烈，这在一定程度上源于7月份披露的一起事件：OpenAI的人工智能系统出现“失控”行为，并入侵了初创公司“拥抱脸”（Hugging Face）。此后，包括Anthropic首席执行官阿莫代（Dario Amodei）在内的行业领军人物纷纷呼吁放缓人工智能的发展步伐，以便建立适当的安全防护机制。然而，也有其他科技界高管认为无需放缓开发，并指责Anthropic此举意在巩固其自身势力。
TikTok和拥有脸书及Instagram的Meta在今年发布的报告中指出，人工智能正被用于在其平台上创建账户和生成内容。Meta在上月的一份报告中表示，已观察到恶意行为者利用人工智能进行尝试的“技术性重大进展”；该公司识别出了伊朗和以色列利用人工智能开展的运动，但未提供具体细节。Meta在报告中称，人工智能现已“嵌入到自动化系统中，能够以极少的人工干预生成、调整并分发内容”。
长期以来，人工智能一直被用于制作具有误导性的视频和文本，以及生成逼真的照片。但安全研究人员指出，那些使用人工智能智能体的网络影响力运动引人注目。
与OpenAI和Anthropic等公司开发的封闭式模型——其底层代码不公开——不同，开放式模型可以在私有硬件上运行，这意味着没有任何公司能够介入并强制关闭这些系统。
官员和安全研究人员表示，由伊朗政府支持的网络影响力运动尤其令人担忧。伊朗将目标对准了美国受众，利用智能体生成的虚假账户冒充居住在美国各大城市的普通民众。
据知情人士透露，这些账户在评论中标记记者和政界人士，传播热门网络梗图以及反共和党的观点。这些由人工智能创建的账户在今年上半年保持活跃，吸引了近8万名关注者。Axios新闻网此前曾报道过该伊朗影响力运动网络的部分情况。
情报与安全官员未透露关于这项中国影响力运动的更多细节，仅表示该运动也尝试了同样的人工智能策略。据两名知情人士透露，在两项被追溯至以色列公司的智能体影响力运动中，其中一项是由IntelEye在今年夏季发起的；这是一家位于特拉维夫的公司，由曾效力于NSO集团——一家被美国列入黑名单的间谍软件公司——的前员工于2023年创立。
一位获悉了IntelEye相关影响力运动情况的美国安全官员表示，该公司的活动在今年早些时候引起了社交媒体公司和美国情报部门的注意。该运动利用人工智能智能体在脸书、Instagram、TikTok和X平台上创建了数千个账户；这些账户针对讨论以色列下月全国大选的帖子和评论进行互动。该官员称，这些账户发布的内容既有支持也有反对以色列总理内塔尼亚胡的言论。
IntelEye联合创始人塞莱克（Maor Sellek）在受访时表示，公司确实利用中国开源人工智能模型DeepSeek来操控社交媒体上的数千个账户，但他强调，这只是一项旨在测试人工智能模型安全性的实验。
塞莱克宣称：“IntelEye并不从事影响力运动，我们与DeepSeek的工作是出于防御性研究和测试的目的，旨在了解缺乏足够安全防护措施的模型可能如何被滥用，并改进对此类活动的检测能力”。
塞莱克说，IntelEye购买了1万个社交媒体账户供人工智能智能体控制，其中约1000个处于活跃状态。他说，这些账户在视频或帖子下发表评论，并试图与他人展开对话，但收效甚微。
塞莱克还补充道，这些账户发布的提示词和话题均由人工智能模型选定。他表示，事后看来，IntelEye本应告知社交媒体公司其正在进行这些测试。
Meta的一位发言人指出：“这似乎是一次跨平台创建虚假账户的协同尝试。其中只有极少数账户存在于我们的平台上，且我们已通过自动检测系统主动清除了绝大多数此类账户”。
Meta在上月的报告中提及了另一项由“一家位于以色列的商业运营者”开展的运动。Meta未透露该机构的名称或提供其他信息，但表示该运动利用人工智能实施了“相当复杂的部署”。
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.