埃隆·马斯克的人工智能聊天机器人 Grok 于本周推出了一项新功能，允许用户根据文本提示生成人工智能图像并将其发布到社交媒体平台 X。然而，这项新功能迅速引发了争议，因为用户开始利用它创建并分享虚假的、逼真的政治人物图像，包括前总统唐纳德·特朗普和副总统卡马拉·哈里斯的图像，其中一些图像描绘了令人不安的场景。
与其他主流的人工智能图像生成工具不同，马斯克的人工智能初创公司 xAI 创建的 Grok 似乎缺乏有效的防护措施。例如，在测试中，CNN 发现 Grok 能够轻松生成可能误导选民的虚假政治家图像，以及马斯克本人在公园吃牛排等无害但逼真的图像。一些用户利用 Grok 创建了包括知名人士吸毒、暴力场景以及性感女性形象在内的虚假图像。这些图像的传播引发了对人工智能可能在互联网上制造大量虚假或误导性信息的担忧，尤其是在即将到来的美国总统大选之前。
马斯克在 X 上回应了用户对 Grok 的称赞，称其为“世界上最有趣的人工智能”，并未对工具可能带来的误导性内容表示担忧。与此形成对比的是，其他人工智能公司，如 OpenAI、Meta 和微软，已经采取了措施，防止其图像生成工具被滥用于政治错误信息，并通过技术或标签帮助观众识别 AI 制作的图像。
目前尚不清楚 X 平台是否有明确的政策禁止 Grok 生成误导性的政治图像。虽然 X 平台有一项政策禁止分享可能欺骗或混淆公众的合成或操纵媒体，但政策的执行情况仍有待观察。
此次 Grok 图像工具的发布恰逢马斯克因在 X 平台上传播与总统选举相关的虚假和误导性信息而受到批评。其他 AI 图像生成工具也面临类似的批评和挑战，例如谷歌和 Meta 的 AI 工具因种族问题而受到指责。
尽管 Grok 似乎在某些情况下对内容生成有所限制，但这些限制并未得到一致执行，进一步加剧了对该工具潜在滥用的担忧。
