英国的一家银行近日发出警告称，数百万民众可能成为利用人工智能技术克隆人声的诈骗目标。Starling Bank表示，诈骗者仅需从社交媒体上获取三秒钟的音频，就能成功复制一个人的声音，进而利用这一技术伪装成该人的亲友进行电话诈骗，向受害者索要钱款。
该银行在与Mortar Research合作进行的一项调查中发现，超过三分之一的受访者在过去一年内曾遭遇AI语音克隆诈骗。这一结果令人震惊，尤其是在调查中，46%的受访者表示他们对此类诈骗毫不知情，8%的人即便对电话内容感到可疑，仍然会按要求汇款给所谓的“亲友”。
Starling Bank的首席信息安全官丽莎·格雷汉姆指出，许多人在网上发布的内容常常包含他们的声音录音，而这无形中让他们更加容易受到诈骗的威胁。为此，银行建议人们与亲友约定一个“安全短语”，用以在电话中核实身份，这个短语应简单易记，并与其他密码有所区别。
此外，银行还建议避免通过短信分享这一安全短语，以减少被诈骗者窃取的风险。如果必须通过短信发送，建议在对方查看后及时删除该消息。
随着AI技术的不断进步，其在模仿人声方面的能力日益增强，人们对其潜在风险的担忧也在加剧，尤其是在涉及银行账户安全和虚假信息传播的情境下。值得注意的是，OpenAI近期发布了其语音复制工具Voice Engine，但由于担忧可能被滥用，该工具并未对公众开放。
