随着2024年美国大选的临近，识别深度伪造声音的显著进展已浮出水面。 Hiya是一家以电话筛选和欺诈检测能力而闻名的公司，推出了一款免费的Chrome扩展工具，旨在帮助用户评估音频和视频内容中的声音真实性。这个名为Hiya Deepfake Voice Detector的扩展工具能够分析音频输入，并提供一个分数，指示声音真实或伪造的可能性。
根据Hiya的说法，经过广泛测试，这个工具的准确率超过了99%。 该检测器能够识别由最新AI技术合成的声音，即使这些声音之前没有被模型遇到过。
在初步测试中，用户发现该扩展工具有效地突出显示了AI生成的声音。例如，一段关于布鲁斯传奇人物Howlin’ Wolf的AI叙述的热门YouTube视频获得了较低的真实性分数，证实了有关操控的怀疑。
Hiya的领导层批评社交媒体平台未能对可能误导用户的内容承担足够的责任。 该公司强调，个人必须意识到与AI操控相关的风险，并利用如其Deepfake Voice Detector这样的工具进行保护。虽然该扩展工具每日提供使用信用，但其有限的配额可能难以应对即将在社交媒体上激增的AI生成音频的潮流。
选举前发布的新工具以对抗深度伪造声音：应对新兴挑战
随着2024年美国大选的临近，深度伪造技术的普遍化对政治话语的完整性构成了重大担忧。作为回应，Hiya推出了他们的Hiya Deepfake Voice Detector，这是一款旨在保护用户免受音频内容操控的工具，同时也提出了关于这种技术在现代社会影响的相关问题。
围绕深度伪造技术的关键问题
1. **深度伪造技术在政治活动中的普遍程度如何？**
深度伪造音频可能会削弱公众对候选人真实信息的信任。分析师预测，在选举前夕，深度伪造的使用将增加，这使得Hiya的检测器等工具在辨别真相与伪造方面变得至关重要。
2. **在选举中使用此类工具的法律影响是什么？**
在政治环境中使用深度伪造检测工具的合法性仍在发展中。出现了关于Deepfake Voice Detector等工具的发现是否可以作为不当行为或虚假信息的法律证据的问题。
3. **检测器能否跟上不断发展的AI技术？**
虽然Hiya工具的准确率超过99%，但AI生成的声音在不断演变。该检测器能否持续适应新的音频操控技术还有待观察。
主要挑战和争议
1. **对技术检测误信息的过度依赖**
批评者认为，像Deepfake Voice Detector这样的工具可能会在用户之间产生一种虚假的安全感。仅依赖技术而缺乏媒体素养教育可能会阻碍个人对内容的批判性分析。
2. **滥用的潜力**
与深度伪造如何误导相似，检测工具可能被误用以错误地指控合法音频内容被操控，从而在没有适当背景或调查的情况下损害名誉。
3. **有限的可及性和用户体验**
该扩展的每日信用系统可能限制高需求用户的访问，这在信息高峰期间尤其具有挑战性。
Hiya Deepfake Voice Detector的优缺点
**优点：**
– **高准确率：** 成功率超过99%的工具有望显著减少成为深度伪造音频受害者的情况。
– **用户赋权：** 通过提供音频真实性的透明度，用户可能对他们的媒体消费获得更大的控制。
– **支持知情决策：** 在选举上下文中，识别深度伪造音频的能力可以使选民根据候选人的真实信息作出更明智的决策。
**缺点：**
– **有限的使用信用：** 对有限的每日信用的担忧可能会阻碍广泛采用，尤其是在关键信息期间。
– **深度伪造技术的演变：** 随着AI的持续进步，该工具可能需要不断更新以保持相关性，这对可持续性和用户期望构成挑战。
– **潜在的自满情绪：** 用户可能过于依赖技术，而忽视提升他们的批判性思维和媒体评估能力。
随着选举季节的临近，像Hiya Deepfake Voice Detector这样的工具的实施有可能重塑我们与媒体和政治的接触，为问责提供新的途径，同时在快速发展的数字环境中带来新的挑战。
欲了解有关深度伪造及其相关技术的更多信息，请访问MIT Technology Review或查看Wired以获取更新和见解。
The source of the article is from the blog tvbzorg.com