Khi cuộc bầu cử Mỹ 2024 đến gần, một tiến bộ đáng kể trong việc xác định giọng nói deepfake đã xuất hiện. Hiya, một công ty nổi tiếng với khả năng kiểm duyệt cuộc gọi và phát hiện gian lận, đã giới thiệu một tiện ích mở rộng Chrome miễn phí được thiết kế để giúp người dùng đánh giá tính xác thực của các giọng nói trong nội dung âm thanh và video. Tiện ích mở rộng này có tên là Hiya Deepfake Voice Detector, phân tích các đầu vào âm thanh và cung cấp một điểm số chỉ ra khả năng giọng nói là thật hay giả mạo.
Theo Hiya, thử nghiệm rộng rãi đã cho thấy công cụ này có tỷ lệ chính xác ấn tượng vượt quá 99 phần trăm. Thiết bị phát hiện có thể nhận diện các giọng nói được tổng hợp từ các công nghệ AI gần đây, ngay cả khi chúng chưa từng được mô hình tiếp xúc trước đó.
Trong các thử nghiệm ban đầu, người dùng phát hiện rằng tiện ích mở rộng đã phát hiện hiệu quả các giọng nói được tạo ra bởi AI. Chẳng hạn, một video YouTube nổi tiếng có đoạn cảm thán về huyền thoại blues Howlin’ Wolf đã nhận được một điểm số xác thực thấp, xác nhận những nghi ngờ về việc bị thao túng.
Ban lãnh đạo của Hiya đã chỉ trích các nền tảng truyền thông xã hội vì không chịu trách nhiệm đủ trong việc cảnh báo người dùng về những nội dung có thể gây hiểu lầm. Công ty nhấn mạnh rằng rất quan trọng để mọi người nhận thức được những rủi ro liên quan đến việc thao túng AI và sử dụng các công cụ như Deepfake Voice Detector của họ để bảo vệ bản thân. Mặc dù tiện ích mở rộng cung cấp các tín dụng hàng ngày để quản lý việc sử dụng, hạn ngạch có thể hạn chế của nó có thể khó khăn khi theo kịp dòng chảy âm thanh AI sẽ bùng nổ trên mạng xã hội trong thời gian tới.
Công cụ mới để chống lại các giọng nói deepfake được phát hành trước bầu cử: Giải quyết những thách thức mới nổi
Khi cuộc bầu cử Mỹ 2024 đến gần, sự gia tăng công nghệ deepfake đưa ra những mối quan ngại lớn về tính toàn vẹn của diễn ngôn chính trị. Đáp lại, Hiya đã giới thiệu công cụ Hiya Deepfake Voice Detector, một công cụ không chỉ nhằm bảo vệ người dùng khỏi việc thao túng nội dung âm thanh, mà còn đặt ra những câu hỏi quan trọng về hệ quả của công nghệ này trong xã hội hiện đại.
Các câu hỏi chính xung quanh công nghệ deepfake
1. **Công nghệ deepfake phổ biến như thế nào trong các chiến dịch chính trị?**
Âm thanh deepfake ảnh hưởng đến diễn ngôn chính trị bằng cách có khả năng làm suy yếu niềm tin vào thông điệp thực sự của các ứng cử viên. Các nhà phân tích dự đoán rằng việc sử dụng deepfake sẽ gia tăng trước cuộc bầu cử, khiến các công cụ như thiết bị phát hiện của Hiya trở nên quan trọng trong việc phân biệt sự thật và giả mạo.
2. **Những hệ quả pháp lý nào khi sử dụng các công cụ như vậy trong các cuộc bầu cử?**
Tính hợp pháp xung quanh việc sử dụng phát hiện deepfake trong bối cảnh chính trị đang trong quá trình phát triển. Các câu hỏi dấy lên về việc liệu các phát hiện từ các công cụ như Deepfake Voice Detector có thể được coi là bằng chứng pháp lý về hành vi vi phạm hoặc thông tin sai lệch hay không.
3. **Thiết bị phát hiện có theo kịp các công nghệ AI đang phát triển không?**
Mặc dù công cụ Hiya có tỷ lệ chính xác vượt quá 99%, nhưng các giọng nói do AI sinh ra đang liên tục phát triển. Vẫn còn phải xem liệu thiết bị phát hiện có thể liên tục thích ứng với các kỹ thuật thao túng âm thanh mới hay không.
Những thách thức và tranh cãi chính
1. **Sự phụ thuộc quá mức vào công nghệ để phát hiện thông tin sai lệch**
Các nhà phê bình cho rằng các công cụ như Deepfake Voice Detector có thể tạo ra cảm giác an toàn giả tạo cho người dùng. Việc chỉ dựa vào công nghệ mà không có giáo dục về truyền thông có thể cản trở khả năng phân tích nội dung một cách nghiêm túc của các cá nhân.
2. **Khả năng lạm dụng**
Tương tự như cách thức mà deepfake có thể gây hiểu lầm, các công cụ phát hiện có thể bị lạm dụng để cáo buộc sai trái nội dung âm thanh hợp pháp bị thao túng, từ đó làm hại danh tiếng mà không có bối cảnh hoặc điều tra thích hợp.
3. **Sự tiếp cận hạn chế và trải nghiệm người dùng**
Hệ thống tín dụng hàng ngày cho tiện ích mở rộng có thể hạn chế khả năng truy cập cho những người dùng có nhu cầu cao, tạo ra một thách thức trong việc duy trì hiệu quả, đặc biệt trong các thời điểm thông tin sai lệch cao.
Ưu điểm và nhược điểm của Hiya Deepfake Voice Detector
**Ưu điểm:**
– **Tỷ lệ chính xác cao:** Với tỷ lệ thành công vượt quá 99%, công cụ này có khả năng giảm thiểu đáng kể các trường hợp bị hại bởi âm thanh deepfake.
– **Trao quyền cho người dùng:** Bằng cách cung cấp sự minh bạch về tính xác thực của âm thanh, người dùng có thể kiểm soát tốt hơn việc tiêu thụ phương tiện của họ.
– **Hỗ trợ quyết định thông tin:** Trong bối cảnh bầu cử, khả năng xác định âm thanh deepfake có thể dẫn đến những quyết định bầu cử thông tin hơn dựa trên thông điệp chân thực của các ứng cử viên.
**Nhược điểm:**
– **Hạn chế tín dụng sử dụng:** Sự quan ngại về tín dụng hàng ngày hạn chế có thể cản trở việc áp dụng rộng rãi, đặc biệt trong các thời điểm thông tin quan trọng.
– **Sự phát triển của các công nghệ deepfake:** Khi AI tiếp tục phát triển, công cụ có thể yêu cầu cập nhật liên tục để giữ được sự liên quan, gây ra thách thức cho sự bền vững và kỳ vọng của người dùng.
– **Khả năng trì trệ:** Người dùng có thể trở nên quá phụ thuộc vào công nghệ, bỏ qua việc nâng cao khả năng tư duy phản biện và đánh giá phương tiện truyền thông của họ.
Khi mùa bầu cử đến gần, việc triển khai các công cụ như Hiya Deepfake Voice Detector có tiềm năng làm thay đổi cách thức chúng ta tương tác với phương tiện truyền thông và chính trị, cung cấp những con đường mới cho sự trách nhiệm trong khi đặt ra những thách thức mới trong môi trường kỹ thuật số đang phát triển nhanh chóng.
Để biết thêm thông tin về deepfake và các công nghệ liên quan, bạn có thể truy cập MIT Technology Review hoặc kiểm tra Wired để cập nhật và thông tin chi tiết.
The source of the article is from the blog procarsrl.com.ar