AI giả mạo giọng nói: Cuộc chiến giữa thật và ảo

Vào một ngày giữa tháng 4, Gaby Del Valle, một reporter phóng viên của The Verge, đã gửi cho cha mình một đoạn video do AI tạo ra – có hình ảnh và giọng nói giống cô. Nhưng cha cô quickly gần như ngay lập tức nhận ra điều bất thường: giọng nói nghe như robot. Dù chưa hoàn hảo, đoạn video này là minh chứng cho sức mạnh đang lên của công nghệ deepfake – và cũng cho thấy ranh giới giữa thật và ảo đang mỏng dần. Một new ngành công nghiệp nhỏ gồm các startup như Reality Defender, Pindrop Security và GetReal đang trỗi dậy, không phải để tạo nội dung giả, mà để fight chống lại chính nó. Cuộc chiến AI chống AI đã bắt đầu.

Reality Defender sử dụng một kỹ thuật gọi là 'mô hình thầy - trò', trong đó hệ thống được train huấn luyện bằng cả dữ liệu thật và giả. Quyết định then chốt là: để bắt deepfake, bạn phải tạo ra một phiên bản thậm chí còn tinh vi hơn. Chỉ 9 giây âm thanh là đủ để tạo ra một agent tác nhân AI có thể duy trì cuộc hội thoại – một con số đáng lo ngại. Như Alex Lisle, technology Giám đốc Công nghệ của Reality Defender, nói: 'Cách duy nhất để tiêu diệt deepfake là phải tạo ra được những phiên bản còn tinh vi hơn để dạy hệ thống cách bắt bài chúng'.

Deepfake không còn là mối risk đe dọa chỉ với cá nhân. Nicholas Holland từ Pindrop Security cho biết, các thủ thuật như yêu cầu giơ ba ngón tay đã trở nên useless vô dụng. AI giờ có thể mô phỏng cử chỉ một cách hoàn hảo. 'Giờ đây, gần như không thể phân biệt bằng eye mắt thường được nữa', ông nói. Thay vào đó, các doanh nghiệp – nơi mà danh tính được xác minh qua hệ thống – đang trở thành mục tiêu chính. Một báo cáo năm 2024 cho thấy trung bình mỗi vụ lừa đảo khiến doanh nghiệp lose thất thoát 450.000 USD. Kịch bản nguy hiểm nhất? Giả giọng người thân cầu cứu – nơi cảm xúc lấn át reason lý trí.

Dù có những tool công cụ phát hiện tốt, không gì đảm bảo an toàn tuyệt đối. Công nghệ C2PA, được kỳ vọng giúp truy vết nguồn gốc nội dung, vẫn dễ bị xóa nhãn hoặc làm giả. Cập nhật lớn nhất không phải ở phần mềm, mà ở cách chúng ta tin tưởng thông tin: từ 'mắt thấy tai nghe' sang 'do công nghệ xác thực'. Scott Steinhardt từ Reality Defender mơ về một tương lai mà trình duyệt hay nhà mạng sẽ lọc deepfake như phần mềm diệt virus. Như Lisle nhận định: 'AI đang phá bỏ ranh giới lòng tin vốn tồn tại suốt hàng nghìn năm'. Sự thay đổi này buộc chúng ta phải rebuild xây dựng lại nền tảng tin cậy – không bằng cảm xúc, mà bằng system hệ thống.