Theo bài đăng trên blog của OpenAI chia sẻ kết quả thử nghiệm quy mô nhỏ của "Voice Engine", công cụ này cơ bản có thể sao chép giọng nói của người nào đó dựa trên mẫu âm thanh 15 giây.

OpenAI cho biết, họ có kế hoạch thử nghiệm nó "nhưng chưa phát hành rộng rãi công nghệ vào thời điểm này" vì nguy cơ bị lạm dụng.

OpenAI vừa giới thiệu công nghệ tái hiện giọng nói của bất cứ ai chỉ với đoạn ghi âm 15 giây. Ảnh: AP

"Chúng tôi nhận thấy việc tạo ra bài phát biểu giống giọng nói của mọi người có những rủi ro nghiêm trọng, điều này đặc biệt được quan tâm hàng đầu trong năm bầu cử", OpenAI cho hay.

Voice Engine được OpenAI phát triển từ 2022 và thử nghiệm cùng một nhóm khách hàng cuối 2023. Trong đó, phần mềm thể hiện khả năng hỗ trợ đọc, dịch nội dung giữa các ngôn ngữ khác nhau và tạo tiếng nói cho những người mất khả năng nói chuyện.

Theo OpenAI, việc công bố Voice Engine nhằm khuyến khích giới quản lý và công chúng tăng cường cảnh giác với những trò lừa đảo sử dụng AI (trí tuệ nhân tạo). Nhà phát triển cảnh báo tội phạm có thể dùng phần mềm giả giọng để đánh cắp thông tin cá nhân hoặc vượt qua những hàng rào an ninh tại ngân hàng.

“Điều quan trọng là mọi người hiểu được hướng đi của công nghệ, dù chúng tôi có phát hành nó rộng rãi hay không", OpenAI nhấn mạnh.

OpenAI cho biết thêm, đang hợp tác với các đối tác Mỹ và quốc tế trong nhiều lĩnh vực như chính phủ, truyền thông, giải trí, giáo dục... để ghi nhận các phản hồi trong quá trình xây dựng công cụ giọng nói này.

“Chúng tôi đã triển khai một bộ các biện pháp an toàn, bao gồm đánh dấu nguồn gốc của bất kỳ âm thanh nào được Voice Engine tạo ra cũng như chủ động theo dõi cách thức sử dụng công cụ này”, OpenAI nhấn mạnh.

Cũng theo OpenAI, các đối tác thử nghiệm Voice Engine đã đồng ý với các quy tắc bao gồm yêu cầu sự đồng ý rõ ràng và đầy đủ thông tin của tất cả những người bị nhại giọng. Ngoài ra, người nghe cũng được thông báo khi nào giọng nói họ nghe được là do AI tạo ra.