Công nghệ nhân bản giọng nói đã nổi lên như một công cụ đặc biệt nguy hiểm, khi những kẻ lừa đảo dùng nó để bắt chước giọng nói của những người mà nạn nhân biết và tin tưởng nhằm lừa họ chuyển tiền.
Công nghệ nhân bản giọng nói dễ giúp kẻ lừa đảo mạo danh người khác - Ảnh: ISTOCK
Bà Marie Haynes, một chuyên gia về trí tuệ nhân tạo (Al), cho biết mọi người có thể sử dụng các công cụ như ChatGPT hay thậm chí Bing và Google để tạo ra giọng nói rất giống giọng nói và nhịp điệu nói của họ.
Công nghệ trí tuệ nhân tạo này sẽ khiến mọi người khó phân biệt giọng nói của người thật và người ảo, theo Đài CTV của Canada.
Bà Haynes cảnh báo nhân bản giọng nói sẽ là công cụ mới cho những kẻ lừa đảo mạo danh người khác.
Ông Carmi Levy, một nhà phân tích công nghệ, giải thích: những kẻ lừa đảo thậm chí có thể giả mạo số điện thoại của gia đình và bạn bè nạn nhân, khiến cuộc gọi có vẻ thực sự đến từ người mà chúng đang mạo danh.
Bà Haynes cũng cảnh báo nhân bản giọng nói mới chỉ là bước khởi đầu. Khi trí tuệ nhân tạo đủ mạnh, kẻ xấu thậm chí có thể nhân bản cả khuôn mặt của ai đó.
"Khi nhận được một cuộc gọi FaceTime, làm sao tôi biết được đó là người tôi thật sự quen biết? Biết đâu có ai đó đang giả mạo họ", bà Haynes nêu cảnh báo.
Các chuyên gia kêu gọi mọi người hãy cảnh giác. Nếu nhận được cuộc gọi đề nghị chuyển tiền, hãy xác minh trước khi bấm nút chuyển.
Theo trang Interesting Engineering, các nạn nhân của công nghệ Al này đã bị lừa một số tiền đáng kể.
AI "có thể gây ra những hậu quả thảm khốc"
Một tác phẩm trưng bày trong triển lãm - Ảnh: NDTV
Theo trang IFL Science, một cuộc triển lãm đang diễn ra ở San Francisco (Mỹ) đã tưởng tượng ra một thế giới hậu tận thế, sau khi trí tuệ nhân tạo xóa sổ hầu hết nhân loại và nói xin lỗi.
Khách đến triển lãm mang tên "Bảo tàng sai lệch" sẽ được những cỗ máy chào đón kèm lời xin lỗi "vì đã giết phần lớn nhân loại".
Triển lãm bao gồm một số tác phẩm sắp đặt, từ tác phẩm The Creation of Adam (Sự sáng tạo của Adam), bích họa của Michelangelo cho đến các thư rác... Triển lãm cũng có một cuộc trò chuyện giả mạo do Al tạo ra giữa đạo diễn Đức Werner Herzog và nhà triết học Slavoj Žižek.
Nhóm thực hiện hy vọng triển lãm sẽ nâng cao kiến thức và nhận thức của khách tham quan về trí tuệ nhân tạo tổng quát (AGI), bao gồm khả năng AI suy nghĩ và thực hiện các nhiệm vụ như con người.
"Mục tiêu của chúng tôi là tạo ra một không gian để mọi người suy ngẫm về chính công nghệ và suy nghĩ chín chắn về trí tuệ nhân tạo, cùng những tác động của nó", bà Audrey Kim, người phụ trách triển lãm, cho biết.
Nhóm cũng mong muốn truyền cảm hứng và kêu gọi sự hỗ trợ để xây dựng và ban hành các biện pháp giảm thiểu rủi ro, nhằm đảm bảo một tương lai tích cực khi AI tiếp tục phát triển.
Khảo sát của các nhà nghiên cứu cho thấy 73% số người được hỏi cho rằng AI có thể dẫn đến sự thay đổi xã hội. Đáng chú ý, 36% nhà nghiên cứu AI đã đồng ý rằng AI có thể gây ra những hậu quả thảm khốc trong thế kỷ này, "ở cấp độ chiến tranh hạt nhân toàn diện".
Triển lãm "Bảo tàng sai lệch" mở cửa cho khách tham quan đến ngày 1-5-2023.
