Phiên bản ông Musk được hỗ trợ bởi AI đã xuất hiện trong hàng nghìn quảng cáo không xác thực, gây ra hàng tỷ đô la tiền gian lận.
Heidi Swan lần đầu tiên nhìn thấy quảng cáo trên Facebook. Và sau đó là trên TikTok. Sau khi thấy Elon Musk liên tục đưa ra cơ hội đầu tư, cô ấy đều cho rằng điều đó hẳn là sự thật.
“Trông giống hệt Elon Musk, giọng nói giống hệt Elon Musk và tôi nghĩ đó chính là ông ấy”, Swan nói.
Cô đã liên hệ với công ty đứng sau bài chào hàng và mở một tài khoản trị giá hơn 10.000 đô la. Nhân viên y tế 62 tuổi này nghĩ rằng cô đang đầu tư thông minh vào tiền điện tử từ một doanh nhân và nhà đầu tư có giá trị hàng tỷ đô la.
Nhưng Swan sớm nhận ra cô đã bị lừa bởi một làn sóng trộm công nghệ cao mới sử dụng trí tuệ nhân tạo để tạo ra deepfake .
Ngay cả khi xem lại các video đó, biết rằng chúng là giả, Swan vẫn nghĩ chúng trông rất thuyết phục.
“Họ vẫn trông giống Elon Musk”, cô nói. “Họ vẫn nói giống Elon Musk”.
Hàng ngàn video do AI điều khiển này, được gọi là deepfake, đã tràn ngập internet trong những tháng gần đây với các phiên bản giả mạo của ông Musk để lừa dối hàng loạt nhà đầu tư tiềm năng. Theo ước tính của Deloitte , deepfake do AI điều khiển dự kiến sẽ gây ra hàng tỷ đô la thiệt hại do gian lận mỗi năm.
Các video chỉ tốn vài đô la để sản xuất và có thể được thực hiện trong vài phút. Chúng được quảng cáo trên phương tiện truyền thông xã hội, bao gồm cả quảng cáo trả phí trên Facebook, giúp mở rộng phạm vi tiếp cận của chúng.
Những kẻ lừa đảo sẽ bắt đầu bằng một video chính hãng, giống như cuộc phỏng vấn này của tờ The Wall Street Journal do Thorold Barker thực hiện, một biên tập viên có giọng nói cũng được nghe thấy trong clip.
Các chuyển động miệng của ông Musk được chỉnh sửa bằng công nghệ đồng bộ hóa môi, giúp điều chỉnh cách nói của một người. Những kẻ lừa đảo sẽ thêm một giọng nói AIsử dụng công cụ sao chép giọng nói, có thể sao chép bất kỳ giọng nói nào từ các đoạn clip mẫu.
Lừa đảo Deepfake đang gia tăng ở Hoa Kỳ
Khi công nghệ trí tuệ nhân tạo phát triển và dễ tiếp cận hơn, những trò lừa đảo kiểu này cũng trở nên phổ biến hơn.
Theo Deloitte , một nhóm nghiên cứu tài chính hàng đầu, nội dung do AI tạo ra đã gây ra hơn 12 tỷ đô la thiệt hại do gian lận vào năm ngoái và có thể lên tới 40 tỷ đô la tại Hoa Kỳ vào năm 2027.
Cả Ủy ban Thương mại Liên bang và Văn phòng Kinh doanh Tốt hơn đều đã đưa ra cảnh báo rằng tình trạng lừa đảo deepfake đang gia tăng.
Một nghiên cứu của công ty AI Sensity phát hiện ra rằng Elon Musk là người nổi tiếng được sử dụng phổ biến nhất trong các vụ lừa đảo deepfake. Một lý do có thể là sự giàu có và tinh thần kinh doanh của ông. Một lý do khác là vì số lượng cuộc phỏng vấn mà ông đã thực hiện; càng có nhiều nội dung về một người trực tuyến, thì việc tạo ra các deepfake thuyết phục càng dễ dàng.
Theo Sensity, công ty đã phân tích hơn 2.000 video deepfake, ông Musk là người phát ngôn phổ biến nhất trong các video này.
Sensity phát hiện ra rằng anh ta xuất hiện trong gần một phần tư các vụ lừa đảo deepfake kể từ cuối năm ngoái. Trong số những vụ lừa đảo tập trung vào tiền điện tử, anh ta xuất hiện trong gần 90 phần trăm các video.
Quảng cáo deepfake còn có sự góp mặt của Warren Buffett, nhà đầu tư nổi tiếng, và Jeff Bezos, người sáng lập Amazon, cùng nhiều người khác.
Giải phẫu của deepfake
Tại Đại học North Texas ở Denton, Giáo sư Christopher Meerdo cũng đang sử dụng trí tuệ nhân tạo. Nhưng ông sử dụng nó để sáng tạo nghệ thuật.
“Nó sẽ không thay thế nghệ thuật sáng tạo”, Meerdo nói. “Nó sẽ chỉ tăng cường chúng và thay đổi cách chúng ta hiểu những điều chúng ta có thể làm trong lĩnh vực sáng tạo”.
Mặc dù Meerdo coi trí tuệ nhân tạo là một cách để đổi mới, nhưng ông cũng thấy được những nguy hiểm của nó.
Meerdo đã trình bày cách những kẻ lừa đảo có thể quay một video thật và sử dụng các công cụ AI để thay thế giọng nói và chuyển động miệng của một người, khiến họ trông như đang nói điều gì đó hoàn toàn khác.
Những tiến bộ trong công nghệ đang giúp việc tạo video deepfake trở nên dễ dàng hơn. Tất cả những gì một người quen thuộc với AI cần để tạo video deepfake là một hình ảnh tĩnh và một bản ghi video.
Để chứng minh điều này, Meerdo đã quay một đoạn video về phóng viên điều tra Brian New để tạo ra một phiên bản deepfake của Elon Musk.
Meerdo cho biết: “Nếu bạn thực sự muốn lừa đảo mọi người, tôi nghĩ bạn có thể làm một số điều thực sự tồi tệ bằng cách này”.
Làm sao để phát hiện deepfake?
Một số deepfake dễ phát hiện hơn những deepfake khác; có thể có những dấu hiệu như chuyển động môi không tự nhiên hoặc ngôn ngữ cơ thể kỳ lạ. Nhưng khi công nghệ cải thiện, sẽ khó phát hiện hơn chỉ bằng cách nhìn.
Ngày càng có nhiều trang web tuyên bố rằng họ có thể phát hiện deepfake. Sử dụng ba video deepfake đã biết và ba video xác thực, CBS News Texas I-Team đã đưa năm trong số các trang web này vào một thử nghiệm phi khoa học: Deepware , Attestiv , DeepFake-O-Meter , Sensity và Deepfake Detector .
Tổng cộng, năm công cụ trực tuyến này đã xác định chính xác các video được thử nghiệm gần 75% thời gian. I-Team đã liên hệ với các công ty có kết quả; phản hồi của họ như sau.
Deepware
Deepware, một trang web miễn phí sử dụng, ban đầu đã không đánh dấu hai video giả mà I-Team đã thử nghiệm. Trong một email, công ty cho biết các clip được sử dụng quá ngắn và để có kết quả tốt nhất, các video được tải lên phải có độ dài từ 30 giây đến một phút. Deepware đã xác định chính xác tất cả các video dài hơn. Theo công ty, tỷ lệ phát hiện của họ được coi là tốt cho ngành ở mức 70%.
Phần câu hỏi thường gặp trên trang web Deepware nêu rõ: “Deepfake vẫn chưa phải là vấn đề được giải quyết. Kết quả của chúng tôi chỉ ra khả năng một video cụ thể có phải là deepfake hay không.”
Deepfake Detector
Deepfake Detector, một công cụ có giá 16,80 đô la một tháng, đã xác định một trong những video giả mạo là “giọng nói tự nhiên 97%”. Công ty chuyên phát hiện giọng nói do AI tạo ra này cho biết trong một email rằng các yếu tố như tiếng ồn xung quanh hoặc âm nhạc có thể ảnh hưởng đến kết quả, nhưng tỷ lệ chính xác là khoảng 92%.
Để trả lời câu hỏi về hướng dẫn dành cho người tiêu dùng trung bình, công ty đã viết: “Công cụ của chúng tôi được thiết kế thân thiện với người dùng. Người tiêu dùng trung bình có thể dễ dàng tải tệp âm thanh lên trang web của chúng tôi hoặc sử dụng tiện ích mở rộng trình duyệt của chúng tôi để phân tích nội dung trực tiếp. Công cụ sẽ cung cấp phân tích để giúp xác định xem video có chứa các thành phần deepfake hay không bằng cách sử dụng xác suất, giúp người dùng có thể truy cập ngay cả khi không quen với công nghệ AI.”
Attestiv
Attestiv đã đánh dấu hai video thực là “đáng ngờ”. Theo giám đốc điều hành Nicos Vekiarides của công ty, các kết quả dương tính giả có thể được kích hoạt bởi các yếu tố như đồ họa và chỉnh sửa. Cả hai video thực được đánh dấu là “đáng ngờ” đều bao gồm đồ họa và chỉnh sửa. Trang web cung cấp dịch vụ miễn phí, nhưng cũng có một gói trả phí, nơi người tiêu dùng có thể điều chỉnh cài đặt và hiệu chuẩn để phân tích chuyên sâu hơn.
Mặc dù thừa nhận rằng Attestiv không hoàn hảo, Vekiarides cho biết khi deepfake ngày càng khó phát hiện bằng mắt thường, những trang web như thế này là cần thiết như một phần của giải pháp.
Vekiarides cho biết: “Công cụ của chúng tôi có thể xác định xem có điều gì đáng ngờ hay không và sau đó bạn có thể tự mình xác minh để nói rằng ‘Tôi nghĩ điều đó đáng ngờ'”.
DeepFake-O-Meter
DeepFake-O-Meter là một công cụ miễn phí khác được Đại học Buffalo và Quỹ Khoa học Quốc gia hỗ trợ. Công cụ này xác định hai trong số các video thực tế có tỷ lệ cao là do AI tạo ra.
Trong email, người tạo ra nền tảng mở này cho biết một hạn chế của các mô hình phát hiện deepfake là việc nén video có thể dẫn đến sự cố đồng bộ giữa video và âm thanh cũng như chuyển động của miệng không nhất quán.
Để trả lời câu hỏi về cách người dùng hàng ngày có thể sử dụng công cụ này, công ty đã gửi email: “Hiện tại, kết quả chính được hiển thị cho người dùng là giá trị xác suất của mẫu này là mẫu được tạo ra trên các mô hình phát hiện khác nhau. Điều này có thể được sử dụng làm tài liệu tham khảo nếu nhiều mô hình đồng ý với cùng một câu trả lời với độ tin cậy (ví dụ: trên 80% đối với mẫu do AI tạo ra hoặc dưới 20% đối với video thực). Hiện tại, chúng tôi đang phát triển một cách dễ hiểu hơn để hiển thị kết quả, cũng như các mô hình mới có thể đưa ra kết quả phát hiện toàn diện.”
Sensity
Công cụ phát hiện deepfake của Sensity đã xác định chính xác cả sáu clip, đồng thời hiển thị bản đồ nhiệt chỉ ra nơi có khả năng xảy ra thao túng AI cao nhất.
Công ty cung cấp thời gian dùng thử miễn phí để sử dụng dịch vụ của mình và chia sẻ với I-Team rằng mặc dù hiện tại dịch vụ này được thiết kế riêng cho các tổ chức tư nhân và công cộng, nhưng mục tiêu trong tương lai của công ty là cung cấp công nghệ này cho tất cả mọi người.
Ny (Theo CBS News)