Người dùng tại Úc có thể sẽ thấy ít hơn những hình ảnh Deepfake gây sốc về người nổi tiếng bị bắt giữ hoặc quảng cáo mời gọi đầu tư tiền mã hóa trong thời gian tới. Điều này là do Meta vừa cho ra mắt một công cụ mới cho phép các ngân hàng dễ dàng chia sẻ thông tin về các vụ lừa đảo, qua đó giúp mạng xã hội này nhanh chóng gỡ bỏ nội dung độc hại và bảo vệ người dùng. Động thái này được đưa ra trong bối cảnh lừa đảo trực tuyến đang gia tăng tại Úc.

Theo Scamwatch - website của Ủy ban Tiêu dùng và Cạnh tranh Úc, chỉ trong 8 tháng đầu năm 2024, người dân nước này đã bị lừa đảo tổng cộng 43,4 triệu USD trên mạng xã hội, trong đó gần 30 triệu USD liên quan đến đầu tư.

Meta đối mặt áp lực phải giải quyết , sử dụng hình ảnh Deepfake của các nhân vật nổi tiếng. Công ty bị “ông trùm” khai thác mỏ Andrew Forrest kiện vì không xử lý các trò gian lận dùng hình ảnh của mình.

Đã có 07 ngân hàng tham gia Sàn giao dịch đối ứng tình báo gian lận (Fire) bao gồm: ANZ, Bendigo Bank, CBA, HSBC, Macquarie, NAB, Westpac. Tính từ khi triển khai thí điểm vào tháng 4, đã có 102 báo cáo, dẫn đến việc Meta xóa hơn 9.000 trang lừa đảo và chặn 8.000 vụ lừa đảo đầu tư sử dụng hình ảnh người nổi tiếng trên Facebook và Instagram.

Dù kết quả ban đầu rất hứa hẹn, nhưng số lượng báo cáo qua Fire còn mờ nhạt so với thiệt hại báo cáo lên Scamwatch. Chỉ riêng tháng 8 đã có 1.600 báo cáo gian lận trên mạng xã hội.

Theo David Agranovich, Giám đốc phụ trách ngăn chặn nguy cơ toàn cầu tại Meta, Fire cho phép các tổ chức tài chính cung cấp thông tin chi tiết về hoạt động lừa đảo xảy ra trên các dịch vụ của họ mà Meta, với tư cách là một nền tảng, có thể không biết được.

Meta cung cấp danh sách các tên miền mà họ đã chặn cho các đối tác khác và sẽ sớm cho phép Fire truy cập hệ thống trao đổi nguy cơ mà Meta dùng để phát hiện dấu hiệu liên quan đến các hoạt động như lạm dụng trẻ em và tội phạm khác trên nền tảng của mình.

Theo Agranovich, những kẻ lừa đảo sẽ không dừng lại khi bị chặn mà tìm cách thức mới để quay lại, vượt qua phòng thủ của công ty. Vì vậy, việc chia sẻ thông tin là rất quan trọng. Meta cho biết, vào quý II/2024, công ty đã gỡ bỏ 1,2 tỷ tài khoản giả mạo, trong đó, 99,7% bị gỡ trước khi được người dùng báo cáo.