Kể từ đầu năm đến nay, đã phát hiện và ngăn chặn hơn 20 chiến dịch và mạng lưới tội phạm mạng cố gắng khai thác nền tảng AI của họ để thực hiện các hoạt động đa dạng, từ việc phát triển phần mềm độc hại, tạo nội dung giả mạo trên , đến lan truyền thông tin sai lệch.

“Chúng tôi nhận thấy các nhóm tội phạm mạng đang không ngừng tìm cách lợi dụng AI cho mục đích xấu. Tuy nhiên, chúng tôi tin rằng những nỗ lực này chưa tạo ra bước đột phá đáng kể nào trong việc phát triển mới hoặc tạo ra các chiến dịch thông tin sai lệch lan truyền mạnh mẽ”, đại diện của OpenAI cho biết.

Một trong những điểm đáng chú ý là OpenAI đã chặn đứng các hoạt động can thiệp bầu cử tại Mỹ, Rwanda, Ấn Độ và Liên minh Châu Âu. Điển hình là vụ việc công ty STOIC của Israel bị phát hiện sử dụng AI để tạo ra các bình luận giả mạo trên mạng xã hội về cuộc bầu cử Ấn Độ.

Dưới đây là một số chiến dịch nổi bật mà OpenAI đã ngăn chặn:

• SweetSpecter (Trung Quốc): Nhóm này bị nghi ngờ đã sử dụng AI để tiến hành các hoạt động do thám, nghiên cứu lỗ hổng bảo mật, phát triển mã độc và tấn công lừa đảo (spear-phishing) nhắm vào nhân viên OpenAI.
• Cyber Av3ngers (Iran): Nhóm tin tặc có liên hệ với Lực lượng Vệ binh Cách mạng Hồi giáo Iran (IRGC) này đã sử dụng AI để nghiên cứu về bộ điều khiển logic khả trình, có khả năng nhằm mục đích phá hoại hệ thống cơ sở hạ tầng quan trọng.
• Storm-0817 (Iran): Nhóm này sử dụng AI để gỡ lỗi phần mềm độc hại trên Android, thu thập thông tin từ Instagram và LinkedIn.

Ngoài ra, OpenAI cũng đã ngăn chặn các chiến dịch tạo nội dung giả mạo trên mạng xã hội như: A2Z và Stop News, sử dụng hình ảnh do AI tạo ra để thu hút sự chú ý và lan truyền thông tin sai lệch.

OpenAI không chỉ tập trung vào việc ngăn chặn các cuộc tấn công mạng mà còn đẩy mạnh nỗ lực bảo vệ người dùng. Tính năng Bảo vệ Liên tài khoản của OpenAI hiện đang bảo vệ 3,2 tỷ người dùng trên các nền tảng khác nhau. Công ty cũng đang hợp tác với Canva, Electronic Arts, Indeed và LinkedIn để tăng cường an ninh mạng cho người dùng.

Mặc dù các cuộc tấn công mạng sử dụng AI chưa đạt được bước đột phá đáng kể, nhưng OpenAI và các chuyên gia an ninh mạng vẫn cảnh báo về nguy cơ lạm dụng AI để lan truyền thông tin sai lệch. Công ty an ninh mạng Sophos (Anh) cho biết, AI tạo sinh có thể bị lợi dụng để tạo ra các email lừa đảo tinh vi, cá nhân hóa thông tin sai lệch và lan truyền trên quy mô lớn.

Việc OpenAI chủ động ngăn chặn các chiến dịch tấn công mạng là một tín hiệu tích cực trong cuộc chiến chống lại tội phạm mạng. Tuy nhiên, điều này cũng nhấn mạnh thực tế rằng AI có thể bị lợi dụng cho mục đích xấu và cần có sự hợp tác chặt chẽ giữa các công ty công nghệ, cơ quan chức năng và người dùng để bảo vệ không gian mạng.