Ngày 06/03/2026, Microsoft đã công bố một phân tích chi tiết về cách các nhóm tin tặc đang vận hành AI trên toàn bộ chu trình tấn công mạng. Thay vì là một mối đe dọa trong tương lai, AI đã trở thành một công cụ đắc lực, một “bộ nhân lực” giúp tin tặc giảm bớt rào cản kỹ thuật, tăng tốc độ, quy mô và khả năng phục hồi của các chiến dịch. Báo cáo nhấn mạnh rằng con người vẫn là người điều khiển cuối cùng, đưa ra quyết định về mục tiêu và triển khai.
Phân tích của Microsoft Threat Intelligence cho thấy việc lạm dụng AI phổ biến nhất hiện nay tập trung vào việc sử dụng các mô hình ngôn ngữ để tạo văn bản, mã nguồn hoặc media. Tin tặc dùng AI tạo sinh để soạn thảo email lừa đảo (phishing), dịch thuật nội dung, tóm tắt dữ liệu đánh cắp, tạo hoặc gỡ lỗi malware, và xây dựng kịch bản tấn công.
AI như một công cụ tấn công chuyên nghiệp
Microsoft đã quan sát thấy các nhóm tin tặc, đặc biệt là các nhóm hoạt động vì mục đích tài chính, đang tích hợp AI vào quy trình làm việc của chúng. Một ví dụ điển hình là hoạt động của các nhân viên IT làm việc từ xa của Bắc Triều Tiên, được Microsoft theo dõi dưới các định danh như Jasper Sleet và Coral Sleet. Các nhóm này sử dụng AI để tạo danh tính giả, thực hiện kỹ thuật xã hội và duy trì hoạt động lâu dài với chi phí thấp.
Trong khi đó, các xu hướng mới nổi cũng mang lại rủi ro lớn hơn. Microsoft đã ghi nhận những thử nghiệm ban đầu của tin tặc với agentic AI (AI tác tử — có khả năng tự lập kế hoạch và hành động). Mặc dù chưa phổ biến, những nỗ lực này cho thấy một sự thay đổi tiềm tàng hướng tới các phương thức tấn công linh hoạt hơn, có thể gây khó khăn cho việc phát hiện và ứng phó.
Cách tin tặc vận hành AI trong chu trình tấn công
Tin tặc đã tích hợp tự động hóa vào phương thức hoạt động của chúng khi các dịch vụ AI đáng tin cậy, chi phí thấp ngày càng phổ biến. Các khả năng này giúp giảm rào cản kỹ thuật trong các giai đoạn trinh sát, kỹ thuật xã hội, phát triển malware và các hoạt động sau xâm nhập.
Vượt qua các biện pháp an toàn của AI
Tin tặc không chỉ giới hạn ở việc sử dụng AI theo đúng mục đích. Chúng tích cực thử nghiệm các kỹ thuật để vượt qua hoặc jailbreak (bẻ khóa) các biện pháp kiểm soát an toàn của AI. Các kỹ thuật này bao gồm việc thay đổi cấu trúc prompt, xâu chuỗi các lệnh qua nhiều tương tác, hoặc lạm dụng các prompt hệ thống để buộc mô hình tạo ra nội dung độc hại.
Trinh sát (Reconnaissance)
Các mô hình ngôn ngữ lớn (LLM) được tin tặc sử dụng để nghiên cứu các lỗ hổng đã được công bố và xác định các con đường khai thác tiềm năng. Ví dụ, nhóm Emerald Sleet của Bắc Triều Tiên đã dùng LLM để nghiên cứu các lỗ hổng như CVE-2022-30190. AI cũng được dùng để nghiên cứu các công cụ và hạ tầng giúp lẩn tránh hệ thống phòng thủ (như EDR) và xác định các dịch vụ cloud phù hợp cho hoạt động command-and-control (C2).
Ngoài ra, AI còn giúp tin tặc xây dựng các hồ sơ cá nhân giả mạo một cách thuyết phục, đặc biệt là các nhóm như Coral Sleet, Sapphire Sleet và Jasper Sleet. Chúng dùng AI để nghiên cứu tin tuyển dụng, trích xuất các kỹ năng, trách nhiệm và yêu cầu công việc để tạo ra các danh tính giả phù hợp.
Kỹ thuật xã hội và truy cập ban đầu
Với sự trợ giúp của AI trong việc tạo media, giả mạo và điều chỉnh giọng nói theo thời gian thực, tin tặc đang cải thiện đáng kể quy mô và sự tinh vi của các chiến dịch kỹ thuật xã hội.
- Soạn thảo email lừa đảo (phishing): AI giúp tạo ra các email lừa đảo bằng nhiều ngôn ngữ với văn phong tự nhiên, loại bỏ các lỗi ngữ pháp và tăng tính thuyết phục.
- Tạo danh tính và giả mạo: Tin tặc sử dụng AI để tạo ra tên, định dạng email, hồ sơ mạng xã hội, viết CV và thư xin việc phù hợp với từng vị trí cụ thể. Chúng còn dùng hình ảnh do AI tạo ra để làm ảnh đại diện và giấy tờ giả. Ví dụ, nhóm Jasper Sleet đã sử dụng ứng dụng Faceswap để chèn khuôn mặt của nhân viên IT Bắc Triều Tiên vào các giấy tờ tùy thân bị đánh cắp và tạo ra các ảnh chân dung chuyên nghiệp cho CV.
Phát triển malware với sự hỗ trợ của AI
AI đang được tin tặc sử dụng như một công cụ tăng tốc phát triển malware. Nó giúp giảm bớt công sức thủ công cần thiết để gỡ lỗi, điều chỉnh mã cho các môi trường mới, hoặc tái triển khai chức năng bằng các ngôn ngữ hoặc thư viện khác nhau.
Microsoft đã quan sát thấy nhóm Coral Sleet thể hiện sự tăng trưởng nhanh chóng về năng lực nhờ vào việc phát triển lặp đi lặp lại với sự hỗ trợ của AI. Nhóm này đã sử dụng các công cụ lập trình AI để tạo, tinh chỉnh và tái triển khai các thành phần malware. Đáng chú ý, nhóm này còn tạo ra các payload mới bằng cách jailbreak phần mềm LLM, cho phép tạo ra mã độc vượt qua các biện pháp bảo vệ tích hợp.
Các đoạn mã do AI hỗ trợ thường có những đặc điểm nhận dạng như sử dụng emoji làm dấu hiệu trực quan (ví dụ: ✅ cho thành công, ❌ cho lỗi) và các bình luận mô tả trạng thái thực thi hoặc lý do của lập trình viên.
Lạm dụng AI sau khi xâm nhập
Sau khi xâm nhập thành công, tin tặc sử dụng AI chủ yếu để hỗ trợ nghiên cứu và tinh chỉnh các hoạt động tiếp theo. AI hoạt động như một trợ lý nghiên cứu theo yêu cầu, giúp tin tặc phân tích môi trường nạn nhân không quen thuộc, khám phá các kỹ thuật hậu xâm nhập, và gỡ lỗi hoặc điều chỉnh công cụ cho phù hợp. AI giúp tăng tốc các quy trình hiện có bằng cách giảm thời gian và chuyên môn cần thiết cho việc phân tích, lặp lại và ra quyết định.
Các xu hướng mới nổi
Sử dụng Agentic AI
Microsoft đang bắt đầu thấy những tín hiệu ban đầu về sự chuyển đổi sang việc sử dụng agentic AI một cách có chủ đích hơn. Các hệ thống này có thể theo đuổi mục tiêu theo thời gian, bao gồm lập kế hoạch, gọi công cụ, đánh giá kết quả và điều chỉnh hành vi mà không cần sự nhắc nhở liên tục của con người. Đối với tin tặc, điều này có thể tạo ra các quy trình bán tự động để liên tục tinh chỉnh các chiến dịch lừa đảo, kiểm tra và điều chỉnh cơ sở hạ tầng, hoặc giám sát thông tin tình báo nguồn mở.
Malware tích hợp AI
Tin tặc đang khám phá các thiết kế malware tích hợp hoặc gọi các mô hình AI trong quá trình thực thi, thay vì chỉ sử dụng AI trong giai đoạn phát triển. Mặc dù vẫn còn hạn chế về độ tin cậy và độ trễ, đây là tín hiệu về một sự chuyển đổi tiềm năng hướng tới malware có thể tự thích ứng với môi trường của nó.
Khai thác chính hệ thống và hệ sinh thái AI
Khi các doanh nghiệp tăng cường áp dụng AI, chính các hệ thống này lại trở thành bề mặt tấn công mới. Các hoạt động được quan sát bao gồm kỹ thuật prompt injection để tác động đến hành vi của mô hình, thay đổi đầu ra, hoặc gây ra các hành động không mong muốn. Gần đây, các nhà nghiên cứu của Microsoft cũng đã quan sát thấy một xu hướng các tổ chức hợp pháp sử dụng một kỹ thuật gọi là AI recommendation poisoning để quảng bá, cố tình làm sai lệch bộ nhớ của trợ lý AI để thiên vị các nguồn hoặc sản phẩm cụ thể.
Hướng dẫn giảm thiểu rủi ro từ Microsoft
Khi tin tặc liên tục điều chỉnh quy trình làm việc, các đội ngũ phòng thủ phải đi trước những chuyển đổi này. Microsoft đã đưa ra các khuyến nghị và công cụ để giúp các tổ chức giảm thiểu các mối đe dọa từ AI:
- Khám phá và quản lý rủi ro AI trong doanh nghiệp: Microsoft đã giới thiệu Security Dashboard for AI (hiện đang ở bản public preview), cung cấp một cái nhìn thống nhất về tình hình bảo mật AI bằng cách tổng hợp rủi ro về bảo mật, danh tính và dữ liệu trên Microsoft Defender, Microsoft Entra và Microsoft Purview.
- Quản lý Agentic AI: Microsoft Agent 365 đóng vai trò là một mặt phẳng điều khiển cho các agent AI trong môi trường doanh nghiệp, cho phép người dùng quản lý, điều hành và bảo mật các agent và quy trình làm việc của AI.
- Đối phó với mối đe dọa nội bộ và lạm dụng truy cập hợp pháp: Vì các tin tặc như nhân viên IT từ xa của Bắc Triều Tiên dựa vào quyền truy cập đáng tin cậy lâu dài, các đội ngũ phòng thủ nên xem đây là một kịch bản rủi ro nội bộ. Sử dụng Microsoft Purview Insider Risk Management để phát hiện, điều tra và giảm thiểu các rủi ro này.
- Chống lừa đảo và kỹ thuật xã hội do AI hỗ trợ: Tăng cường bảo vệ tài khoản và thông tin xác thực. Kích hoạt các tính năng như Zero-hour auto purge (ZAP) trong Defender for Office 365 và Prompt Shields trong Azure AI Content Safety để phát hiện các cuộc tấn công bằng prompt.
- Bảo vệ dịch vụ AI: Bật tính năng bảo vệ mối đe dọa cho các dịch vụ AI trong Microsoft Defender for Cloud để xác định các mối đe dọa đối với các ứng dụng AI tạo sinh trong thời gian thực.
