AI đang định hình lại các ngành công nghiệp, nhưng cũng đi kèm với những rủi ro bảo mật đáng kể có thể cản trở việc triển khai. Để giúp các nhà lãnh đạo doanh nghiệp tự tin ứng dụng AI, Microsoft đã phát hành bộ cẩm nang chi tiết về bảo mật, tuân thủ và quản trị, cung cấp một lộ trình rõ ràng để quản lý các thách thức này.
AI đang được các tổ chức đón nhận với tốc độ đáng kinh ngạc, với 47% người dùng đã tin tưởng giao cho AI đưa ra các quyết định bảo mật quan trọng. Tuy nhiên, khi AI ngày càng tích hợp sâu vào quy trình làm việc, việc xây dựng một nền tảng an toàn ngay từ đầu là cực kỳ cần thiết để thích ứng với các cải tiến mới một cách tự tin, đồng thời tuân thủ các quy định mới như Đạo luật AI của Liên minh Châu Âu.
Microsoft ra mắt cẩm nang bảo mật cho doanh nghiệp dùng AI
Để hỗ trợ các tổ chức vượt qua những thách thức này, Microsoft đã phát hành tài liệu “Microsoft Guide for Securing the AI-Powered Enterprise Issue 1: Getting Started with AI Applications”. Đây là phần đầu tiên trong chuỗi tài liệu chuyên sâu về bảo mật, tuân thủ và quản trị AI. Cẩm nang này đặt nền móng cho việc bảo mật các công cụ AI mà các nhóm đang sử dụng, cung cấp hướng dẫn quản lý rủi ro liên quan và đi sâu vào các rủi ro đặc thù của các AI agent.
Các rủi ro bảo mật chính và cách giải quyết
Việc áp dụng AI mang lại cơ hội to lớn nhưng cũng đi kèm với một loạt rủi ro bảo mật ngày càng tăng. Các thách thức như rò rỉ dữ liệu, các mối đe dọa mạng mới nổi và các quy định pháp lý liên tục thay đổi đòi hỏi sự quan tâm ngay lập tức.
Rò rỉ và chia sẻ dữ liệu quá mức
Một trong những mối lo ngại lớn nhất là AI “ngầm” (shadow AI) — khi nhân viên sử dụng các công cụ AI không được phê duyệt mà không có sự giám sát. Thực tế, 80% lãnh đạo doanh nghiệp lo lắng rằng dữ liệu nhạy cảm có thể bị rò rỉ do việc sử dụng AI không được kiểm soát. Ví dụ, một nhóm marketing sử dụng công cụ tạo nội dung AI và kết nối nó với các nguồn không an toàn có thể vô tình làm lộ chiến lược độc quyền hoặc dữ liệu khách hàng.
Giải pháp đề xuất:
- Triển khai chính sách sử dụng AI rõ ràng để nhân viên tuân thủ các công cụ đã được kiểm duyệt và an toàn.
- Sử dụng kiểm soát truy cập dựa trên vai trò (RBAC) để quản lý quyền truy cập dữ liệu của AI, chỉ cho phép AI truy cập dữ liệu dựa trên thông tin xác thực của người dùng.
- Tự động hóa các chính sách lưu giữ dữ liệu để ngăn thông tin nhạy cảm tồn tại lâu hơn mục đích sử dụng.
Các mối đe dọa mới nổi
Khi AI phát triển, các mối đe dọa chống lại nó cũng vậy. Một trong những lo ngại cấp bách nhất là các cuộc tấn công prompt injection (tấn công chèn câu lệnh), nơi kẻ xấu nhúng các hướng dẫn ẩn trong dữ liệu đầu vào để thao túng hành vi của AI. Theo một khảo sát của Gartner® Peer Community, 88% các tổ chức lo ngại về nguy cơ tấn công này.
Ngoài ra, các hệ thống AI có thể gặp phải hiện tượng hallucination (tạo ra thông tin sai lệch), khuếch đại các mẫu quyết định không công bằng, hoặc đưa ra kết quả thiếu sót do dữ liệu đầu vào kém chất lượng.
Giải pháp đề xuất:
- Xác thực và làm sạch dữ liệu đầu vào trước khi AI xử lý để ngăn chặn thao túng.
- Hạn chế quyền truy cập của AI vào thông tin nhạy cảm và triển khai xác minh danh tính.
- Sử dụng các công cụ AI thương mại có các biện pháp bảo vệ tích hợp sẵn như phát hiện sai lệch, làm sạch đầu vào và kiểm soát truy cập.
Thách thức về tuân thủ pháp lý
Hơn một nửa số lãnh đạo doanh nghiệp (52%) thừa nhận họ không chắc chắn về cách điều hướng các quy định AI đang phát triển nhanh chóng. Các khuôn khổ như Đạo luật AI của EU (European Union AI Act), GDPR và Đạo luật về khả năng phục hồi hoạt động kỹ thuật số (DORA) đòi hỏi các tổ chức phải thiết lập quy trình quản trị và tài liệu rõ ràng để theo dõi việc sử dụng AI, ra quyết định và xử lý dữ liệu.
Giải pháp đề xuất:
- Điều chỉnh quản trị AI phù hợp với các quy định đang phát triển thông qua đánh giá rủi ro, thử nghiệm và giám sát.
- Lưu giữ hồ sơ chi tiết về AI để đảm bảo tuân thủ và sử dụng có trách nhiệm.
- Kiểm toán các quyết định của AI để đảm bảo tính công bằng, minh bạch và tuân thủ quy định.
Tương lai phía trước: Thách thức đặc thù của AI tác tử (agentic AI)
Tốc độ tăng trưởng của AI rất đáng kinh ngạc, với năng lực AI tăng gấp đôi sau mỗi sáu tháng. Một trong những phát triển quan trọng nhất là agentic AI — một lớp hệ thống AI mới được thiết kế để hành động độc lập, đưa ra quyết định thời gian thực và hợp tác với các agent AI khác để đạt được các mục tiêu phức tạp.
Tuy nhiên, quyền tự chủ lớn hơn đi kèm với rủi ro lớn hơn. Sự phụ thuộc quá mức vào đầu ra của AI, các lỗ hổng mạng và các mối lo ngại về độ tin cậy đều cần được giải quyết. Khi các hệ thống này tích hợp sâu hơn vào hoạt động, việc bảo mật mạnh mẽ, giám sát và trách nhiệm giải trình sẽ là điều cần thiết.
Xây dựng một tương lai AI an toàn
Để khai thác sức mạnh của AI một cách an toàn, Microsoft khuyến nghị một cách tiếp cận chiến lược, chủ động, bắt đầu với kiến trúc Zero Trust — đảm bảo mọi tương tác AI đều được xác thực, ủy quyền và giám sát liên tục.
Hướng dẫn áp dụng AI (AI adoption guidance) của Microsoft, một phần của Cloud Adoption Framework for Azure, cung cấp một lộ trình có cấu trúc để các tổ chức tuân theo. Bằng cách nhúng bảo mật vào mọi giai đoạn, phá vỡ các rào cản và thúc đẩy sự tin tưởng, các doanh nghiệp có thể tự tin điều hướng bối cảnh AI, đảm bảo cả sự đổi mới và khả năng phục hồi trong một thế giới không ngừng phát triển.
