Các cơ quan an ninh mạng toàn cầu đã ban hành bộ hướng dẫn thống nhất đầu tiên về việc áp dụng trí tuệ nhân tạo (AI) trong hạ tầng trọng yếu, cho thấy một sự chuyển dịch lớn từ tranh luận mang tính lý thuyết sang các rào chắn thực tiễn nhằm bảo đảm an toàn và độ tin cậy.
Việc công bố hướng dẫn chung về Các nguyên tắc tích hợp an toàn trí tuệ nhân tạo trong công nghệ vận hành (OT) đánh dấu một cột mốc quan trọng đối với an ninh hạ tầng trọng yếu, bởi các cơ quan an ninh mạng hàng đầu thế giới — bao gồm CISA, FBI, NSA, Trung tâm An ninh mạng Úc thuộc Tổng cục Tín hiệu Úc, cùng nhiều đối tác khác — đã thống nhất được một định hướng chung. Khi việc áp dụng AI đang tăng tốc trong các môi trường vận hành, tài liệu này giúp chúng ta chuyển từ lý thuyết sang thực hành. Nó thừa nhận tiềm năng của AI, đồng thời làm rõ rằng AI cũng “đặt ra những rủi ro đáng kể — chẳng hạn như các mô hình quy trình OT bị sai lệch theo thời gian hoặc việc bỏ qua các quy trình an toàn” — những rủi ro mà các đơn vị vận hành phải chủ động quản lý để bảo đảm độ tin cậy.
Hướng dẫn đưa ra sự phân biệt rõ ràng giữa an toàn (safety) và an ninh (security), nhấn mạnh rằng các mô hình ngôn ngữ lớn không nên được sử dụng để đưa ra các quyết định an toàn trong môi trường OT. Đồng thời, tài liệu khuyến nghị các đơn vị vận hành áp dụng kiến trúc dựa trên cơ chế “đẩy” với các ranh giới kiến trúc chặt chẽ, duy trì mô hình “con người trong vòng lặp” (human-in-the-loop), và yêu cầu tính minh bạch từ các nhà cung cấp khi tích hợp AI vào hệ thống công nghiệp. AI được định vị là một cố vấn thay vì một bộ điều khiển, nhấn mạnh rằng khả năng chống chịu phụ thuộc vào đội ngũ vận hành có kỹ năng, các quy trình thẩm định rõ ràng và khả năng quan sát được cách AI tương tác với thế giới vật lý.
Các khuyến nghị về kiến trúc tiếp tục thể hiện tư duy “an toàn là trên hết”. Hướng dẫn xác định rõ vị trí phù hợp của AI trong hệ thống phân cấp OT. Học máy dự đoán có thể tăng cường vận hành ở các cấp độ từ 0 đến 3, chẳng hạn như dự báo hỏng hóc máy bơm dựa trên các mẫu rung động hoặc phát hiện bất thường trong nhiệt độ khí thải của tua-bin. Trong khi đó, các mô hình ngôn ngữ lớn phù hợp hơn với các chức năng kinh doanh ở cấp độ 4 và 5, nơi chúng hỗ trợ soạn thảo tài liệu, tạo lệnh công việc hoặc báo cáo tuân thủ quy định.
Hướng dẫn cũng cảnh báo về nguy cơ xuất hiện các điểm tấn công mới. Để giảm rủi ro xâm nhập từ bên ngoài, các cơ quan khuyến nghị áp dụng “kiến trúc dựa trên cơ chế đẩy hoặc thông qua trung gian, đưa các tính năng hoặc bản tóm tắt cần thiết ra khỏi OT mà không cấp quyền truy cập ngược liên tục”. Mô hình này ngăn chặn kịch bản kẻ tấn công khai thác một hệ thống AI đặt trên đám mây để xâm nhập trực tiếp vào mạng OT. Nói cách khác, AI nên đóng vai trò cố vấn thay vì bộ điều khiển, hỗ trợ vận hành mà không trở thành cánh cửa ngầm cho đối phương.
Đáng chú ý, tài liệu không chỉ tập trung vào hệ thống mà còn hướng đến con người vận hành chúng. Hướng dẫn cảnh báo rằng “việc phụ thuộc quá nhiều vào AI có thể khiến nhân sự OT mất đi các kỹ năng thủ công cần thiết để quản lý hệ thống khi AI gặp sự cố hoặc khi hệ thống bị gián đoạn”. Đối với hạ tầng trọng yếu, đây không phải là giả định lý thuyết. Hướng dẫn khuyến khích các tổ chức đào tạo nhân viên không chỉ cách sử dụng AI mà còn cách thách thức AI. Ví dụ, nhân sự cần có khả năng kiểm chứng đầu ra của AI bằng các cảm biến và quan sát thay thế, để xác nhận rằng các khuyến nghị số phù hợp với thực tế vật lý. Một bất thường về nhiệt độ máy nén do mô hình ML phát hiện, chẳng hạn, vẫn cần được con người đối chiếu với số liệu đo tại hiện trường trước khi thực hiện hành động khắc phục.
Hướng dẫn cũng khuyến nghị các chủ sở hữu hạ tầng trọng yếu xây dựng chiến lược mua sắm chặt chẽ có tính đến AI. Các tổ chức được khuyến khích “yêu cầu tính minh bạch và các cân nhắc về an ninh từ các nhà cung cấp OT liên quan đến cách AI được tích hợp vào sản phẩm của họ”. Điều này bao gồm việc yêu cầu SBOM (hoặc AIBOM) nêu rõ nguồn gốc và nơi lưu trữ mô hình, cũng như bảo đảm nhà cung cấp công khai việc liệu họ có sử dụng dữ liệu nhạy cảm của đơn vị vận hành để huấn luyện mô hình hay không.
Nhiều CISO nhận thấy rằng các tính năng có hỗ trợ AI đang được âm thầm bổ sung vào phần mềm của bên thứ ba và các dịch vụ SaaS mà không có sự công bố rõ ràng. Hướng dẫn này ủng hộ xu hướng “an toàn theo yêu cầu”, giúp các đơn vị vận hành có đủ thông tin để đưa ra lựa chọn sáng suốt trước khi các tính năng AI được cắm sâu vào môi trường của họ.
Cuối cùng, tài liệu tái khẳng định rằng trách nhiệm cuối cùng thuộc về con người. Nó nhắc nhở rằng “suy cho cùng, con người chịu trách nhiệm đối với an toàn chức năng”. Mô hình “con người trong vòng lặp” được khuyến nghị bảo đảm AI hỗ trợ ra quyết định nhưng không thay thế phán đoán của con người.
