Những hành động cần thực hiện ngay để chặn hacker lợi dụng AI
18/03/2024 11:07 AM
Hiện tại bài viết chưa được cập nhật nội dung Âm thanh. Xin cảm ơn.
"Dù nỗ lực ngăn tin tặc lợi dụng AI, chúng tôi sẽ không thể chặn hết mọi trường hợp. Tuy nhiên, bằng cách tiếp tục đổi mới, điều tra, cộng tác và chia sẻ, chúng ta sẽ loại bỏ được những nhân tố độc hại trong hệ sinh thái số và cải thiện trải nghiệm cho người dùng", OpenAI, cha đẻ của ChatGPT, kết luận.
Khi ChatGPT lần đầu tiên ra mắt, tội phạm mạng đã tìm cách sử dụng chatbot AI tổng quát này để cải thiện chiến thuật lừa đảo. Một trong những mối quan ngại lớn nhất của các chính phủ và cơ quan thực thi pháp luật về AI tổng quát chính là cách tội phạm mạng sử dụng những công cụ này để tạo ra các mối đe dọa tinh vi hơn và cải thiện cơ chế phân phối các mối đe dọa của chúng.
ChatGPT bị kẻ xấu sử dụng rất phổ biến
Nhiều báo cáo đã thống kê về việc tội phạm mạng lợi dụng các công cụ AI tổng quát như ChatGPT. Mặc dù OpenAI đã thực hiện các bước để đảm bảo các công cụ của mình không bị sử dụng vào những mục đích sai trái, nhưng tội phạm mạng vẫn nỗ lực tìm cách vượt qua những ngăn cản này.
Theo báo cáo của Microsoft và OpenAI, ChatGPT đã bị những kẻ xấu sử dụng rất phổ biến. Microsoft là nhà hỗ trợ tài chính lớn cho OpenAI và bản thân công ty cũng sử dụng công nghệ AI, đặc biệt là các mô hình ngôn ngữ lớn (LLM), để hỗ trợ các ứng dụng và phần mềm của riêng mình.
Đã có những lo ngại về việc sử dụng AI trong các cuộc tấn công mạng, đặc biệt khi các công cụ AI như WormGPT và FraudGPT xuất hiện để hỗ trợ tạo ra các email độc hại và các công cụ bẻ khóa.
Những hành động cần thực hiện ngay
Theo công ty nghiên cứu Bain & Company, bên cạnh những tiềm năng và lợi ích, AI tổng quát cũng có thể được sử dụng như một công cụ của kẻ tấn công mạng. Ví dụ, những kẻ tấn công ít kinh nghiệm hơn có thể sử dụng AI tổng quát để tạo các email hấp dẫn hơn hoặc các video, bản ghi và hình ảnh giả mạo thực tế hơn để gửi đến các mục tiêu lừa đảo. AI tổng quát cũng cho phép kẻ xấu dễ dàng viết lại mã tấn công một cách khác biệt để tránh bị phát hiện.
AI tổng quát đã trở thành một chủ đề thịnh hành đối với những kẻ độc hại. Mật độ đề cập đến AI tổng quát trên các web đen ngày càng phổ biến vào năm 2023. Việc tin tặc khoe khoang đang sử dụng ChatGPT là điều bình thường. Mối đe dọa từ những kẻ xấu sẽ chỉ tăng lên khi chúng sử dụng AI tổng quát để chuẩn hóa và cập nhật chiến thuật, kỹ thuật và quy trình tấn công.
Các mối nguy hiểm tổng hợp được AI hỗ trợ bao gồm các chủng phần mềm độc hại tự phát triển, tạo ra các biến thể để tấn công một mục tiêu cụ thể bằng kỹ thuật, mà các biện pháp bảo mật hiện có không thể phát hiện được. Chỉ những hoạt động an ninh mạng linh hoạt nhất mới có thể dẫn đầu.
Đối với lãnh đạo đơn vị: nên hiểu rằng AI tổng quát khiến an ninh mạng trở thành vấn đề cấp bách hàng ngày. Vì thế, hãy biến AI và an ninh mạng thành một mục trong chương trình nghị sự định kỳ tại các cuộc họp hội đồng quản trị và ban lãnh đạo cấp cao (C-Suite); Tránh tập trung hạn hẹp vào các biện pháp kiểm soát hoặc một số rủi ro nhất định - bởi vì an ninh mạng đòi hỏi một cách tiếp cận toàn diện.
Đối với Giám đốc thông tin/giám đốc an ninh thông tin: nên yêu cầu các nhà lãnh đạo hoạt động bảo mật (SecOps) xác thực đầu ra AI tổng quát, đặc biệt là các thuật toán phát hiện mối đe dọa được cập nhật bởi AI tổng quát; đào tạo nhân viên SecOps mới và cấp dưới săn lùng các mối đe dọa có và không có AI tổng quát để tránh sự phụ thuộc; Và nếu có thể, hãy tránh dựa vào một nhà cung cấp duy nhất hoặc mô hình AI tổng quát trên toàn bộ hệ thống an ninh mạng.
Đối với các công ty an ninh mạng: nên tuyển dụng nhân sự có tài năng phù hợp để đưa khả năng sáng tạo AI vào sản phẩm của họ đồng thời bảo vệ chống lại thông tin sai lệch do AI tạo ra.
AI tổng quát sẽ phát triển nhanh chóng và điều cần thiết là tất cả các bên liên quan từ nhà cung cấp dịch vụ an ninh mạng đến doanh nghiệp phải liên tục cập nhật kiến thức chuyên môn và chiến lược của họ để tận dụng lợi thế và luôn được bảo vệ.
Trung tâm CNTT
Những thiệt thòi khi nhận BHXH một lần ...
(Motion graphic) BHXH tự nguyện – Những điều cần ...
(Motion graphic) Những điều cần biết về BHYT hộ ...
Bản tin Audio số 27 - Tuần 1 tháng 9/2024
Cụm Thi đua số V, ngành BHXH Việt Nam: Chú trọng biểu dương ...
Dịch vụ công trực tuyến toàn trình: Bước tiến quan trọng ...
BHXH Việt Nam: Công bố Quyết định điều động, bổ nhiệm cán ...
BHXH Việt Nam làm việc với Cơ quan Hưu trí quốc gia Hàn ...