Nguy cơ lộ lọt thông tin từ việc tận dụng ChatGPT để tối ưu hóa công việc

Cụ thể, nền tảng Threat Intelligence của Group-IB đã tìm thấy các thông tin xác thực bị xâm phạm này trong các logs của phần mềm độc hại đánh cắp thông tin được giao dịch trên các thị trường Dark Web trái phép trong năm vừa qua. Số lượng các logs có sẵn chứa các tài khoản ChatGPT bị lộ lọt đã đạt mức cao nhất là 26.802 vào tháng 5/2023.

Theo các kết quả nghiên cứu của Group-IB, khu vực châu Á - Thái Bình Dương là nơi có tập trung số lượng lớn nhất các thông tin xác thực ChatGPT được rao bán trong năm vừa qua.

Các chuyên gia của Group-IB nhấn mạnh rằng, ngày càng có nhiều nhân viên tận dụng Chatbot (hộp trò chuyện) để tối ưu hóa công việc của họ, có thể đó là công việc phát triển phần mềm hoặc truyền thông kinh doanh. Theo mặc định, ChatGPT lưu trữ lịch sử truy vấn của người dùng và các phản hồi của trí tuệ Nhân tạo (AI). Vì vậy, việc truy cập trái phép vào các tài khoản ChatGPT có thể làm lộ thông tin bảo mật hoặc nhạy cảm. Những thông tin này có thể bị khai thác để phục vụ các cuộc tấn công có chủ đích nhằm vào các công ty và nhân viên của họ.

Theo các phát hiện mới nhất của Group-IB, các tài khoản ChatGPT đã trở nên rất phổ biến với các cộng đồng underground.

Nền tảng Threat Intelligence của Group-IB lưu trữ thư viện dữ liệu dark web lớn, theo dõi các diễn đàn tội phạm mạng, thị trường và cộng đồng kín trong thời gian thực để xác định thông tin xác thực (đăng nhập) bị lộ lọt, thẻ tín dụng bị đánh cắp, mẫu phần mềm độc hại mới, quyền truy cập vào các mạng công ty và tin tức tình báo quan trọng khác cho phép các công ty xác định và giảm thiểu rủi ro mạng trước khi bị thiệt hại thêm. Phân tích của Group-IB về các thị trường underground đã cho thấy, phần lớn các logs chứa các tài khoản ChatGPT đã bị phần mềm đánh cắp thông tin khét tiếng Raccoon xâm phạm. Mức độ phổ biến ngày càng tăng của chatbot hoạt động bằng AI được thể hiện rõ ràng qua sự gia tăng liên tục của các tài khoản ChatGPT bị lộ lọt mà nhóm Threat Intelligence của Group-IB đã quan sát được trong suốt năm vừa qua.

Các phần mềm đánh cắp làm việc không chọn lọc. Loại phần mềm độc hại này lây nhiễm cho các máy tính hết mức có thể thông qua thủ đoạn lừa đảo hoặc các phương tiện khác để thu thập càng nhiều dữ liệu càng tốt. Những phần mềm đánh cắp thông tin đã trở thành một nguồn cung cấp dữ liệu cá nhân bị xâm phạm chính do tính đơn giản và hiệu quả của chúng. Các logs chứa thông tin bị xâm phạm do những phần mềm đánh cắp thông tin thu thập được giao dịch sôi nổi trên các thị trường dark web. Thông tin bổ sung về các logs có sẵn trên các thị trường như vậy bao gồm danh sách các tên miền được tìm thấy trong logs cũng như thông tin về địa chỉ IP của máy chủ bị xâm phạm.

Bằng cách phân tích thông tin này, nhóm Threat Intelligence của Group-IB đã xác định được các quốc gia và khu vực có mức độ thiết bị bị nhiễm phần mềm đánh cắp cao nhất có lưu thông tin xác thực ChatGPT. Khu vực châu Á - Thái Bình Dương chứng kiến số lượng tài khoản ChatGPT bị phần mềm đánh cắp thông tin đánh cắp nhiều nhất (40,5%) trong khoảng thời gian từ tháng 6/2022 đến tháng 5/2023.