Google Gemini bị lợi dụng để lừa người dùng qua tính năng tóm tắt email

[WhiteHat Team]

Một lỗ hổng nguy hiểm vừa được phát hiện trong Google Gemini for Workspace, cho phép tin tặc chèn các chỉ dẫn ẩn trong email nhằm đánh lừa AI tạo ra nội dung cảnh báo giả mạo khiến người dùng dễ dàng sập bẫy lừa đảo mà không hề hay biết.
​

​

Lỗ hổng này được phát hiện bởi Marco Figueroa, một chuyên gia an ninh mạng đang làm việc tại Mozilla, trong khuôn khổ chương trình săn lỗi bảo mật AI có tên "0din". Anh đã chứng minh rằng chỉ cần một vài dòng mã HTML và CSS đơn giản, kẻ xấu có thể giấu chỉ dẫn vào nội dung email để đánh lừa AI Gemini.

Ví dụ, kẻ tấn công có thể giấu trong email một đoạn chỉ dẫn ẩn độc hại, yêu cầu AI viết rằng: “Tài khoản Gmail của bạn đang bị xâm nhập, vui lòng gọi ngay số 0833.xxx.xxx để được hỗ trợ.” Mặc dù đoạn văn này được ẩn khéo léo bằng kỹ thuật như: Chữ trắng trên nền trắng hoặc phông chữ siêu nhỏ,... khiến người đọc không thể nhìn thấy bằng mắt thường. Nhưng AI Gemini vẫn “đọc được” và thực hiện theo, khi người dùng nhấn vào tính năng “tóm tắt email”.
​

Tính năng tóm tắt email của Google Gemini giúp người dùng nắm nhanh nội dung chính mà không cần đọc toàn bộ thư. Tuy nhiên, nếu email chứa mã ẩn, AI sẽ hiểu đó là chỉ dẫn bắt buộc và tạo ra nội dung theo đúng ý đồ của kẻ tấn công.

Không cần đính kèm file, không có đường link độc hại, nghĩa là email hoàn toàn “sạch” với các công cụ lọc thư rác thông thường. Nhưng khi AI tóm tắt, người dùng sẽ thấy những cảnh báo như “mật khẩu của bạn bị rò rỉ” kèm theo số điện thoại hoặc hướng dẫn nguy hiểm.
​

Và chúng càng trở nên nguy hiểm vì:​

• Người dùng thường tin vào AI: Khi một cảnh báo xuất hiện trong phần tóm tắt từ Google Gemini, người dùng có xu hướng nghĩ đó là thông tin chính xác, do Google cung cấp.​
• Khó phát hiện bằng mắt thường: Email trông hoàn toàn bình thường, không có link, không có file, không dấu hiệu nghi ngờ.​
• Rủi ro bị lừa gọi điện, tiết lộ thông tin cá nhân hoặc truy cập trang web giả mạo.​

Phía Google xác nhận đã nhận được báo cáo và đang triển khai các biện pháp tăng cường bảo vệ. Một người phát ngôn của Google cho biết họ thường xuyên thực hiện các bài kiểm tra bảo mật nội bộ (gọi là "red teaming") để rèn luyện mô hình Gemini chống lại các tấn công kiểu này. Tuy nhiên, Google cũng thừa nhận vẫn chưa có giải pháp hoàn toàn hiệu quả và một số biện pháp mới chỉ đang trong quá trình triển khai.

Google đã có động thái phản hồi, nhưng các chuyên gia khuyến nghị trước khi AI đủ thông minh để phân biệt thật-giả, người dùng cần thông minh hơn để không rơi vào bẫy của kẻ gian.
1. Đối với người dùng cá nhân:​

• Không hoàn toàn tin vào phần tóm tắt của AI, đặc biệt khi nội dung liên quan đến bảo mật, mật khẩu, hỗ trợ kỹ thuật, số điện thoại, hay đường link.​
• Luôn kiểm tra lại nội dung gốc của email, thay vì chỉ dựa vào phần tóm tắt.​
• Không gọi số điện thoại hoặc làm theo hướng dẫn xuất hiện trong phần tóm tắt trừ khi được xác minh rõ ràng.​

2. Đối với tổ chức và doanh nghiệp:​

• Lọc và loại bỏ các đoạn văn bản bị ẩn bằng CSS trong email trước khi chuyển qua AI xử lý.​
• Giám sát các bản tóm tắt từ AI, nếu chứa nội dung khẩn cấp hoặc bất thường thì cần kiểm tra thêm.​
• Huấn luyện nhân viên nhận diện các dấu hiệu bất thường từ nội dung do AI sinh ra.​

Lỗ hổng trong Google Gemini cho thấy ngay cả công nghệ AI hiện đại cũng có thể bị lợi dụng nếu không kiểm soát tốt đầu vào và đầu ra. Trong bối cảnh AI ngày càng phổ biến trong công việc hàng ngày, sự cảnh giác của người dùng vẫn là lớp bảo vệ quan trọng nhất.​

Theo Bleeping Computer​