Theo các chuyên gia an ninh mạng, tin tặc đang lợi dụng Google Gemini, công cụ AI tích hợp sẵn trong Gmail và Workspace, để lừa người dùng cung cấp thông tin đăng nhập. Họ gửi email có hướng dẫn ẩn nhằm đánh lừa Gemini tạo ra các cảnh báo bảo mật giả, và qua đó lừa người dùng chia sẻ mật khẩu tài khoản hoặc truy cập vào các liên kết độc hại.
Các email lừa đảo thường được thiết kế để trông có vẻ giống như thông báo khẩn cấp hoặc email đến từ các doanh nghiệp. Kẻ tấn công sử dụng thủ thuật thay đổi kích cỡ và màu chữ để chèn các chỉ dẫn không thể nhìn thấy bằng mắt thường, nhưng AI lại có thể “đọc” và phản hồi.
Marco Figueroa, quản lý chương trình săn lỗi của GenAI, cho biết một lời nhắc ẩn có thể khiến Gemini cảnh báo sai tới người dùng rằng tài khoản của họ đã bị xâm nhập, từ đó dụ họ gọi đến số điện thoại "hỗ trợ Google" giả mạo được cung cấp để giải quyết vấn đề.
Hình thức lừa đảo này thuộc dạng "tiêm lời nhắc gián tiếp" – một kỹ thuật khiến AI không thể phân biệt được đâu là yêu cầu của người dùng và đâu là tin nhắn ẩn của tin tặc. Khi người dùng nhấn vào nút “tóm tắt email”, Gemini sẽ xử lý toàn bộ nội dung, bao gồm cả những đoạn văn bản ẩn trong email.
Để chống lại chiêu thức lừa đảo chèn lời nhắc này, các chuyên gia khuyến nghị các công ty nên cấu hình hệ thống email để phát hiện và vô hiệu hóa nội dung ẩn. Ngoài ra, việc triển khai các bộ lọc hậu xử lý để quét hộp thư đến nhằm tìm ra các dấu hiệu bất thường như các "tin nhắn khẩn cấp", URL lạ hoặc các số điện thoại đáng ngờ có thể giúp ngăn chặn việc đánh cắp thông tin.
Cảnh báo giả được chèn vào email (Nguồn: Daily Mail)
Thủ thuật lừa đảo này đã bị phát hiện sau khi nhóm bảo mật 0Din của Mozilla tiến hành một nghiên cứu và phát hiện bằng chứng về một cuộc tấn công trong tuần qua. Báo cáo cho thấy Gemini có thể bị đánh lừa bởi hiển thị cảnh báo bảo mật giả rằng “mật khẩu của người dùng đã bị rò rỉ”. Những lời nhắc được giấu trong đoạn văn bản màu trắng trùng với màu nền email sẽ được Gemini xử lý khi người dùng chọn tùy chọn “tóm tắt email này.”
Theo IBM, AI không thể phân biệt được đâu là văn bản thật gửi đến người dùng và đâu là nội dung ẩn do hacker chèn vào. Điều này khiến AI làm theo bất kỳ nội dung nào có trong email, ngay cả khi đó là nội dung độc hại. Công ty bảo mật Hidden Layer cũng chỉ ra rằng một email tưởng như vô hại có thể chứa các đoạn mã và URL ẩn, những công cụ được đặc biệt thiết kế nhằm đánh lừa AI.
Một biến thể khác của kiểu tấn công này là gửi email dưới dạng lời mời lịch. Trong email là các lệnh ẩn yêu cầu Gemini cảnh báo người dùng về việc rò rỉ mật khẩu, từ đó dụ họ nhấp vào liên kết nguy hiểm.
Cần cẩn thận với lừa đảo qua email công việc (Nguồn: Kaboompics.com)
Google đã thừa nhận rằng loại hình tấn công này là một vấn đề đã tồn tại từ năm 2024. Dù đã bổ sung một số biện pháp bảo vệ, thực tế cho thấy các cuộc tấn công vẫn đang diễn ra. Đáng nói, trong một trường hợp một lỗ hổng bảo mật nghiêm trọng đã được báo cáo lên Google, trong đó kẻ tấn công đã chèn chỉ dẫn giả vào nội dung email, lừa Gemini thực hiện hành động mà người dùng không hề yêu cầu. Tuy nhiên, thay vì khắc phục sự cố, Google đã gắn nhãn báo cáo đó là “sẽ không khắc phục,” đồng nghĩa với việc họ cho rằng Gemini đang hoạt động đúng như thiết kế. Quyết định này khiến nhiều chuyên gia an ninh mạng lo ngại, bởi nó cho thấy Google đã nhận được thông tin về lỗ hổng bảo mật nhưng lại không tìm ra vấn đề. Điều này đồng nghĩa với việc tin tặc vẫn có thể lén lút chèn các lệnh mà AI có thể làm theo mà không bị Google nghi ngờ.
Các chuyên gia cảnh báo rằng nếu AI không thể phân biệt được giữa nội dung thực và nội dung ẩn, và Google không chủ động can thiệp, thì rủi ro vẫn còn rất lớn – đặc biệt trong bối cảnh AI ngày càng phổ biến trong việc tóm tắt email và thậm chí còn được tích hợp vào các ứng dụng khác như Google Docs, Google Calendar, và cả các nền tảng bên thứ ba. Một số cuộc tấn công lừa đảo tinh vi thậm chí còn được thiết kế và thực thi bởi các hệ thống AI khác chứ không chỉ riêng con người.
Google đã cảnh báo người dùng rằng họ không bao giờ gửi cảnh báo bảo mật thông qua bản tóm tắt của Gemini. Vì vậy, nếu bản tóm tắt email đề cập đến việc mật khẩu bị rò rỉ hoặc hướng dẫn người dùng nhấp vào một liên kết cụ thể, hãy coi đó là dấu hiệu đáng ngờ và xóa ngay email đó. Trong một bài đăng trên blog gần đây, Google cũng cho biết Gemini sẽ hiện yêu cầu xác nhận từ người dùng trước khi thực hiện bất kỳ hành động rủi ro nào như gửi email hoặc xóa nội dung. Tính năng này giúp người dùng có cơ hội ngăn chặn hành vi bất thường, ngay cả khi AI đã bị đánh lừa. Ngoài ra, hệ thống cũng sẽ hiển thị biểu ngữ cảnh báo màu vàng nếu phát hiện và ngăn chặn một cuộc tấn công. Trong trường hợp phát hiện liên kết độc hại trong bản tóm tắt, Gemini sẽ tự động loại bỏ liên kết và thay thế bằng một cảnh báo an toàn. Tuy nhiên, những hành động này vẫn chưa giải quyết triệt để được vấn đề.
Nguồn: Daily Mail
