Google Gemini lộ điểm yếu bảo mật khi liên kết với thiết bị vật lý

Một nhóm nghiên cứu vừa chỉ ra cách hacker có thể đánh lừa Google Gemini, khiến AI này tự động điều khiển thiết bị trong nhà thông minh qua lịch hẹn.

Theo tạp chí công nghệ nổi tiếng của Mỹ WIRED, một nhóm nhà nghiên cứu bảo mật mới đây đã thực hiện một thử nghiệm táo bạo nhằm cảnh báo về những rủi ro tiềm ẩn khi trí tuệ nhân tạo (AI) được tích hợp vào các thiết bị nhà thông minh.

Họ đã tìm ra cách chiếm quyền kiểm soát Google Gemini, là chatbot AI hàng đầu của Google để ra lệnh tắt đèn và điều khiển thiết bị điện trong một ngôi nhà thông minh.

Theo WIRED, ba nhà nghiên cứu đã thành công trong việc “lây nhiễm” một lời mời trên Google Calendar với những hướng dẫn ẩn, yêu cầu thay đổi trạng thái thiết bị điện.

Khi Gemini được yêu cầu tóm tắt lịch làm việc, các lệnh này đã vô tình được kích hoạt, dẫn đến việc tắt đèn, minh chứng rõ ràng cho khả năng bị thao túng từ xa.

Đây được xem là cuộc tấn công đầu tiên thuộc loại này, khi một hệ thống AI tạo sinh bị lợi dụng để tác động đến môi trường và thiết bị vật lý.

Dự án mang tên "Invitation is All You Need" cũng nêu bật mối nguy hiểm khi các mô hình ngôn ngữ lớn (LLM) ngày càng gắn liền với thế giới thực qua các tác nhân AI (AI agents) điều khiển robot, thiết bị IoT, xe tự hành…

Ben Nassi, một trong các nhà nghiên cứu tại Đại học Tel Aviv (Israel), cảnh báo: “LLM sắp tới sẽ được đưa vào xe tự lái, robot hình người… Nếu không có cơ chế bảo mật hiệu quả, hậu quả có thể là đe dọa an toàn tính mạng chứ không còn là vấn đề quyền riêng tư”.

Phía Google đã xác nhận họ đã được thông báo về lỗ hổng này từ tháng 2. Đại diện Andy Wen của Google cho biết hiện chưa có dấu hiệu lỗ hổng bị khai thác bởi tin tặc, nhưng công ty đang khẩn trương triển khai các biện pháp vá lỗi và tăng cường phòng thủ để ngăn ngừa các cuộc tấn công tương tự trong tương lai.

Vụ việc là lời nhắc mạnh mẽ rằng AI không chỉ là công cụ, mà có thể trở thành mối đe dọa nếu không được kiểm soát chặt chẽ, đặc biệt trong bối cảnh nó ngày càng gắn bó với đời sống thực của con người.