AI tạo lỗ hổng sinh học chưa từng phát hiện

AI được sử dụng để thiết kế các chuỗi DNA. Ảnh: The Washington Post.

Một nhóm nghiên cứu do Microsoft dẫn đầu đã phát hiện một lỗ hổng bảo mật chưa được nhận diện trong hệ thống vốn dùng để bảo vệ con người khỏi các mối đe dọa sinh học, kẻ xấu phục vụ chiến tranh hay khủng bố. Theo đó, hệ thống này thường dễ bỏ sót các độc tố được thiết kế bằng AI.

Trong những năm gần đây, các nhà khoa học đã sử dụng AI để tự thiết kế các chuỗi DNA. Với những công cụ này, các nhà khoa học có thể tạo ra protein giúp phân hủy ô nhiễm nhựa, chống lại bệnh tật, hoặc tăng khả năng chống chịu cho cây trồng. Tuy nhiên, một số chuỗi này có thể mã hóa protein độc nên cần kiểm tra trước khi đưa vào sử dụng.

Điều đang xảy ra với ngành khoa học này là tốc độ phát triển công nghệ nghiên cứu nhanh hơn rất nhiều so với khâu quản lý rủi ro. “Khoảng cách đó đang mở rộng nhanh chóng ngay khi chúng ta vẫn đang ngồi bàn về việc cần làm gì với những thứ vừa được công bố”, David Relman, nhà vi sinh vật học tại Trường Y Stanford, nhận định.

Mối đe dọa sinh học có nhiều dạng khác nhau. Một số là mầm bệnh, chẳng hạn như virus và vi khuẩn. Số khác là độc tố dựa trên protein, như ricin từng được gửi đến Nhà Trắng năm 2003. Ngoài ra còn có các độc tố hóa học được tạo ra qua các phản ứng enzyme, chẳng hạn những phân tử liên quan đến hiện tượng thủy triều đỏ.

Tháng 10/2023, hai nhà khoa học tại Microsoft đã phát hiện một lỗ hổng nghiêm trọng trong hệ thống kiểm duyệt DNA. Những mãi đến gần đây, một báo cáo đăng trên tạp chí Science tiết lộ chi tiết cách các nhà nghiên cứu đã tạo ra hàng nghìn phiên bản độc tố được AI thiết kế vẫn thoát khỏi bị phát hiện.

Protein là những khối xây dựng của sự sống và có thể được “viết” dưới dạng một chuỗi ký tự. Trong nghiên cứu thử nghiệm, Eric Horvitz và Bruce Wittmann tại Microsoft đã dùng AI để viết lại một số đoạn mã của ricin, loại chất độc chết người có trong hạt thầu dầu, và tạo ra hàng chục nghìn mã mới, nhưng vẫn có khả năng mang độc tố.

Khi kiểm tra kỹ thuật sàng lọc an ninh sinh học, họ phát hiện rằng gần như 100% các protein giống ricin do AI tạo ra đã vượt qua hệ thống phát hiện. Nhóm nghiên cứu coi sự cố này là “zero-day” đầu tiên trong lĩnh vực AI và an ninh sinh học, để chỉ những khoảng trống chưa từng được biết đến và dễ bị khai thác.

Theo một khung pháp lý liên bang, các nhà nghiên cứu nhận tài trợ từ chính phủ buộc phải đặt hàng tại các công ty tổng hợp DNA có sử dụng phần mềm kiểm duyệt an ninh sinh học. Đáng lo ngại là hệ thống này vẫn tồn tại nhiều lỗ hổng có thể cho phép con người tạo ra độc tố do AI thiết kế mà không bị phát hiện.

Không chỉ vậy, như nghiên cứu mới cho thấy, phần mềm kiểm duyệt cũng có thể bị qua mặt, và không phải công ty nào cũng có triển khai. Ngoài ra, con người cũng có thể thiết kế ra những dạng độc tố hoàn toàn mới có thể thoát khỏi sự phát hiện.

Những nhà khoa học hàng đầu trong ngành công nghiệp và các chuyên gia an ninh sinh học đã thiết kế một bản vá để khắc phục vấn đề này bằng 4 phương pháp kiểm duyệt khác nhau. Tuy nhiên, họ cảnh báo rằng giới chuyên môn sẽ còn phải tiếp tục tìm kiếm những lỗ hổng tương tự trong tương lai.

“Cách duy nhất chắc chắn để tránh rắc rối là ghi nhận lại toàn bộ hoạt động tổng hợp DNA, để nếu xuất hiện một loại virus đáng lo ngại hay tác nhân sinh học mới, trình tự đó có thể được đối chiếu với cơ sở dữ liệu DNA đã ghi nhận để xác định nguồn gốc”, David Baker, nhà khoa học từng nhận giải Nobel Hóa học nhờ công trình nghiên cứu về protein, cho biết.