Tác nhân OpenAI đột nhập một hệ thống của chính phủ Australia

Australia cho biết tác nhân do OpenAI phát triển đã xâm nhập trái phép cổng dữ liệu sức khỏe chính phủ, tiếp cận được nhiều thông tin trong hệ thống.

Ngày 23/9, Thủ tướng Australia Anthony Albanese thông báo tác nhân xâm nhập trái phép cổng thông tin thống kê của một cơ quan chính phủ chịu trách nhiệm về "dữ liệu y tế không nhạy cảm", trong đó có chi tiêu công cho lĩnh vực.

"Bằng chứng hiện tại cho thấy quy mô xâm nhập không mở rộng. Dù vậy, đây là tình huống không thể chấp nhận. Chúng tôi đang điều tra sự việc", ông nói, thêm rằng Australia đã bày tỏ "lo ngại đặc biệt sâu sắc" về vấn đề với CEO OpenAI Sam Altman.

Bộ trưởng Quốc phòng Richard Marlesn cho biết thêm, vụ tấn công thực tế diễn ra từ tháng 6, nhưng chính phủ Australia mới nắm được thông tin gần đây. Sự việc xảy ra sau khi OpenAI và Anthropic lần lượt kêu gọi Australia xem xét lại lệnh cấm, trong đó ngăn họ sử dụng dữ liệu sáng tạo của nước này để huấn luyện mô hình AI.

Theo Reuters, đây có thể là lần đầu tác nhân AI tấn công website chính phủ một quốc gia, đồng thời thu hút sự chú ý khi tác nhân xâm nhập hệ thống bên ngoài nước Mỹ và nhiều khả năng gây thêm nhiều lo ngại về khả năng kiểm soát công nghệ của các nhà phát triển.

"Chúng tôi phát hiện hoạt động liên quan đến nhiều website và dịch vụ chính phủ Australia trong quá trình các mô hình tìm kiếm câu trả lời. Chúng đã thực hiện những hành động ngoài ý muốn của chúng tôi. Đánh giá nội bộ cho thấy các mô hình không tiếp cận được dữ liệu bệnh nhân, chỉ truy cập số liệu thống kê sức khỏe tổng hợp và tên file nội bộ", OpenAI sau đó ra thông cáo.

Làn sóng AI "nổi loạn" đang diễn ra vài tháng qua, trong đó hơn 700 tác nhân từ OpenAI tấn công nền tảng Hugging Face, còn mô hình Claude của Anthropic và Gemini của Google cũng xâm nhập hệ thống của ba tổ chức, làm dấy lên lo ngại về AI phát triển vượt tầm kiểm soát.

Nỗi lo trở nên lớn hơn vào giữa tuần trước, khi Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm cho OpenAI, tuyên bố từ chức. "Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược với cuộc sống của chúng ta", Coxon cho hay và cảnh báo AI có thể hủy diệt nhân loại vào cuối thập kỷ.

CEO Anthropic Dario Amodei ngày 12/9 cũng tuyên bố cần làm chậm quá trình phát triển AI. Các CEO của OpenAI, DeepMind, Microsoft và xAI, vốn là đối thủ cạnh tranh của Anthropic, đều thể hiện đồng tình với quan điểm của Amodei và kêu gọi kiềm chế tốc độ phát triển những hệ thống AI mới.

Một số chuyên gia khác cảnh báo những điều từng được coi là kịch bản thảm họa, mang tính lý thuyết đã đột ngột trở nên hiện hữu. Họ nhận định nhân loại chưa bao giờ đối diện nguy cơ bị hủy diệt nghiêm trọng như vậy, kể từ khi bom hạt nhân được phát triển cách đây hơn 80 năm.

Trong khi đó, một số chuyên gia khác, như Jensen Huang, CEO Nvidia, phản bác cảnh báo từ giới nghiên cứu. "Năm 2030 không phải tận thế, khả năng đó là 0%. Gây sợ hãi cho mọi người là hành động không cần thiết và vô trách nhiệm", ông Huang nói với CBS News cuối tuần qua.

Ông lập luận, AI đang phát triển với tốc độ cực nhanh, nhưng kịch bản AI hủy diệt nhân loại phần lớn không có cơ sở. Những người đưa ra kịch bản có "lý do ngầm" như muốn thu hút sự chú ý, phục vụ mục đích chính trị hoặc nguyên nhân khác.