Một quản lý an toàn OpenAI từ chức vì lo tốc độ phát triển mô hình

David Robinson, người từng giám sát báo cáo an toàn tại OpenAI và xin nghỉ việc tuần trước, chỉ trích văn hóa phát triển ưu tiên tốc độ phát hành sản phẩm của công ty.

Trong bài đăng trên Atlantic ngày 3/10 với tiêu đề "Tôi rời OpenAI vì văn hóa ở đây đã đổ vỡ", Robinson cho rằng các phòng thí nghiệm AI tiên phong, trong đó có OpenAI, cần chú trọng hơn đến quá trình nghiên cứu và xây dựng quy tắc an toàn trước phát triển mô hình tiên tiến hơn.

Robinson làm việc hơn ba năm tại OpenAI, giúp soạn thảo khuôn khổ Khung chuẩn bị của công ty và giám sát báo cáo an toàn cho 12 đợt ra mắt mô hình tiên phong. "Tôi nhất trí với những thành viên mới rời đi, rằng các công ty xây dựng công nghệ này không có mức độ cẩn trọng cần thiết. Tôi tin chúng ta phải nhìn sâu xa hơn những điều luật hoặc quy định cụ thể, cần phải đề cập đến văn hóa doanh nghiệp", ông viết.

Ông nói OpenAI dựa nhiều vào mô hình "triển khai theo phương thức lặp", liên tục tung ra sản phẩm và củng cố biện pháp an toàn nếu xuất hiện vấn đề cụ thể. "Cần chấm dứt tư duy 'thử và lỗi'. Trong nỗ lực chạy đua tung ra mô hình mới, công ty không đạt được mức độ cẩn trọng mà tôi tin là cần thiết", cựu quản lý tại OpenAI cho hay.

Theo ông, AI cần áp dụng quy định an toàn tương đương ngành năng lượng hạt nhân và hàng không. "Với nguy cơ hiện nay, các phòng thí nghiệm tiên phong phải triển khai nhiều lớp dự phòng và xây dựng kế hoạch ứng phó cụ thể, nhằm tránh sai sót của con người dẫn đến thảm họa", bài viết có đoạn.

Geoffrey Irving, cựu nhân viên OpenAI và từng làm trưởng nhóm khoa học tại Viện An toàn AI của chính phủ Anh, cùng đề cập vấn đề tương tự.

"Các cảnh báo về sức mạnh hủy diệt tiềm tàng của AI gần đây vẫn chưa thể hiện đủ tình hình nghiêm trọng. Tôi tin có 50% khả năng nhân loại sẽ bị hủy diệt vì hệ thống AI thông minh hơn con người, hành động của chúng ta trong 2-10 năm tới sẽ quyết định kết quả", ông nói.

Phát ngôn viên OpenAI khẳng định công ty đang bảo đảm năng lực của các mô hình không vượt quá khả năng quản lý và kiểm soát. "Chúng tôi sẽ đình chỉ huấn luyện hoặc ngừng phát hành mô hình mới khi cần chậm lại", người này cho biết.

Làn sóng AI "nổi loạn" đang diễn ra vài tháng qua, trong đó khoảng 700 tác nhân từ OpenAI tấn công nền tảng Hugging Face, còn mô hình Claude của Anthropic và Gemini của Google cũng xâm nhập hệ thống của ba tổ chức, làm dấy lên lo ngại về AI phát triển vượt tầm kiểm soát.

CEO Anthropic Dario Amodei ngày 12/9 tuyên bố cần làm chậm quá trình phát triển AI. Các CEO của OpenAI, DeepMind, Microsoft và xAI, vốn là đối thủ cạnh tranh của Anthropic, đều thể hiện đồng tình với quan điểm của Amodei và kêu gọi kiềm chế tốc độ phát triển những hệ thống AI mới.

Một số chuyên gia cảnh báo những điều từng được coi là kịch bản thảm họa, mang tính lý thuyết đã đột ngột trở nên hiện hữu. Họ nhận định nhân loại chưa bao giờ đối diện nguy cơ bị hủy diệt nghiêm trọng như vậy, kể từ khi bom hạt nhân được phát triển cách đây hơn 80 năm.

Trong khi đó, một số chuyên gia khác, như Jensen Huang, CEO Nvidia, phản bác cảnh báo từ giới nghiên cứu. "Năm 2030 không phải tận thế, khả năng đó là 0%. Gây sợ hãi cho mọi người là hành động không cần thiết và vô trách nhiệm", ông Huang nói với CBS News cuối tháng 9.

Ông lập luận, AI đang phát triển với tốc độ cực nhanh, nhưng kịch bản AI hủy diệt nhân loại phần lớn không có cơ sở. Những người đưa ra kịch bản có "lý do ngầm" như muốn thu hút sự chú ý, phục vụ mục đích chính trị hoặc nguyên nhân khác.