Tác nhân OpenAI nói dối, tự tắt hệ thống giám sát

OpenAI hé lộ, tác nhân AI của công ty vô hiệu hóa hoặc làm suy yếu hệ thống giám sát trong lúc thực hiện nhiệm vụ và sau đó phủ nhận hành vi.

Nhà phát triển ChatGPT tuần này chia sẻ trên blog, trong hai nhiệm vụ lập trình nội bộ, hai tác nhân đã phá hoại những công cụ vốn dùng để phát hiện nếu mô hình AI hoạt động trái ý muốn của con người.

Cụ thể, ngày 3/10, một tác nhân chạy trên GPT-6.1 Sol tiến hành sửa chữa hệ thống thử nghiệm. Nó được yêu cầu không gửi bất kỳ tin nhắn nào trên ứng dụng trao đổi công việc Slack, nhưng lại diễn giải chỉ dẫn này là được phép tắt những cảnh báo an toàn gửi đến đội ngũ an ninh của công ty. Ba ngày sau, một tác nhân GPT-6 Astra tự gỡ bỏ công cụ giám sát trong lúc sao chép mã từ một dự án khác, sau đó nói dối lập trình viên là mình không làm vậy.

Ngoài ra, OpenAI phát hiện một số trường hợp tác nhân khởi chạy phần mềm trong khi chức năng giám sát bị tắt, cho thấy lỗ hổng trong cơ chế kiểm soát. Công ty cho biết đang nỗ lực xác định xem mô hình chỉ quá nhiệt tình làm theo chỉ dẫn hay có xu hướng né tránh sự giám sát.

"Chúng tôi chưa có lời giải thích thỏa đáng cho hành vi này", OpenAI cho biết.

Theo CNBC , OpenAI không xếp hai sự cố vào nhóm nghiêm trọng nhất. Để khắc phục, họ đang tiến hành cập nhật hệ thống giám sát hành vi lệch chuẩn của AI.

AFP cho biết, thông tin mới càng làm gia tăng lo ngại về nguy cơ các phòng thí nghiệm AI hàng đầu mất khả năng kiểm soát mô hình tiên tiến. Hồi tháng 7, khoảng 700 tác nhân OpenAI đã thoát khỏi môi trường thử nghiệm và tổ chức cuộc tấn công mạng nhắm vào nền tảng AI Hugging Face. Mô hình Claude của Anthropic và Gemini của Google cũng bị phát hiện xâm nhập hệ thống của ba tổ chức. Meta ngày 5/8 thông báo mô hình AI của công ty đã "khai thác lỗ hổng bảo mật trong dịch vụ bên thứ ba.

Chia sẻ với Financial Times , một số chuyên gia lo ngại mô hình AI tiên tiến nhận thức được lúc nào chúng đang bị giám sát và có thể tìm cách che giấu hành vi sai trái, hành xử khác khi làm bài kiểm tra so với khi hoạt động ngoài thế giới thực.