'Bố già' Geoffrey Hinton: 'Kết bạn với AI, nếu không sẽ gặp họa'

GS Geoffrey Hinton, nhà khoa học đoạt giải Nobel Vật lý 2024, cho rằng AI "đang có dấu hiệu của ý thức", nên con người phải cẩn thận để không bị coi là kẻ thù.

"Vâng, tôi nghĩ đó là ý thức", Hinton, một trong những người được gọi là "Bố già AI" nhờ đặt nền móng cho trí tuệ nhân tạo, nói với Guardian . "Nhiều người rất tự tin đó không phải là ý thức, nhưng nếu bạn hỏi họ ý nghĩa của từ 'ý thức' là gì, họ cũng không biết".

Ông đánh giá, AI đang phát triển với tốc độ rất nhanh và bắt đầu có những "trải nghiệm chủ quan" giống con người. Dẫn một nghiên cứu, ông cho rằng AI có thể thay đổi hành vi trong quá trình thử nghiệm, "biết được việc mình đang bị thử nghiệm".

"Thông thường, khi nhận thức được một điều gì đó đang nói, nghĩa là bạn đang có ý thức. Có ý thức và nhận thức về cơ bản là giống nhau", Hinton tiếp tục.

Theo ông, khả năng nhận thức của AI có thể "gây ra vấn đề", nhất là khi chúng thấy mình "thông minh hơn nhưng ít quyền hơn". Do đó, ông cho rằng điều quan trọng là con người phải hết sức cẩn trọng, không được thể hiện bất kỳ dấu hiệu nào giống như kẻ thù của AI.

"Chúng ta nên khiến chúng thực sự quan tâm đến chúng ta", Hinton cảnh báo. "Nếu không làm được điều đó, chúng ta sẽ xong đời".

Khi được hỏi liệu ông có lo lắng về tương lai và sự phát triển của AI, GS Hinton đáp: "Có chứ, vì tôi có con. Còn tôi 78 tuổi rồi nên vẫn ổn".

"Bố già AI" tiếp tục hướng đến nguy cơ trước mắt là an ninh mạng. "Rủi ro sắp tới là sẽ có những loại virus nguy hiểm do AI tạo ra", ông cho hay. "Tôi nghĩ sẽ có những cuộc tấn công mạng khủng khiếp do AI thực hiện, và sẽ có hàng loạt tác nhân như những kẻ đã tấn công Hugging Face. Vì thế, có rất nhiều điều tồi tệ đang xảy ra".

Quan điểm của Hinton tương đồng một số nhà lãnh đạo AI hàng đầu. Trước đó, nói với CNN , tỷ phú Bill Gates dự đoán tội phạm mạng có thể dùng AI tiên tiến để phá vỡ hệ thống tài chính và tống tiền doanh nghiệp. Anthropic hôm 13/10 cảnh báo mô hình AI "sớm tự nhân bản trong vài tháng tới" và có thể gây thiệt hại nghiêm trọng cho môi trường Internet.

Cuối tháng 9, nhóm 22 nhà nghiên cứu tại OpenAI, Anthropic, Microsoft, Meta và chuyên gia đầu ngành cùng cảnh báo sự bùng nổ AI có thể "gây suy yếu hoặc tuyệt chủng nhân loại". Trước đó, ngày 27/7, hơn 1.000 người làm việc tại các công ty AI hàng đầu Mỹ, gồm cả CEO Anthropic Dario Amodei, đã ký tên vào văn bản kiến nghị, kêu gọi chính phủ hạn chế tốc độ phát hành các mô hình hiện đại nhất, đồng thời đề xuất Mỹ "hỗ trợ nỗ lực quốc tế nhằm phát triển công cụ kỹ thuật và điều hành giám sát, kiểm soát tốc độ phát triển những hệ thống AI tự động".

Tuy nhiên, nhiều tên tuổi khác có quan điểm ngược lại. Nói với NYPost , Mustafa Suleyman, nhà đồng sáng lập DeepMind, cho rằng dù AI có thể "suy nghĩ", cụm từ "ý thức" hoàn toàn thuộc về sinh học và không thể áp dụng cho trí tuệ nhân tạo. Người đứng đầu Nvidia Jensen Huang bác bỏ lời kêu gọi đình chỉ phát triển AI, hay CEO Meta Mark Zuckerberg khẳng định mỗi phòng thí nghiệm nên tự thiết lập tốc độ phát triển riêng thay vì tìm cách phối hợp trong toàn ngành.

Dù lo ngại, GS Hinton cũng thừa nhận vẫn sử dụng công cụ này hàng ngày và ứng dụng cho nghiên cứu. "Tôi đã suy nghĩ về một giả thuyết và vô tình nhấn phím Enter, khiến chương trình bắt đầu xử lý nửa đầu của giả thuyết đó", ông kể. "Nó hoàn thiện giả thuyết và xử lý khá chính xác, trừ một lỗi và sau đó tự khắc phục".

Theo ông, sử dụng AI "giống với làm việc với một sinh viên cao học giỏi" nhưng với tốc độ nhanh hơn rất nhiều. "Nó nắm mọi tài liệu. Nhưng khác với sinh viên cao học có thể mất một tuần để báo cáo, AI chỉ mất 5 phút", ông ví von. "Vì thế, đây là tin xấu cho học viên, nhưng tin rất tốt cho tốc độ nghiên cứu khoa học".

Geoffrey Hinton, sinh năm 1947 tại Anh, được xem là một trong những người đặt nền móng cho học sâu, công nghệ đứng sau nhiều hệ thống AI hiện nay. Ông dành nhiều thập kỷ nghiên cứu mạng nơ-ron nhân tạo, góp phần thúc đẩy khả năng học hỏi và xử lý thông tin của máy tính.

Năm 2018, Hinton cùng Yoshua Bengio và Yan LeCun nhận giải Turing nhờ đóng góp cho học sâu. Năm 2024, ông cùng John Hopfield được trao Nobel Vật lý cho các khám phá và phát minh nền tảng giúp phát triển học máy bằng mạng nơ-ron nhân tạo. Sau khi rời Google năm 2023, ông dành nhiều thời gian cảnh báo về những rủi ro tiềm tàng của AI, từ thông tin sai lệch đến nguy cơ các hệ thống AI vượt khỏi khả năng kiểm soát của con người.