Vitalik Buterin Nêu Bật Rủi Ro của AGI

Vitalik Buterin đã nhấn mạnh các giải pháp cụ thể cho việc áp dụng công nghệ một cách an toàn, đặc biệt trong lĩnh vực AI và tiền mã hóa.

Sự ra mắt của mô hình mới nhất của OpenAI, O3, đã khơi lại các cuộc thảo luận quanh việc theo đuổi Trí tuệ Nhân tạo Tổng quát (AGI). Với điểm số ấn tượng 87,5% trên chuẩn ARC-AGI—một chỉ số quan trọng để đo lường tiến bộ hướng tới trí tuệ tổng quát—O3 đánh dấu một bước tiến quan trọng trong phát triển AI. Tuy nhiên, bên cạnh sự phấn khởi, vẫn tồn tại những mối lo ngại về các rủi ro tiềm tàng mà AGI có thể gây ra nếu nó vượt qua khả năng nhận thức của con người.

Buterin về Rủi Ro Tiềm Tàng của AGI

Bình luận về chủ đề này, đồng sáng lập Ethereum Vitalik Buterin đã chia sẻ những hiểu biết về các rủi ro liên quan đến AGI. Trong một bài đăng trên X, ông đã thảo luận về cách AI có thể phát triển theo hướng khả năng mở rộng và áp dụng rộng rãi. Ông đã nhấn mạnh tầm quan trọng của việc giải quyết các thách thức mà AGI có thể mang đến khi nó trở nên phổ biến hơn trong các ứng dụng chính thống.
Buterin đã lập luận rằng không nên xem AGI như một lực lượng không thể ngăn cản và đề xuất tập trung vào các mối đe dọa cụ thể hơn. Những rủi ro tiềm ẩn mà ông nhấn mạnh bao gồm:
– Lợi dụng các lỗ hổng phần mềm
– Lan truyền thông tin sai lệch để thao tác con người
– Triển khai các tác nhân sinh học kỹ thuật số
– Chiếm quyền kiểm soát cơ sở hạ tầng vật lý
– Vượt qua trí thông minh của con người hoàn toàn

Bối cảnh cuộc thảo luận

Những bình luận của Buterin là phản ứng trước những quan sát của Balaji về tốc độ phát triển công nghệ nhanh chóng, dẫn đến những cuộc thảo luận sâu hơn về các hệ quả của việc phát triển AGI. Ông chỉ ra rằng tiền mã hóa “chỉ là một phần của một câu chuyện lớn hơn,” nhấn mạnh sự liên kết của nó với các chiến lược tăng trưởng rộng hơn.

Ngoài ra, ông đã chia sẻ một sơ đồ tương phản giữa “thế giới của các nguyên tử” vật lý với “thế giới của các bit” kỹ thuật số, minh họa sự tương tác của chúng.

Tầm quan trọng của an toàn trong công nghệ mới nổi

Buterin nhấn mạnh sự cần thiết phải đảm bảo an toàn cho các công nghệ mới nổi. Ông lưu ý
đã chỉ ra rằng việc tự lưu giữ không phải là mặc định trong hệ sinh thái crypto hiện tại và đã nhấn mạnh những nguy hiểm của việc kiểm soát tập trung. Người dùng thường phụ thuộc vào các thực thể tập trung như sàn giao dịch, dẫn đến các lỗ hổng, hack và quản lý kém.

Ông đã nhấn mạnh rủi ro từ các tác nhân xấu, chẳng hạn như những kẻ lừa đảo sử dụng các công cụ như bot AI của Elon Musk, kêu gọi một khung pháp lý phi tập trung. Tầm nhìn này bao gồm một Internet của Vạn Vật (IoT) nhân tạo, nơi những khóa riêng cho phép người dùng có toàn quyền kiểm soát và giảm thiểu các cuộc tấn công tiềm ẩn vào các công nghệ như nhà thông minh.

Kết thúc với một lời kêu gọi hành động, Buterin nhấn mạnh: “Chúng ta phải kiên quyết phấn đấu vì điều đó.”