Renç Korzay, Giám đốc điều hành của Giza, nhấn mạnh rằng các vấn đề đạo đức trong phát triển tác nhân AI phải được “thực thi kiến trúc.” Ông ủng hộ việc kiểm soát người dùng được tích hợp sẵn và “bảo mật theo thiết kế” để giảm thiểu gánh nặng quy định.
‘Bảo Mật Người Dùng’ Được Thực Thi Kiến Trúc
Sự phát triển nhanh chóng của trí tuệ nhân tạo đã dẫn đến việc phát triển các tác nhân AI ngày càng tinh vi, có khả năng thực hiện các nhiệm vụ phức tạp trên nhiều lĩnh vực khác nhau. Tuy nhiên, khi các tác nhân này trở nên mạnh mẽ và tự động hơn, những lo ngại về các vấn đề đạo đức và những rủi ro tiềm tàng đã xuất hiện.
Để giải quyết những lo ngại này, Renç Korzay, Giám đốc điều hành của Giza và là một chuyên gia lâu năm trong ngành, ủng hộ việc đặt ưu tiên lên sự an toàn và chủ quyền của người dùng, điều mà ông cho rằng phải là “không thể thương lượng” và “được thực thi theo kiến trúc.” Korzay lập luận rằng các hướng dẫn đạo đức nên được biến thành các yêu cầu kỹ thuật cụ thể, định hình mọi khía cạnh trong thiết kế tác nhân AI.
Trong các phản hồi bằng văn bản đối với các câu hỏi từ Bitcoin.com News, Korzay cũng nhấn mạnh
đầy đủ quyền kiểm soát cho người dùng. Ông nói rằng việc kiểm soát này nên được tích hợp vào kiến trúc của đại lý, đảm bảo người dùng duy trì quyền giám sát và quyền lực toàn diện. Khác với các hệ thống dựa vào kiểm soát ủy quyền, các đại lý AI có đạo đức nên hoạt động thông qua các khuôn khổ cho phép có thể bị thu hồi ngay lập tức, Korzay cho biết.
Đối với Giám đốc điều hành của Giza, thông điệp chính là rõ ràng: Các cân nhắc về đạo đức phải được xây dựng vào kiến trúc nền tảng của các hệ thống AI, không phải được thêm vào sau này.
“Trong DeFi, nơi tài sản tài chính của người dùng đang gặp nguy hiểm, các cân nhắc về đạo đức phải được xây dựng vào kiến trúc nền tảng của các hệ thống AI, không phải được thêm vào sau này,” Korzay nói.
Tâm lý “bảo mật là trên hết” này là rất cần thiết để xây dựng sự tin tưởng và đảm bảo sự phát triển có trách nhiệm của các đại lý AI. Chuyển sang các thị trường tài chính phi tập trung (DeFi), đã trở nên phức tạp hơn, Korzay tiết lộ rằng hiện nay có thể triển khai các đại lý AI để tối ưu hóa vị trí của người dùng trên các giao thức hàng đầu và thực hiện sop
histicated strategies while users maintain full control of funds.
Tài chính ‘Xenocognitive’
Trong khi đó, CEO lập luận rằng việc bảo vệ người dùng hiệu quả trong DeFi đến từ thiết kế sản phẩm mạnh mẽ, không chỉ từ việc điều chỉnh bên ngoài. Cách tiếp cận “bảo mật theo thiết kế” này, ông nói, tìm cách tạo ra một hệ sinh thái mà trong đó bảo mật là “nội tại,” điều này giảm thiểu nhu cầu cần có quy định khắt khe.
Korzay khẳng định rằng việc xây dựng hệ thống vốn dĩ an toàn phù hợp với lợi ích của các bên liên quan và chủ động tham gia với các nhà điều hành để định hình các chính sách trong tương lai. Tập trung vào việc tạo ra giá trị thông qua các sản phẩm được thiết kế tốt, khiến cho việc tuân thủ trở thành một kết quả tự nhiên chứ không phải là một rào cản cản trở đổi mới.
Nhìn về tương lai, Korzay cho biết ông dự đoán “Tài chính Xenocognitive” sẽ chiếm ưu thế vào năm 2030, với các tác nhân AI nổi lên như giao diện thị trường chính, vượt qua giới hạn nhận thức của con người. Vào thời điểm đó, con người sẽ đặt ra các mục tiêu chiến lược trong khi các tác nhân AI sẽ xử lý việc thực hiện.
“Đường cong chấp nhận sẽ không phải là tuyến tính – nó
sẽ theo hàm mũ. Khi những đại lý này chứng minh khả năng của họ trong việc liên tục vượt trội hơn so với các thao tác thủ công trong khi vẫn duy trì các đảm bảo an ninh, họ sẽ trở thành cách mặc định để tương tác với các thị trường tài chính,” giám đốc điều hành cho biết.
Bình luận (0)