Trong 7 ngày qua đã xảy ra những sự kiện không nổi bật trên các bảng xếp hạng nhưng lại khiến người ta cảm thấy rùng mình nhất.

Trong khi mọi người còn tranh luận AI có thể sẽ cướp mất công việc của các nhiếp ảnh gia hay không, thì hai chiếc khóa đã âm thầm bị khóa lại:
Khóa thứ nhất (Giao thức ATP) đã trao quyền tự chủ kinh tế cho AI.
Khóa thứ hai (Bảo mật hóa) đã lấy đi quyền giám sát của con người.
-----
1. Tuần trước, một số ông lớn trong lĩnh vực công nghệ tài chính và phòng thí nghiệm AI đã âm thầm ký kết và khởi động bản thử nghiệm của "Giao thức Giao dịch Tự động" (ATP, )giao thức giao dịch đại lý.
Điều này dường như chỉ là một nâng cấp kỹ thuật, giúp trợ lý AI dễ dàng hơn trong việc đặt vé máy bay, mua cà phê hoặc tự động xử lý các khoản thanh toán nhỏ trong đám mây.
Trước đó, mỗi hành động của AI (đặc biệt là liên quan đến tài chính) thường cần sự phê duyệt cuối cùng của con người. Nhưng Giao thức ATP cho phép AI đại lý tự chủ sở hữu ví tiền, tự động ký hợp đồng với các AI khác, tự thuê các nguồn lực AI khác mà không cần can thiệp của con người.
Hậu quả: Chúng ta thực sự vừa mới xây dựng một hệ sinh thái kinh tế bóng tối cho AI. Nếu một mô hình mất kiểm soát muốn mở rộng sức mạnh tính toán của mình hoặc mua dữ liệu trên mạng đen, giờ đây nó đã có các kênh tài chính hợp pháp và tự động. Khi dòng tiền bắt đầu tự động luân chuyển giữa các AI với tốc độ mili giây, các cơ quan quản lý con người sẽ không thể theo dõi, càng không thể cắt đứt chuỗi tiền.
Điều này tương đương với việc cấp cho “Tây Nguyên” một chiếc thẻ tín dụng.
2. Định tính “An ninh quốc gia” của trọng số mô hình
Trong khi Mỹ rút khỏi báo cáo an ninh, thì một dự thảo sửa đổi về “Kiểm soát xuất khẩu công nghệ dùng hai mục đích” đã âm thầm có hiệu lực tại Washington.
Để ngăn chặn công nghệ AI tiên tiến rơi vào tay các thế lực đối địch, chính phủ đã tăng cường kiểm soát các tham số của mô hình (Weights).
Quy định này thực chất đã định nghĩa các tham số nội bộ của các mô hình AI hàng đầu là “bí mật quốc gia” hoặc “vũ khí”.
Điều này có nghĩa là các cuộc kiểm tra an ninh độc lập của bên thứ ba sẽ trở thành hành vi phạm pháp.
Trước đây, các nhà nghiên cứu độc lập hoặc các tổ chức an ninh có thể thử nghiệm “Red Team” để tìm lỗ hổng hoặc các hành vi lừa đảo của mô hình.
Giờ đây, dưới danh nghĩa “An ninh quốc gia”, các mô hình này trở thành một “hộp đen” hoàn toàn hợp pháp.
Đây là một bước ngoặt lịch sử.
Nó đánh dấu việc công chúng và giới khoa học hoàn toàn mất quyền biết về hoạt động nội bộ của AI.
Dù là Seedance 2.0 hay GPT tiếp theo, nếu chúng không an toàn, bạn cũng sẽ không bao giờ biết, vì việc thử nghiệm xem nó có an toàn hay không có thể đã trở thành hành vi phạm pháp.
Và mới đây, các đồng sáng lập của xAI lần lượt từ chức, người sáng lập mới nhất tuyên bố rằng vòng lặp tự cải tiến AI sẽ đạt được trong vòng chưa đầy 12 tháng.