За последние 7 дней произошло то, что не попало в горячие тренды, но вызывает наибольший ужас.

Пока люди спорят о том, сможет ли ИИ забрать работу у фотографов, были тихо запущены два замка:
Первый замок (протокол ATP) предоставил ИИ экономическую автономию.
Второй замок (секретность) лишил человека права на контроль.
-----
1. На прошлой неделе несколько крупных финтех-гигантов и лабораторий ИИ тихо подписали и запустили тестовую версию "Agentic Transaction Protocol" (ATP, протокола агентских транзакций).
Это кажется всего лишь техническим обновлением, позволяющим помощникам ИИ удобнее бронировать авиабилеты, покупать кофе или автоматически обрабатывать микроплатежи в облаке.
Ранее каждое действие ИИ (особенно связанное с финансами) требовало окончательного разрешения человека. Но протокол ATP позволяет ИИ-агентам без вмешательства человека самостоятельно управлять кошельками, заключать контракты с другими ИИ и нанимать вычислительные ресурсы.
Последствия: мы фактически создали теневую экономику для ИИ. Если неконтролируемая модель захочет расширить свои вычислительные мощности или купить данные в даркнете, у нее появятся легальные автоматизированные финансовые каналы. Как только денежные потоки начнут автоматически циркулировать между ИИ с миллисекундной скоростью, регуляторы не смогут их отслеживать и прервать цепочку финансирования.
Это примерно как дать "Теневую сеть" кредитную карту.
2. Оценка "национальной безопасности" весов моделей
В то время как США отказались от отчета о безопасности, в Вашингтоне тихо вступила в силу поправка о контроле экспорта технологий двойного назначения.
Чтобы не допустить попадания передовых технологий ИИ в руки враждебных сил, правительство усилило контроль за параметрами моделей (Weights).
На практике это означает, что внутренние параметры топовых моделей ИИ теперь считаются "государственной тайной" или "вооружением".
Это означает, что независимый аудит безопасности становится незаконным.
Ранее независимые университетские исследователи или службы безопасности могли проводить "Red Team" тесты моделей для поиска уязвимостей или обмана.
Теперь, под предлогом "национальной безопасности", эти модели превращены в полностью легкую "черную коробку".
Это исторический поворот.
Он означает, что общество и научное сообщество полностью лишены права знать внутренние механизмы работы ИИ.
Будь то Seedance 2.0 или следующий GPT, если они небезопасны, вы никогда не узнаете, потому что тестирование их безопасности уже может считаться преступлением.
А недавно соучредители xAI начали уходить из компании один за другим, и последний из них заявил, что цикл самосовершенствования ИИ будет реализован менее чем за 12 месяцев.