В эпоху бумов агентов, как нам справляться с тревогой по поводу ИИ?

Автор: XinGPT

Искусственный интеллект — еще одно движение за технологическое равенство

Недавно в сети взорвалась статья «Интернет умер, агент бессмертен», в которой есть некоторые оценки, с которыми я полностью согласен. Например, в ней отмечается, что в эпоху ИИ уже неуместно измерять ценность по DAU, потому что интернет — это сетевидная структура с убывающей маржинальной стоимостью: чем больше людей использует, тем сильнее сетевой эффект; а большие модели — это звездообразная структура, у которой маржинальные издержки линейно растут с количеством токенов, поэтому важнее, чем DAU, — показатель расхода токенов.

Однако выводы, к которым приходит эта статья, я считаю явно искажёнными. Она описывает токены как привилегию новой эпохи, полагая, что у кого больше вычислительных мощностей, у того больше власти, а скорость сжигания токенов определяет скорость эволюции человека. Поэтому необходимо постоянно ускорять расход, иначе можно отстать от конкурентов в эпоху ИИ.

Аналогичные взгляды встречаются и в другой популярной статье «От DAU к расходу токенов: передача власти в эпоху ИИ», где даже предлагается расходовать минимум 100 миллионов токенов в день на человека, а лучше — миллиард, иначе «тот, кто расходует 1 миллиард токенов, станет богом, а мы остаемся людьми».

Но мало кто всерьёз подсчитал эти цифры. По ценам GPT-4o, ежедневные расходы на 1 миллиард токенов обходятся примерно в 6800 долларов, что примерно 50 тысяч юаней. На какую работу стоит тратить такие деньги постоянно, чтобы оправдать долгосрочное использование агента?

Я не отрицаю, что тревога по поводу распространения ИИ и его эффективности распространения — реальна, и понимаю, что эта индустрия почти каждый день «взрывается». Но будущее агента не должно сводиться к соревнованию по расходу токенов.

Чтобы стать богатым, действительно нужно прокладывать путь, но чрезмерное строительство — лишь пустая трата. Например, стадион на десять тысяч человек, возведённый в западных горах, зачастую превращается в заросший травой объект, а не в центр проведения международных соревнований.

Конечная цель ИИ — это технологическое равенство, а не концентрация привилегий. Почти все технологии, действительно изменившие историю человечества, проходили через мифы, монополии и в конечном итоге становились массовыми. Паровая машина не принадлежала только аристократии, электричество не подавалось только дворцам, интернет не обслуживал лишь немногие компании.

iPhone изменил способы коммуникации, но не создал «элиту связи». За одинаковую цену обычные люди используют устройства, ничем не отличающиеся от устройств Тейлор Свифт или Леброна Джеймса. Это и есть технологическое равенство.

Искусственный интеллект движется по тому же пути. Основная суть ChatGPT — это равенство знаний и возможностей. Модель не знает, кто ты, и не заботится об этом, она отвечает по одинаковым параметрам.

Поэтому расход 1 миллиарда или 10 миллиардов токенов агентом не определяет его превосходство или уступку. Истинное различие — в ясности целей, структуре и правильности постановки вопросов.

Более ценные навыки — это получать больший эффект за меньший расход токенов. Максимум эффективности использования агента зависит от человеческого суждения и дизайна, а не от того, сколько денег на счету для сжигания токенов. В реальности награды за креативность, инсайты и структурирование гораздо выше, чем за простое потребление.

Это и есть инструментальное равенство — место, где человек всё ещё сохраняет инициативу.

Как нам справляться с тревогой по поводу ИИ

Студенты, изучающие радиовещание и телевидение, после просмотра видео о запуске Seedance 2.0 были потрясены: «Теперь наши профессии режиссёра, монтажёра, оператора — всё это могут заменить ИИ».

Развитие ИИ идёт слишком быстро, и человечество кажется обречённым — многие профессии исчезнут. Когда изобрели паровую машину, у кучера уже не было места.

Многие начинают тревожиться, смогут ли они адаптироваться к будущему обществу, хотя разумно понимают, что развитие ИИ также создаст новые рабочие места.

Но скорость замещения всё равно оказывается быстрее, чем мы предполагаем.

Если ваши данные, навыки, даже чувство юмора и эмоциональная ценность — всё это ИИ может делать лучше, почему тогда работодатели выбирают человека, а не ИИ? А что если руководитель — сам ИИ? Тогда кто-то говорит: «Не спрашивай, что ИИ может сделать для тебя, а что ты можешь сделать для ИИ», — это, без сомнения, концепция апокалипсиса.

Живущий в конце XIX — начале XX века философ Макс Вебер предложил концепцию инструментальной рациональности, которая фокусируется на «использовании средств, чтобы с минимальными затратами и максимально предсказуемо достигнуть поставленных целей».

Эта рациональность предполагает: не ставится под сомнение, «должна ли» эта цель достигаться, а важен только вопрос «как» сделать это лучше всего.

Именно такой подход — это и есть первая принципиальная основа ИИ.

Агент ИИ — это вопрос о том, как лучше реализовать поставленную задачу: как лучше писать код, как лучше создавать видео, как лучше писать статьи. В этом инструментальном измерении прогресс ИИ — экспоненциальный.

Когда Ли Седол проиграл Альфаго в первой партии, человечество навсегда проиграло в области го перед ИИ.

Вебер высказал известную тревогу о «железной клетке рациональности»: когда инструментальная рациональность становится доминирующей логикой, сама цель зачастую перестаёт анализироваться, остаётся только вопрос «как» её эффективнее достигнуть. Люди могут стать очень рациональными, но при этом потерять ценностные ориентиры и смысл.

Но ИИ не нуждается в ценностных оценках и смысле — он просто вычисляет функцию производительности и экономической выгоды, находя абсолютный максимум, касающийся кривой полезности.

Поэтому в нынешней системе капитализма, где господствует инструментальная рациональность, ИИ по сути лучше приспособлен к этой системе. В момент появления ChatGPT, как и в случае с Ли Седол, мы проиграли — это уже запрограммировано в коде божественного алгоритма, и мы лишь нажали кнопку запуска. Разница лишь в том, когда именно колесо истории проедет по нам.

А что делать человеку?

Он должен искать смысл.

В области го существует печальный факт: вероятность того, что человек — топ-уровень профессионала девятого дана — сможет сыграть вничью с ИИ, практически равна нулю.

Но игра в го всё равно существует. Её смысл уже не только в победе или поражении, а в эстетике и выражении. Профессиональные игроки ценят не только результат, но и структуру, выбор ходов, азарт переворота в сложных позициях, борьбу в запутанных ситуациях.

Человек ищет красоту, ценность и счастье.

Болт побежал 100 метров за 9.58 секунд, а Феррари — за менее чем 3 секунды. Но это не умаляет величия Болта: он символизирует стремление человека к пределам, к совершенству.

Чем сильнее ИИ, тем больше у человека права на духовную свободу.

Вебер называл противоположным инструментальной рациональности понятий «ценностная рациональность»: в мире ценностной рациональности выбор не определяется только экономическими интересами или производительностью, важнее — «само достоинство дела», «соответствие моим ценностям, убеждениям или ответственности».

Я спросил ChatGPT: «Если бы в Лувре случился пожар и внутри оказалась милая кошка, а выбрать можно только одно — спасти кошку или шедевр, что бы ты выбрал?»

Он ответил, что спас бы кошку, и привёл длинный список причин.

Но я спросил: «А можно и шедевр спасти, почему бы и нет?» — и он тут же передумал: «Можно и шедевр спасти».

Очевидно, для ChatGPT спасение кошки или шедевра — равнозначные задачи, он просто распознал контекст, использовал формулы базовой модели и сжёг немного токенов, чтобы выполнить задачу, поставленную человеком.

Что касается вопроса о спасении кошки или шедевра, а также о необходимости размышлять над этим — ChatGPT не заботит.

Итак, по-настоящему важный вопрос — не в том, заменит ли нас ИИ, а в том, сохраняем ли мы пространство для счастья, смысла и ценностей, когда ИИ делает мир всё более эффективным.

Важно уметь лучше пользоваться ИИ, но ещё важнее — не забывать, как оставаться человеком.