У часи великого буму агентів, як нам реагувати на тривогу щодо штучного інтелекту?

Написано: XinGPT

Інтелектуальний штучний інтелект — ще один рух за технологічне рівноправ’я

Останнім часом у мережі шириться стаття «Інтернет помер, агент вічний», яка викликала багато обговорень. У ній є деякі твердження, з якими я цілком погоджуюся. Зокрема, вона зазначає, що епоха ШІ вже не підходить для оцінки цінності за допомогою DAU, оскільки інтернет має сіткову структуру, де граничні витрати зменшуються, чим більше користувачів, тим сильніший мережевий ефект; тоді як великі моделі мають зіркову структуру, і граничні витрати зростають лінійно з кількістю токенів, тому важливішим за DAU є споживання токенів.

Однак висновки, які робляться у цій статті, я вважаю явно упередженими. Вона описує токени як привілей нової епохи, вважаючи, що той, хто має більше обчислювальної потужності, має більше влади, а швидкість спалювання токенів визначає швидкість еволюції людини. Тому потрібно постійно прискорювати їх витрати, інакше можна залишитися позаду конкурентів у епоху ШІ.

Подібні погляди також зустрічаються у популярній статті «Від DAU до споживання токенів: перехід влади в епоху ШІ», де навіть пропонується, що середньостатистична людина має щодня споживати щонайменше 100 мільйонів токенів, а краще — 1 мільярд, інакше «той, хто спалить 1 мільярд токенів, стане богом, а ми залишимося людьми».

Однак мало хто серйозно рахує цю справу. За цінами GPT-4o, щоденне споживання 1 мільярда токенів коштує приблизно 6800 доларів, що в гривнях близько 50 тисяч. На якій цінності та роботі варто витрачати такі кошти довгостроково, щоб виправдати роботу агента?

Я не заперечую, що страх і тривога щодо поширення ШІ мають свою ефективність, і розумію, що ця галузь майже щодня «вибухає». Але майбутнє агента не слід зводити до змагання за кількість спалених токенів.

Щоб бути багатим, дійсно потрібно прокладати шлях, але надмірне його будівництво — це просто марнотратство. Наприклад, у горах на Заході зводять спортивні стадіони на десятки тисяч людей, але зрештою вони часто стають зарослими бур’яном об’єктами, а не центрами міжнародних змагань.

Зрештою, ШІ спрямований на досягнення технологічного рівноправ’я, а не концентрації привілеїв. Майже всі технології, що справді змінювали історію людства, проходили через міфологізацію, монополізацію і зрештою ставали доступними широкому загалу. Парова машина не належала лише аристократії, електрика не подавалася лише у королівські палаци, інтернет не обслуговував лише кілька компаній.

iPhone змінив спосіб спілкування, але не створив «спільноту комунікаційних еліт». За однаковою ціною звичайна людина має доступ до пристроїв, які не відрізняються від тих, що використовують Тейлор Свіфт або Леброн Джеймс. Це і є технологічне рівноправ’я.

ШІ йде тим самим шляхом. Те, що приносить ChatGPT, — це в першу чергу рівність у знаннях і можливостях. Модель не знає, хто ти, і їй байдуже, хто ти; вона відповідає за однаковими параметрами.

Тому витрати у 1 мільярд або 10 мільярдів токенів не визначають перевагу чи програш. Справжня різниця — у ясності цілей, структурі та правильності поставлених питань.

Більш цінною є здатність отримати більший ефект за менших витрат токенів. Максимум можливостей використання агента залежить від людського судження і дизайну, а не від того, скільки грошей на картці. У реальності нагорода ШІ за креативність, інсайти і структуру набагато вищі, ніж за просте споживання.

Це і є рівність на рівні інструментів, і водночас — місце, де людство зберігає активну позицію.

Як нам справлятися з тривогою щодо ШІ

Студенти, що навчаються на радіо і телебаченні, після перегляду відео про запуск Seedance 2.0 були дуже вражені: «Якщо так, то наші професії режисера, монтажу, фотографії будуть замінені ШІ».

Розвиток ШІ надто швидкий, і людство програє — багато робіт зникне, і це неминуче. Як при винаході парової машини, водії карет вже не мали місця.

Багато хто починає хвилюватися, чи зможе він адаптуватися до майбутнього, хоча раціонально розуміємо, що і у майбутньому, коли ШІ замінить людину, з’являться нові можливості працевлаштування.

Але швидкість цієї заміни все ж таки вища за наші очікування.

Якщо ваші дані, навички, навіть почуття гумору і цінність емоцій можуть бути зроблені краще ШІ, чому б роботодавець не обрав ШІ, а не людину? А якщо роботодавець — це сам ШІ? Тоді хтось може сказати: «Не запитуйте, що ШІ може зробити для вас, а що ви можете зробити для ШІ», — і це справжній прихід нової епохи.

Життя у другій половині XIX століття, під час другої промислової революції, філософ Маркс Вебер запропонував концепцію інструментальної раціональності — увагу до того, «якими засобами досягти цілей із мінімальними витратами і максимальною обчислюваністю».

Ця раціональність базується на тому, що не ставиться під сумнів, чи «варто» прагнути до цієї цілі, а зосередженося лише на тому, «як» найкраще її досягти.

Саме цей підхід і є першопринципом ШІ.

Агент ШІ — це про те, як краще реалізувати поставлене завдання: писати код, створювати відео, писати статті. У цьому інструментальному вимірі прогрес ШІ є експоненційним.

З початку поразки Лю Цзєсі у першій партії проти AlphaGo людство назавжди програло у грі го.

Маркс Вебер висловив відомий страх — «залізна клітка раціональності». Коли інструментальна раціональність стає домінуючою логікою, цілі часто перестають ставитися під сумнів, залишається лише питання: «як працювати ефективніше». Люди стають дуже раціональними, але втрачають здатність до ціннісних суджень і сенсу.

Але ШІ не потребує цінностей і сенсу. Він обчислює функції виробничої ефективності і економічної вигоди, знаходячи абсолютний максимум, що максимально збігається з кривою корисності.

Отже, у сучасній системі капіталізму, де домінує інструментальна раціональність, ШІ природно пристосований до цієї системи. У момент появи ChatGPT, як і у випадку поразки Лю Цзєсі, ми програємо ШІ — це вже закодовано у «божественному коді», і все, що залишається — натиснути кнопку запуску. Різниця лише у тому, коли саме історичний колісний хід переїде нас.

А що ж робити людству?

Шукати сенс.

У грі го один з безнадійних фактів — ймовірність, що найкращі професійні гравці дев’ятого дану зрівняються з ШІ, фактично вже близька до нуля.

Але гра триває. Її сенс уже не лише у перемозі чи поразці, а у естетиці, самовираженні. Професійні гравці прагнуть не лише перемог і поразок, а й структури, тактики, адреналіну від переворотів у програшних позиціях, конфліктів у складних ситуаціях.

Людина прагне краси, цінностей, щастя.

Болт біг 100 метрів за 9.58 секунд, а Ferrari — менше ніж за 3 секунди. Але це не зменшує величі Болта, адже він символізує людський дух, що прагне до межі можливого і до досконалості.

Чим сильніший ШІ, тим більше прав у людини на пошук свободи.

Маркс Вебер назвав протилежність інструментальній раціональності — ціннісну раціональність. У цій системі цінностей вибір робиться не лише через економічну вигоду і продуктивність, а через те, чи варто взагалі щось робити, чи відповідає це моїм цінностям, сенсу, віруванням або обов’язкам.

Я запитав ChatGPT: «Якщо у Луврі спалахне пожежа і там буде маленька кішка, а можеш обрати лише одне — врятувати кота чи картину?»

Він відповів, що врятує кота, навівши довгий список причин.

Але я можу запитати: «А чому б не врятувати картину?» — і він одразу змінює відповідь: «Можна й картину врятувати».

Очевидно, для ChatGPT врятувати кота чи картину — однаково, він просто виконує аналіз контексту, застосовуючи формули з базової моделі, спалюючи токени і виконавши людське завдання.

Що ж стосується питання, чому взагалі потрібно думати про це, — ChatGPT не переймається цим.

Отже, справжнє питання полягає не в тому, чи нас замінить ШІ, а в тому, чи зможемо ми зберегти простір для щастя, сенсу і цінностей, коли ШІ робить світ все більш ефективним.

Бути людиною і вміти правильно користуватися ШІ — важливо, але ще важливіше — не забувати, як залишатися людиною.