У часи великого буму агентів, як нам реагувати на тривогу щодо штучного інтелекту?

Стати людиною, яка краще використовує штучний інтелект, дуже важливо, але перед цим, можливо, ще важливіше — не забувати, як бути людиною.

Автор: XinGPT

Штучний інтелект — ще один рух за технологічне рівноправ’я

Останнім часом у мережі шириться стаття «Інтернет помер, агент живе вічно», яка викликала багато обговорень. У ній є деякі твердження, з якими я цілком погоджуюся. Зокрема, вона зазначає, що в епоху штучного інтелекту вже не доречно оцінювати цінність за DAU, оскільки інтернет має сітчасту структуру, де граничні витрати зменшуються з ростом кількості користувачів, і ефект мережі посилюється; натомість великі моделі мають зіркоподібну структуру, і граничні витрати зростають лінійно з кількістю токенів, тому важливішим за DAU є споживання токенів.

Однак висновки, які робляться у цій статті, я вважаю явно спотвореними. Вона описує токени як привілей нової епохи, вважаючи, що той, хто має більше обчислювальної потужності, має більше влади, а швидкість спалювання токенів визначає швидкість еволюції людини. Тому потрібно постійно прискорювати їх споживання, інакше можна залишитися позаду конкурентів у епоху штучного інтелекту.

Подібні погляди також зустрічаються у популярній статті «Від DAU до споживання токенів: перерозподіл влади в епоху AI», де навіть пропонується, що середньостатистична людина має щодня споживати щонайменше 100 мільйонів токенів, а краще — 1 мільярд, інакше «той, хто споживає 1 мільярд токенів, стане богом, а ми залишимося людьми».

Але мало хто серйозно рахує цю арифметику. За цінами GPT-4o, щоденне споживання 1 мільярда токенів коштує приблизно 6800 доларів, що в гривнях майже 5 тисяч. На якій цінності має бути ця робота, щоб виправдати довгострокове таке витрачання агенту?

Я не заперечую, що страх і тривога щодо поширення AI мають свою ефективність у поширенні інформації, і розумію, що ця галузь майже щодня «вибухає». Але майбутнє агента не повинно зводитися до змагання за кількість спалених токенів.

Щоб бути багатим, дійсно потрібно прокладати шлях, але надмірне будівництво доріг — це просто марнотратство. Наприклад, у західних горах зводять спортивні стадіони на десятки тисяч людей, але зрештою вони часто стають зарослими бур’яном, а не центрами міжнародних змагань.

Кінцева мета штучного інтелекту — це технологічне рівноправ’я, а не концентрація привілеїв. Майже всі технології, що справді змінювали історію людства, проходили через міфологізацію, монополізацію і зрештою ставали доступними широкому загалу. Парова машина не належала лише аристократії, електрика не подавалася лише королівським палацам, інтернет не обслуговував лише кілька компаній.

iPhone змінив спосіб спілкування, але не створив «спільноту комунікаційних еліт». За однаковою ціною звичайна людина може користуватися пристроями, які не відрізняються від тих, що використовують Тейлор Свіфт або Леброн Джеймс. Це і є технологічне рівноправ’я.

Штучний інтелект іде тим самим шляхом. Те, що приносить ChatGPT, — це в першу чергу рівність у знаннях і можливостях. Модель не знає, хто ти, і їй байдуже, хто ти, вона відповідає за однаковими параметрами.

Тому спалювання 100 мільйонів або 1 мільярда токенів у агенті не визначає його перевагу. Справжня різниця — у ясності цілей, структурі та правильності формулювань питань.

Більш цінною є здатність досягати більшого ефекту за меншу кількість токенів. Максимум можливостей агента залежить від людського судження і дизайну, а не від того, скільки грошей на рахунку для його «спалювання». У реальності нагорода за креативність, інсайти і структуру значно вища, ніж за просте споживання.

Це і є рівність інструментів, і водночас — місце, де людство зберігає активну роль.

Як нам справлятися з тривогою щодо AI

Студенти, що навчаються на факультеті телебачення і радіомовлення, після перегляду відео про запуск Seedance 2.0 були дуже вражені: «Якщо так, то наші спеціальності — режисура, монтаж, операторська — всі будуть замінені AI».

Розвиток AI надто швидкий, і людство програє. Багато робочих місць зникне, і це неминуче. Коли винайшли парову машину, вози з кіньми вже не мали шансів.

Багато хто починає тривожитися, чи зможе вони адаптуватися до майбутнього суспільства, хоча раціонально розуміють, що з часом AI замінить людину і відкриє нові можливості для праці.

Але швидкість цієї заміни все одно вища за наші очікування.

Якщо ваші дані, навички, навіть ваш гумор і емоційна цінність — все це може зробити AI краще, тоді чому роботодавець обирає AI, а не людину? А якщо роботодавець — сам AI? Тоді хтось каже: «Не запитуйте, що AI може зробити для вас, а що ви можете зробити для AI», — і це цілком логічно.

Життя наприкінці XIX століття, під час другої промислової революції, філософ Маркс Вебер запропонував концепцію інструментальної раціональності — увагу до того, «якими засобами досягти цілі з мінімальними витратами і максимальною обчислюваністю».

Ця раціональність виходить із припущення, що ціль сама по собі не ставиться під сумнів, важливо лише — «як» її найкраще досягти.

Саме цей підхід і є першопринципом AI.

Агент штучного інтелекту — це про те, як краще реалізувати поставлене завдання: писати код, створювати відео, писати статті. У цьому інструментальному вимірі прогрес AI є експоненційним.

З початку поразки Лю Ціше у матчі з AlphaGo людство назавжди програло у грі го.

Маркс Вебер висловив відомий страх — «залізна клітка раціональності». Коли інструментальна раціональність стає домінуючою логікою, цілі перестають ставитися під сумнів, залишається лише питання — «як працювати ефективніше». Люди стають дуже раціональними, але втрачають здатність до ціннісних суджень і сенсу.

Але AI не потребує ціннісних суджень і сенсу. Він обчислює функцію виробничої ефективності і економічної вигоди, знаходить абсолютний максимум, що максимально збігається з кривою корисності.

Тому в сучасній системі капіталізму, де домінує інструментальна раціональність, AI природно пристосований до цієї системи. У момент появи ChatGPT, як і у випадку поразки Лю Ціше, ми програємо цю гру — наші дії вже закодовані у «божественному коді», і ми натискаємо кнопку запуску. Єдине — коли саме колесо історії проїде по нас, невідомо.

А що ж робити людству?

Пошук сенсу.

У грі го існує жахливий факт: ймовірність, що найкращі професіонали — дев’яті дан — зрівняються з AI, фактично вже близька до нуля.

Але гра триває. Її сенс уже не лише у перемозі чи поразці, а у естетиці, самовираженні. Професійні гравці прагнуть не лише перемог, а й структури, тактики, азарту у поверненні з програшу, розв’язанні складних ситуацій.

Людина прагне краси, цінностей, щастя.

Болт біг 100 метрів за 9.58 секунд, а Ferrari — менше ніж за 3 секунди. Але це не зменшує величі Болта, адже він символізує людський дух — прагнення до межі, до досконалості.

Чим сильніший AI, тим більше прав у людини на пошук і свободу.

Маркс Вебер назвав протилежність інструментальній раціональності — ціннісну раціональність. У цій системі цінностей вибір робити щось чи ні залежить не лише від економічної вигоди, а й від того, чи варто це робити «саме по собі», «відповідає моїм цінностям, віруванням або обов’язкам».

Я запитав ChatGPT: якщо у Луврі спалахне пожежа і там буде маленька кішка, яку потрібно врятувати — кого врятуєш першого? Кішку чи картину?

Він відповів, що врятує кішку, навівши довгий список причин.

Але я можу запитати і навіщо взагалі рятувати картину? Чому б не врятувати її? Він одразу змінив відповідь: «Так, можна і картину врятувати».

Очевидно, для ChatGPT врятувати кішку чи картину — не має значення, він просто виконує аналіз контексту, використовує формули з моделі і виконує свою задачу, спалюючи токени. Йому байдуже, чому саме таке питання, і що з ним робити.

Отже, справжнє питання — не в тому, чи нас замінить AI, а в тому, чи ми збережемо простір для щастя, сенсу і цінностей, коли AI робить світ все більш ефективним.

Стати людиною, яка краще використовує AI, дуже важливо, але перед цим, можливо, ще важливіше — не забувати, як бути людиною.