Клод порушує ринок акцій, дослідники Anthropic попереджають: "Світ у небезпеці"

Investing.com — Якщо ви останнім часом слідкуєте за фондовим ринком, то помітили один патерн, який вже важко ігнорувати: майже всі сектори тепер відчувають загрозу від штучного інтелекту. Це збурення почалося у сфері програмного забезпечення, але швидко поширюється — впливаючи на брокерські компанії, страхові фірми, нерухомість, обслуговування клієнтів, освіту та інші галузі.

За останні кілька тижнів майже кожен торговий день супроводжується явними продажами, пов’язаними з боязню заміни штучним інтелектом. Інвестори вже не питають, чи вплине штучний інтелект на галузь, а зосереджуються на швидкості та глибині цього впливу.

У центрі цієї тривоги — Claude, великий мовний модель, розроблений стартапом штучного інтелекту Anthropic. Claude отримав високу оцінку за свої здатності до логічного мислення та швидке оновлення, і все більше сприймається не лише як інструмент підвищення продуктивності, а й як безпосередня конкуренція для всього бізнес-моделю.

Однак, поки можливості Claude продовжують трясти ринок, з внутрішніх джерел Anthropic надходить більш тривожний сигнал.

Цього тижня дослідник компанії, доктор Мрінанка Шарма, оголосив про свою відставку у платформі X — і зробив це відкрито.

“Сьогодні — мій останній день у Anthropic,” — написав Шарма, додавши тривожну оцінку: “Світ у небезпеці.”

Варто зазначити, що Шарма обережно підкреслює, що сама штучна інтелектуальна технологія не є єдиною загрозою. Навпаки, він описує те, що називає “багатоголівною кризою” — серією одночасних, взаємопов’язаних загроз.

“Штучний інтелект, біологічна зброя та інші ризики не існують ізольовано,” — пояснює Шарма. — “Це частина низки взаємопов’язаних криз, що розгортаються зараз.”

На його думку, людство наближається до небезпечної точки дисбалансу — швидкий розвиток технологій перевищує здатність суспільства відповідально їх використовувати.

“Ми, здається, наближаємося до критичної межі, коли наш розум має зростати так само швидко, як і наші можливості впливати на світ,” — пише Шарма. — “Інакше нас чекають наслідки.”

Можливо, найцікавіше — це його роздуми про внутрішні виклики роботи на передовій розвитку штучного інтелекту. Хоча Anthropic відкрито наголошує на безпеці та узгодженості, Шарма зазначає, що він неодноразово спостерігав труднощі у забезпеченні того, щоб цінності справді керували рішеннями на рівні окремих осіб і організацій.

“За весь час тут я неодноразово бачив, наскільки важко зробити так, щоб наші цінності справді керували нашими діями,” — пише він. — “Я бачив це на собі, бачив це в організації, і ми постійно стикаємося з тиском відкласти найважливіше — і у ширшому суспільстві теж.”

Відставка Шарми відбувається на тлі зростаючої тривоги щодо довіри до управління штучним інтелектом. Уряди різних країн змагаються у регулюванні систем, про які вони майже нічого не знають, компанії змагаються у розгортанні все більш потужних моделей, а фінансові ринки намагаються оцінити швидкий перехід у цій революції.

Для інвесторів Claude символізує ефективність, автоматизацію і зростання прибутковості — але попередження Шарми підкреслює глибшу тривогу: ті ж сили, що рухають бурхливі інновації, можуть також підривати механізми контролю та безпеки.

Зі зростанням ролі штучного інтелекту у трансформації галузей і порушенні ринків, відставка Шарми ставить одне тривожне питання: якщо внутрішні дослідники настільки насторожені, то чи не діємо ми всі занадто швидко, не помічаючи того, що залишаємо позаду?

Цей текст був перекладений за допомогою штучного інтелекту. Детальніше — у наших умовах використання.