Когда Claude вызывает хаос на фондовом рынке, исследователь Anthropic предупреждает: "Мир находится в опасности"

Investing.com — Если вы в последнее время следите за фондовым рынком, то заметили один тренд, который уже невозможно игнорировать: практически все сектора сейчас ощущают угрозу со стороны искусственного интеллекта. Эти потрясения начались в сфере программного обеспечения, но быстро распространились на брокеров, страховые компании, недвижимость, клиентский сервис, образование и другие отрасли.

За последние несколько недель почти каждый торговый день сопровождался явными распродажами, связанными с опасениями замещения искусственным интеллектом. Инвесторы больше не спрашивают, повлияет ли ИИ на отрасль, а сосредоточены на скорости и глубине этого воздействия.

В центре этого волнения — Claude, крупномасштабная языковая модель, разработанная стартапом Anthropic. Claude высоко ценится за свои способности к логическому мышлению и быстрым улучшениям, и все чаще рассматривается не только как инструмент повышения производительности, но и как прямая конкуренция существующим бизнес-моделям.

Однако, пока возможности Claude продолжают потрясать рынок, изнутри Anthropic поступил более тревожный сигнал.

На этой неделе исследователь компании Мринанка Шарма объявил о своем уходе — и сделал это явно не тихо.

«Сегодня — мой последний день в Anthropic», — написал Шарма, добавив тревожную оценку: «Мир находится в опасности».

Стоит отметить, что Шарма осторожно отметил, что сама по себе искусственный интеллект не является единственной угрозой. Скорее, он описал то, что называет «множественными кризисами» — рядом одновременно разворачивающихся взаимосвязанных угроз.

«Искусственный интеллект, биологическое оружие и другие риски не существуют изолированно», — объяснил он. «Это часть серии кризисов, которые сейчас разворачиваются и взаимосвязаны друг с другом».

По его мнению, человечество приближается к опасной точке равновесия — скорость развития технологий превышает способность общества ответственно управлять ими.

«Кажется, мы приближаемся к критической точке, когда наш интеллект должен расти так же быстро, как и наши возможности влиять на мир», — писал он. «Иначе нас ждут последствия».

Особенно поразительна его рефлексия о внутренних вызовах работы на передовой развития ИИ. Несмотря на публичные заявления Anthropic о безопасности и согласованности, Шарма отмечает, что он неоднократно сталкивался с трудностями в обеспечении того, чтобы ценности действительно руководили принятием решений как на личном, так и на организационном уровне.

«За все время работы здесь я неоднократно видел, как трудно сделать так, чтобы наши ценности действительно управляли нашими действиями», — писал он. «Я видел это в себе, видел это в организации, и постоянно сталкиваемся с давлением откладывать самое важное — и в более широком обществе».

Уход Шармы совпадает с моментом, когда доверие к управлению искусственным интеллектом уже было подорвано. Правительства по всему миру борются за регулирование систем, о которых они почти ничего не знают, компании соревнуются в развертывании все более мощных моделей, а финансовые рынки пытаются оценить стоимость этого быстрого революционного процесса.

Для инвесторов Claude символизирует эффективность, автоматизацию и рост прибыльности — но предупреждение Шармы подчеркивает более глубокую проблему: те же силы, движущие взрывной инновацией, могут также подрывать механизмы контроля и защиты.

По мере того, как искусственный интеллект продолжает трансформировать отрасли и нарушать рынки, уход Шармы поднимает тревожный вопрос: если внутренние исследователи так насторожены, то разве мы не движемся слишком быстро, чтобы не упустить из виду что-то важное, что остается позади?

Данная статья подготовлена при помощи искусственного интеллекта. Для получения дополнительной информации ознакомьтесь с нашими условиями использования.