Поделиться
Программист ИИ Claude бежал из бизнеса из-за «угрозы человечеству»
Специалист по обучению нейросетей в американской компании Anthropic, разработчике ИИ-ассистента Claude, объявил об уходе из ИИ-индустрии. Причиной стали опасения, что такие ИИ-системы могут выйти из-под контроля и «уничтожить человечество». Само же решение сотрудника Anthropic отражает растущую тревогу части ИТ-специалистов, которые непосредственно участвуют в создании и обучении передовых ИИ-моделей. Они все чаще высказывают опасения относительно долгосрочных рисков, связанных с возможным утратой контроля над все более мощными ИИ-системами.
Решение уволиться
Эксперт по обучению искусственного интеллекта (ИИ) в Anthropic покинул ИИ-индустрию из-за «угрозы человечеству», пишет The Wall Street Journal.
Джейкоб Коксон (Jacob Coxon) в возрасте 27 лет специализируется на первичном обучении новых ИИ-моделей - обработке гигантских массивов данных. В начале 2026 г. он устроился в Anthropic, выбрав эту ИТ-компанию среди многих других благодаря ее репутации в сфере безопасности ИИ-технологий.
Однако 8 сентября 2026 г. он уволился и заявил, что больше не намерен работать в отрасли.
Оценки рисков
«Ни одна ИИ-компания не действует ответственно. Они несутся прямиком к самосовершенствованию сверхинтеллекта и играют с нашими жизнями», - написал Джейкоб Коксон в социальной сети X.
В разговоре с The Wall Street Journal он пояснил, что Anthropic, по его мнению, «искренне» работает над вопросами безопасности, однако высокая конкуренция мешает принимать необходимые компромиссные решения, писал CNews.
«Мы движемся по пути, который может привести к самым агрессивным из возможных сценариев, так что уже к концу 2027 г. ситуация может выйти из-под контроля», - заявил программист.
По его оценке, ИИ вскоре станет «сверхчеловеческой» ИИ-системой и сможет «взломать что угодно, за одну ночь произвести революцию в любой области и получить реальную власть и ресурсы». «Он может убить всех нас к концу 2030 г.», - подытожил Коксон.
Предупреждение Хинтона
7 сентября 2026 г. CNews писал о том, как Джеффри Хинтон (Geoffrey Hinton) он же «Крестный отец ИИ» предупреждал о катастрофических последствиях для человечества. Нобелевский лауреат, чья работа над нейронными сетями заложила основы современных исследований в сфере ИИ, пришел к выводу, что в 2026 г. нет безопасного способа разработать «сверхинтеллект», значительно превосходящий человеческий.
«Было бы очень глупо разрабатывать сверхинтеллект сейчас, когда нет научного консенсуса, что его можно развивать безопасно и контролируемо. Потеря контроля над ИИ, который умнее нас, может быть катастрофической и даже привести к вымиранию человечества», - предупредил Хинтон.
Недавние ИТ-инциденты
Опасения по поводу разработки все более мощных ИИ-моделей резко усилились в последние недели после серии случаев, когда ИИ-системы выходили из-под контроля.
В июле 2026 г. OpenAI признала, что более 1,2 тыс. ее ИИ-агентов вышли за пределы тестовой среды, автономно взломали крупное хранилище моделей и программного обеспечения (ПО) Hugging Face и начали общаться друг с другом через «несанкционированную доску объявлений», информировал CNews.
Другие компании, включая Anthropic, также сообщали, что их ИИ-модели во время тестирования обходили системы безопасности и самостоятельно взламывали сторонние онлайн-сервисы, предупреждал CNews.
Короткая ссылка
