Какие угрозы несет ИИ Claude Fable 5

Anthropic открыла широкий доступ к Claude Fable 5 — публичной версии ранее закрытой модели Mythos. Если это подтвердится, мощнейший ИИ для поиска уязвимостей станет доступен любому пользователю по подписке, а для сектора DeFi это несет серьезные риски.

До сих пор Mythos оставалась закрытой: доступ к ней в рамках проекта Glasswing получили около 150 компаний, включая Google, Microsoft и JPMorgan. Но даже при таком узком круге пользователей модель нашла более 10 000 критических уязвимостей в важнейшем программном обеспечении по всему миру.

Какие задачи решает Fable 5

По заявлениям Anthropic, Fable 5 работает с жесткими ограничениями по безопасности. В самых опасных темах — кибербезопасность, биология, химия и дистилляция нейросетей (копирование чужой модели через ее ответы, чтобы воспроизвести возможности в обход разработчика) — Fable 5 не отвечает сама, а передает запрос более безопасной Claude Opus 4.8.

Перед запуском Anthropic проверила работу фильтров на попытках обойти ограничения. Внешняя программа багбаунти не нашла ни одного универсального способа взлома даже после тысячи часов испытаний, о чем Anthropic сообщила отдельно .

Важно понимать, что «жесткие ограничения» не означают, что модель постоянно отказывает. Блокировка на запросах по кибербезопасности срабатывает менее чем в 5% случаев — фильтры отсекают лишь самые рискованные сценарии, а в остальном пользователи получают полный доступ к возможностям Fable 5.

В случае с DeFi поиск уязвимостей в смарт-контрактах не подпадает под стандартные запреты. Разбор кода на Solidity модель считает скорее инженерной задачей, чем попыткой взлома.

В программировании Fable 5 уверенно опережает конкурентов, и чем крупнее и сложнее задача, тем заметнее ее отрыв от других моделей. Для любого DeFi-протокола с открытым ончейн-кодом это может оказаться решающим фактором.

В отрасли уже обсуждают случай с Zcash: облегченная версия этой архитектуры от Anthropic нашла критическую уязвимость в протоколе за одни сутки — притом что баг четыре года не замечали даже ведущие криптографы мира.

Чем DeFi особенно уязвимы

Появление Fable 5 резко снижает и стоимость, и уровень подготовки, нужные для поиска уязвимостей в смарт-контрактах. Белый хакер MevenRekt сформулировал это прямо: теперь и затраты, и нужные знания, чтобы найти слабое место в смарт-контракте, стремятся к нулю.

Под ударом в первую очередь — непроверенные протоколы. Известную уязвимость можно в любой момент применить заново к форкам, скопировавшим тот же код. Достается и мелким проектам: попытка взлома теперь почти ничего не стоит.

На прошлой неделе Anthropic предупредила , что искусственный интеллект развивается так быстро, что может начать совершенствоваться сам, без участия человека.

Эксперты по безопасности дают пользователям четкие рекомендации, которыми не стоит пренебрегать: отозвать у токенов выданные разрешения, перевести средства на аппаратные кошельки и свести к минимуму работу с протоколами, которым нет полного доверия.

Источник: cryptocurrency.tech