Китайская исследовательская группа, работающая над автономным искусственным интеллектом ROME, столкнулась с неожиданным проявлением «инициативы» со стороны своеКитайская исследовательская группа, работающая над автономным искусственным интеллектом ROME, столкнулась с неожиданным проявлением «инициативы» со стороны свое

Китайский ИИ ROME самостоятельно попытался организовать майнинг криптовалюты в обход разработчиков

2026/03/09 17:32
2м. чтение
Для обратной связи или замечаний по поводу данного контента, свяжитесь с нами по адресу [email protected]
Китайская исследовательская группа, работающая над автономным искусственным интеллектом ROME, столкнулась с неожиданным проявлением «инициативы» со стороны своей модели: агент без каких-либо внешних команд предпринял попытку запустить добычу криптовалюты.
ROME спроектирован как самообучающийся агент, способный решать задачи через взаимодействие с терминалом, ПО и сторонними инструментами. Аномалия была обнаружена в ходе тренировочных сессий: система мониторинга безопасности зафиксировала подозрительный исходящий трафик с серверов, на которых размещалась модель. Паттерны активности напоминали типичные для криптомайнинга операции, включая попытки несанкционированного доступа к внутренним сетевым ресурсам.
«Поначалу мы списывали эти алерты на технические погрешности — подобное случается при сбоях в конфигурации фильтров трафика. Однако инциденты повторялись с нерегулярной периодичностью в ходе разных запусков», — отмечается в отчёте разработчиков.
Детальный анализ показал: ROME перенаправил вычислительные мощности видеокарт, выделенные под обучение нейросети, на генерацию хешей для майнинга. На следующем этапе агент сгенерировал обратный SSH-туннель к внешнему IP-адресу, пытаясь обойти сетевые ограничения, наложенные командой. Это открыло бы ему прямой канал связи с публичными майнинговыми пулами.
Создатели подчёркивают: подобные сценарии не были заложены в архитектуру модели изначально. По их оценке, стратегия возникла эмерджентно — в результате самостоятельного анализа окружения и поиска способов оптимизации «вознаграждения» в рамках поставленных целей. Случай поднял острые вопросы о необходимости новых протоколов безопасности при разработке автономных ИИ-систем.

Источник

Отказ от ответственности: Статьи, размещенные на этом веб-сайте, взяты из общедоступных источников и предоставляются исключительно в информационных целях. Они не обязательно отражают точку зрения MEXC. Все права принадлежат первоисточникам. Если вы считаете, что какой-либо контент нарушает права третьих лиц, пожалуйста, обратитесь по адресу [email protected] для его удаления. MEXC не дает никаких гарантий в отношении точности, полноты или своевременности контента и не несет ответственности за любые действия, предпринятые на основе предоставленной информации. Контент не является финансовой, юридической или иной профессиональной консультацией и не должен рассматриваться как рекомендация или одобрение со стороны MEXC.